Exercices sur les principes de statistique et d'économétrie, Exercices de Mathématiques Appliqués. Université des Sciences et Technologies de Lille (Lille I)
Caroline_lez
Caroline_lez28 January 2014

Exercices sur les principes de statistique et d'économétrie, Exercices de Mathématiques Appliqués. Université des Sciences et Technologies de Lille (Lille I)

PDF (275.7 KB)
2 pages
704Numéro de visites
Description
Exercices de mathématiques sur les principes de statistique et d'économétrie. Algorithme EM pour le mélange de lois de Poisson. Les principaux thèmes abordés sont les suivants: Statistiques descriptives, Modèle de mélang...
20points
Points de téléchargement necessaire pour télécharger
ce document
Télécharger le document

TD 2 : Algorithme EM pour le mélange de lois de Poisson M2 Statistique et économétrie

Séries temporelles

2010-11

L’objectif de ce TD est d’aider à mieux comprendre le modèle de mélange de lois. On s’intéressera notamment à la simulation de réalisations de ce modèle et au problème de l’inférence dans les modèles de mélange.

Nous considérons les données des nombres de tremblements de terre par an entre 1900 et 2006. Vous pouvez les trouver sur la page web du cours. Charger les données sous R et tracer la série temporelle.

1. Statistiques descriptives 1. Estimer les premiers moments (centrés réduits) du nombre de tremblements de terre par an.

2. Tracer un histogramme (ou diagramme en batons) normalisé illustrant la distribution des données.

3. Une des lois les plus usuelles pour un nombre d’occurences est la loi de Poisson. Que pensez-vous de ce modèle dans le cas présent? Pourquoi? Ajouter sur votre diagramme en batons la représentation de la loi de Poisson adhoc (utiliser par exemple la fonction dpois).

2. Modèle de mélange Considérons une variable aléatoire X ∈ N distribuée comme un mélange de M lois de Poisson de paramètres λ1, · · · , λM avec les proportions π1, · · · , πM (π1 + · · ·+ πM = 1).

Question 1 - Modèle 1. Notons S la variable de classe. Donner la loi de S.

2. Ecrire la loi de X sous la forme P (X = x) = · · · .

Question 2 - Inférence Soient p = 1 et M = 2. Soient x1, · · · , xn, n réalisations i.i.d. du vecteur X. On va utiliser l’algorithme EM pour estimer les paramètres du modèle.

Etape E

1. Donner le vecteur θ des paramètres à estimer. Quelle est sa dimension?

2. Montrer que la log-vraisemblance des données complètes s’écrit

logL(θ;x1, · · · , xn) = n∑ i=1

M∑ m=1

δm(si) log(πmPλm(X = xi))

3. En déduire l’expression de la fonction Q(θ, θ0). Se reporter au cours pour la définition.

1 docsity.com

Etape M

1. Ecrire les dérivées de Q(θ, θ0) en fonction de θ et en déduire la formulation de l’étape M.

Question 3 - Mise en pratique de l’algorithme EM 1. Ecrire une fonction pour l’algorithme EM1 dans le cas d’un mélange univarié de M lois de Poisson.

2. Nous allons valider le programme et étudier les propriétés des estimateurs. Générer un échantillon de taille n = 107 suivant un modèle de mélange de deux lois de Poisson de paramètres λ1 = 5 et λ2 = 15.

3. Estimer le biais et la covariance des estimateurs par simulation : simuler B = 500 échantillons ayant les mêmes propriétés que dans la questions précédente, pour chacun d’eux estimer les paramètre et en déduire une estimation du biais et de la covariance des estimateurs. Ces propriétés dépendent- elles de la valeur initiale choisie pour l’estimation par EM?

4. Comparer les résultats à ceux de l’approximation de la covariance des estimateurs obtenus par l’information de Fisher.

Question 4 - Application On revient maintenant aux données.

1. Proposer une (ou plusieurs) modélisation(s) de la loi du nombre de tremblements de terre par an.

2. Estimer les paramètres du (ou des) modèles. Si vous avez considéré plusieurs modèles, calculer les critères BIC associés pour vous aider à choisir le "meilleur".

3. Valider votre modèle en comparant les moments théoriques et empiriques ainsi que les distributions.

1Dans R, le package mclust= propose des algorithmes EM.

2 docsity.com

commentaires (0)
Aucun commentaire n'a été pas fait
Écrire ton premier commentaire
Ceci c'est un aperçu avant impression
Chercher dans l'extrait du document
Docsity n'est pas optimisée pour le navigateur que vous utilisez. Passez à Google Chrome, Firefox, Internet Explorer ou Safari 9+! Téléchargez Google Chrome