Université Pierre et Marie Curie M2 de Statistique Année 2016–2017 Mise à Niveau en Statistique Mathématique Tabea Rebafka Feuille d’exercice N◦ 2 Estimation de paramètres Exercice 1. Loi exponentielle Soit X = (X1 , . . . , Xn ) un échantillon de loi exponentielle E(θ) de paramètre θ > 0 ayant comme densité fθ (x) = θe−θx 1{x > 0} . 1. Montrer que l’estimateur du maximum de vraisemblance vaut θ̂n = 1/X̄n . 2. Calculer le risque quadratique de θ̂n . Montrer que le risque quadratique tend vers 0 quand n tend vers l’infini et en particulier que l’estimateur θ̂n est asymptotiquement sans biais. Est-ce que l’estimateur θ̂n est consistant ? 3. Déterminer la loi limite de θ̂n . Calculer l’information de Fisher du modèle. Est-ce que θ̂n est asymptotiquement efficace ? Exercice 2. Loi de Bernoulli Supposons que les observations x = (x1 , . . . , xn ) sont n réalisations indépendantes d’une variable aléatoire X de loi Bernoulli de paramètre p ∈]0, 1[ inconnu. 1. (a) Estimer p par la méthode des moments et du maximum de vraisemblance. (b) Calculer le risque quadratique de l’estimateur du maximum de vraisemblance p̂n de p. Montrer que p̂n est consistant et déterminer sa loi asymptotique. 2. (a) Notons v = p(1 − p) la variance de la loi de Bernoulli B(p). La statistique v̂n = x̄n (1 − x̄n ) est un estimateur de v. Montrer que v̂n est consistant pour v. (b) À partir de v̂n , proposer un estimateur sans biais ṽn de v. (c) Déterminer la loi asymptotique de ṽn . Exercice 3. On considère dans R2 le carré K = {(x, y) : |x| + |y| < 1} et on désigne par 1K la fonction indicatrice de K. 1. Pour quelle valeur du réel α la fonction α1K est–elle une densité de probabilité ? La valeur α étant ainsi déterminée, on considère le couple de variables (X, Y ) ayant la densité α1K . 2. Déterminer les lois marginales de X et Y . 3. Les variables aléatoires X et Y sont–elles indépendantes ? 4. Déterminer la loi des variables aléatoires X + Y et X − Y . Sont–elles indépendantes ? 1 Exercice 4. Loi double exponentielle 1. Soit X = (X1 , . . . , Xn ) un échantillon de loi double exponentielle ou loi de Laplace, dont la densité est donnée par fθ (x) = 1 − |x| e θ , 2θ x∈R, avec θ ∈ Θ =]0, +∞[. (a) Tracer la densité fθ pour différentes valeurs de θ. (b) Calculer l’estimateur du maximum de vraisemblance de θ. Est-il unique et presque sûrement bien défini ? Est-il consistant et asymptotiquement normal ? 2. On considère maintenant un échantillon X = (X1 , . . . , Xn ) de loi double exponentielle avec un paramètre de position µ. Plus précisément, la densité s’écrit 1 fµ (x) = e−|x−µ| , 2 x∈R, où µ ∈ R = Θ. a) Tracer la densité fµ pour différentes valeurs de µ. b) Calculer l’estimateur du maximum de vraisemblance de θ. Est-il unique et presque sûrement bien défini ? Que dire de la consistance et de la loi limite de l’estimateur ? Exercice 5. Loi de Pareto Soient n variables aléatoires i.i.d. X1 , . . . , Xn , de densité de Pareto fθ (x) = θ xθ+1 1{x ≥ 1} , où θ > 0 est un paramètre inconnu que l’on souhaite estimer. 1. On suppose d’abord que l’ensemble des paramètres est Θ = {θ > 1}. Estimer θ par la méthode des moments. 2. On suppose maintenant que l’ensemble des paramètres est Θ = {θ > 0}. Montrer que la méthode des moments n’est pas applicable. Estimer θ par la méthode des moments généralisée et par celle du maximum de vraisemblance. 3. Donner la loi limite de l’estimateur du maximum de vraisemblance. 4. Calculer l’information de Fisher I(θ). Est-ce que l’estimateur du maximum de vraisemblance est asymptotiquement efficace ? Exercice 6. Pour tout p > 0, on désigne par fp (x) la densité par rapport à la mesure de Lebesgue sur R donnée par fp (x) = p+1 (1 − |x|)p 1]−1,1[ (x) . 2 On dispose de n observations i.i.d. X1 , . . . , Xn de densité fp . 1. Calculer l’estimateur p̂n du maximum de vraisemblance. 2. Déterminer la loi de Y = − log(1 − |X1 |). 3. Montrer que l’estimateur p̂n est consistant et donner la loi limite de asymptotiquement efficace ? 2 √ n(p̂n − p). Est-il Exercice 7. Modèles non-réguliers Considérons le modèle uniforme {U [0, θ], θ > 0}. Soient X1 , . . . , Xn des variables aléatoires i.i.d. de loi U [0, θ]. 1. Est-ce que le modèle vérifient les conditions de régularité du Théorème de la borne de Cramer-Rao ? 2. Déterminer l’estimateur du maximum de vraisemblance θ̂nM V , et calculer son biais et sa variance. Noter que son risque quadratique converge vers 0 à la vitesse 1/n2 . 3. Parmi les estimateurs de la forme cθ̂nM V , c ∈ R, déterminer celui qui a un risque quadratique minimal. On note cet estimateur θ̃n . Déduire que l’estimateur du maximum de vraisemblance θ̂nM V est inadmissible. 4. Chercher les lois limites de n(θ̂nM V − θ) et de n(θ̃n − θ). 3