M1 BIBS Mise à niveau en Mathématiques Année universitaire 2016-2017 TD n◦ 3 : Estimation par maximum de vraisemblance. Exercice n◦ 1 : À la main... Dans une population de taille N = 4, les valeurs prises par une variable aléatoire Y sont donnée par Y := {−4, −2, 2, 4}. On suppose que Y est la loi uniforme sur Y (tirage équiprobable). (a) Calculer la moyenne µ et la variance σ2 de Y dans cette population. (b) Calculer le moyenne X̄ = (1/2)(X 1 + X 2 ) et la variance S 2 = (X 1 − X̄ )2 + (X 2 − X̄ )2 de tous les échantillons (X 1 , X 2 ) de taille n = 2. Pour cela on considère deux modèles : dans le modèle 1, X 1 et X 2 sont indépendantes de loi Y (16 cas à traiter) et dans le modèle 2, (X 1 , X 2 ) sont telles que X 1 est tirée selon Y et puis X 2 est choisie uniformément parmi les valeurs restantes (i.e. c’est un tirage sans remise sur Y et il y a 12 cas à traiter). (c) En déduire que la moyenne de X̄ = (1/2)(X 1 +X 2 ) de l’échantillon est un estimateur non-biaisé de µ := E(Y ). Calculer la moyenne des S 2 dans les deux modèles. Interpréter. (d) Calculer la variance de la moyenne de X̄ dans les deux modèles. Quelle formule permet de retrouver ce résultat ? En déduire Cov(X 1 , X 2 ) dans les deux modèles. Exercice n◦ 2 : Loi uniforme Soit X 1 , . . . , X n un échantillon que l’on modélise par une une loi uniforme sur [0, θ ] où θ est un paramètre inconnu. c (a) Déterminer l’estimateur du maximum de vraisemblance θ n. (b) Est-il biaisé ? (c) Est-il consistant ? (d) Calculer son risque quadratique. Exercice n◦ 3 : Loi exponentielle On rappelle que X v.a. continue suit la loi exponentielle de paramètre 1/µ si sa densité de probabilité est définie par : 1 exp − µx si x ≥ 0, f (x ) = µ 0 sinon. Soit X 1 , . . . , X n un échantillon que l’on modélise par une loi exponentielle de paramètre 1/µ inconnu. On cherche à estimer µ. Ó (a) Déterminer l’estimateur du maximum de vraisemblance µ n. (b) Est-il consistant ? (indication : penser à la loi des grands nombres) (c) Calculer son risque quadratique. Quelle propriété retrouve-t-on ainsi ? Exercice n◦ 4 : Loi de Poisson Définition : X v.a. discrète suit la loi de Poisson de paramètre λ ∈ R+ si X est à valeurs dans N et ∀k ∈ N, P(X = k ) = λk −λ e . k! Soit X 1 , . . . , X n un échantillon que l’on modélise par une loi de Poisson de paramètre λ inconnu. [email protected] Page 1 M1 BIBS 2016-2017 Mise à niveau en Mathématiques TD cn . (a) Déterminer l’estimateur du maximum de vraisemblance λ (b) Est-il consistant ? (c) Calculer son risque quadratique. Quelle propriété retrouve-t-on ? (d) Sous R, faire 500 simulations d’un échantillon de taille 200 suivant une loi de Poisson de pacn . ramètre 5. Visualiser la loi d’échantillonnage de λ FIGURE 1 – Loi de Poisson de paramètre λ = 7 sur n = 1000 simulations. Exercice n◦ 5 : Loi non-usuelle Soit X 1 , . . . , X n un échantillon aléatoire simple issu d’une population de densités : 2θ −1 θ x 1−θ , 1−θ où 1/2 < θ < 1. Déterminer un estimateur par maximum de vraisemblance de θ , est-il unique ? ∀ x ∈ (0, 1) , fθ (x ) = Exercice n◦ 6 : Une loi non-usuelle II Soient X 1 , . . . , X n des variables aléatoires réelles indépendantes et de même loi, de fonction de répartition Fθ définie sur R, pour tout θ > 0, par 2 Fθ (x ) = (1 − e −θ x )1]0,+∞[ (x ) 2 1 − e −θ x si x > 0 = 0 sinon. (a) Calculer l’espérance et la variance de X 2 . (b) Calculer l’estimateur du maximum de vraisemblance de θ . (c) Est-il biaisé ? Calculer son risque quadratique. Est-il consistant ? p (d) Trouver la loi limite de n θ − 1 quand n → +∞. θ̂n Page 2 sur 2