TD n 3 : Estimation par maximum de vraisemblance.

M1 BIBS
Mise à niveau en Mathématiques
Année universitaire 2016-2017
TD n◦ 3 : Estimation par maximum de vraisemblance.
Exercice n◦ 1 : À la main...
Dans une population de taille N = 4, les valeurs prises par une variable aléatoire Y sont donnée
par Y := {−4, −2, 2, 4}. On suppose que Y est la loi uniforme sur Y (tirage équiprobable).
(a) Calculer la moyenne µ et la variance σ2 de Y dans cette population.
(b) Calculer le moyenne X̄ = (1/2)(X 1 + X 2 ) et la variance S 2 = (X 1 − X̄ )2 + (X 2 − X̄ )2 de tous les
échantillons (X 1 , X 2 ) de taille n = 2. Pour cela on considère deux modèles : dans le modèle 1,
X 1 et X 2 sont indépendantes de loi Y (16 cas à traiter) et dans le modèle 2, (X 1 , X 2 ) sont telles
que X 1 est tirée selon Y et puis X 2 est choisie uniformément parmi les valeurs restantes (i.e.
c’est un tirage sans remise sur Y et il y a 12 cas à traiter).
(c) En déduire que la moyenne de X̄ = (1/2)(X 1 +X 2 ) de l’échantillon est un estimateur non-biaisé
de µ := E(Y ). Calculer la moyenne des S 2 dans les deux modèles. Interpréter.
(d) Calculer la variance de la moyenne de X̄ dans les deux modèles. Quelle formule permet de
retrouver ce résultat ? En déduire Cov(X 1 , X 2 ) dans les deux modèles.
Exercice n◦ 2 : Loi uniforme
Soit X 1 , . . . , X n un échantillon que l’on modélise par une une loi uniforme sur [0, θ ] où θ est un
paramètre inconnu.
c
(a) Déterminer l’estimateur du maximum de vraisemblance θ
n.
(b) Est-il biaisé ?
(c) Est-il consistant ?
(d) Calculer son risque quadratique.
Exercice n◦ 3 : Loi exponentielle
On rappelle que X v.a. continue suit la loi exponentielle de paramètre 1/µ si sa densité de probabilité est définie par :
€ Š
1
exp
− µx
si x ≥ 0,
f (x ) = µ
0
sinon.
Soit X 1 , . . . , X n un échantillon que l’on modélise par une loi exponentielle de paramètre 1/µ inconnu. On cherche à estimer µ.
Ó
(a) Déterminer l’estimateur du maximum de vraisemblance µ
n.
(b) Est-il consistant ? (indication : penser à la loi des grands nombres)
(c) Calculer son risque quadratique. Quelle propriété retrouve-t-on ainsi ?
Exercice n◦ 4 : Loi de Poisson
Définition : X v.a. discrète suit la loi de Poisson de paramètre λ ∈ R+ si X est à valeurs dans N et
∀k ∈ N,
P(X = k ) =
λk −λ
e .
k!
Soit X 1 , . . . , X n un échantillon que l’on modélise par une loi de Poisson de paramètre λ inconnu.
[email protected]
Page 1
M1 BIBS 2016-2017
Mise à niveau en Mathématiques
TD
cn .
(a) Déterminer l’estimateur du maximum de vraisemblance λ
(b) Est-il consistant ?
(c) Calculer son risque quadratique. Quelle propriété retrouve-t-on ?
(d) Sous R, faire 500 simulations d’un échantillon de taille 200 suivant une loi de Poisson de pacn .
ramètre 5. Visualiser la loi d’échantillonnage de λ
FIGURE 1 – Loi de Poisson de paramètre λ = 7 sur n = 1000 simulations.
Exercice n◦ 5 : Loi non-usuelle
Soit X 1 , . . . , X n un échantillon aléatoire simple issu d’une population de densités :
2θ −1
θ
x 1−θ ,
1−θ
où 1/2 < θ < 1. Déterminer un estimateur par maximum de vraisemblance de θ , est-il unique ?
∀ x ∈ (0, 1) ,
fθ (x ) =
Exercice n◦ 6 : Une loi non-usuelle II
Soient X 1 , . . . , X n des variables aléatoires réelles indépendantes et de même loi, de fonction de répartition Fθ définie sur R, pour tout θ > 0, par
2
Fθ (x ) = (1 − e −θ x )1]0,+∞[ (x )
2
1 − e −θ x si x > 0
=
0 sinon.
(a) Calculer l’espérance et la variance de X 2 .
(b) Calculer l’estimateur du maximum de vraisemblance de θ .
(c) Est-il biaisé ? Calculer son risque quadratique. Est-il consistant ?
p (d) Trouver la loi limite de n θ − 1 quand n → +∞.
θ̂n
Page 2 sur 2