Sorbonne Université, Master 1
Cours : A. Guyader 4MA015, Statistique, 2019-2020
TD : A. Ben-Hamou, A. Godichon et M. Sangnier
TD 4 : Maximum de vraisemblance
Exercice 1 (Modèles de translation) Soit X1, . . . , Xni.i.d. de densité commune fθ(x) =
f(xθ),θR. Déterminer l’estimateur du maximum de vraisemblance dans les cas suivants :
1. fest la densité de la loi N(0, σ2)(σconnue) ;
2. f(x) = 1
2e−|x|(loi de Laplace) ;
3. f(x) = 3
4(1 x2)sur [1,1].
Exercice 2 (Loi discrète) Soit θ]0,1[ un paramètre inconnu, on note Xune variable
aléatoire de loi définie par
Pθ(X=k)=(k+ 1)(1 θ)2θk,pour tout kN.
On donne
Eθ[X] = 2θ
1θet Varθ[X] = 2θ
(1 θ)2.
On souhaite estimer θà partir d’un échantillon X1, . . . , Xnde même loi que X.
1. Donner un estimateur ˆ
θnde θpar la méthode des moments.
2. L’estimateur du maximum de vraisemblance ˜
θnde θest-il bien défini ?
3. Étudier la consistance de ˆ
θnet déterminer sa loi limite.
Exercice 3 (Loi exponentielle translatée) On observe un échantillon X1, . . . , Xndont la
loi admet la densité
fθ(x) = exp((xθ))1[θ,+[(x),
θest un paramètre réel inconnu.
1. Quels estimateurs de θpouvez-vous proposer en utilisant les méthodes usuelles ?
2. Déterminer la loi de n(ˆ
θnθ). En déduire un intervalle de confiance pour θde niveau 1α.
3. Soit α]0,1[.On souhaite tester au niveau α
H0:θ0contre H1:θ < 0.
(a) Construire un test à partir de l’intervalle de confiance de la question 2, calculer sa
puissance et donner son allure (pour net αfixés). Quelle est sa taille α??
(b) Proposer un autre test qui soit, lui, de taille α.
(c) Calculer la fonction puissance du test. La représenter en fonction de θpour net α
fixés.
(d) Comment varie la puissance en fonction de α? en fonction de n?
4. Proposer un test de niveau αde H0: « La loi de X1est une loi exponentielle » contre H1:
« La loi de X1n’est pas une loi exponentielle ». Calculer la puissance de ce test.
Exercice 4 (Non-robustesse de l’EMV) Dans tout l’exercice, on observe X1, . . . , Xni.i.d.
de loi Q.
1. Modèle gaussien ordinaire. Supposons Qdans le modèle Pθ, θ R, où Pθ=N(θ, 1).
(a) Déterminer l’estimateur du maximum de vraisemblance ˆ
θMV du modèle. En déduire
un estimateur b
QMV de la loi Q.
(b) En pratique, est-il concevable que Qne soit pas dans le modèle proposé ? Que penser
de l’estimateur b
QMV comme estimateur de Qdans ce cas ?
(c) Supposons que Q= 0.99P0+0.01P300. Est-ce que Qappartient au modèle Pθ, θ R?
Donner la densité de Qpar rapport à la mesure de Lebesgue.
(d) Intuitivement, est-ce que l’estimateur b
Qest proche de Q?
(e) Proposer une autre méthode d’estimation de θqui ne souffre pas de cet inconvénient,
c’est-à-dire qui est « robuste » à la mauvaise spécification du modèle. On pourra par
exemple chercher à montrer que la médiane de Qest entre 0et 0.02.
Indication : Φ(0.02) >0.507 Φest la fonction de répartition de la loi N(0,1).
2. (?) Distance en variation totale. Afin de préciser ce dernier point, nous allons mesurer
la distance entre deux lois de probabilité à l’aide de la distance en variation totale : si P
et Qsont deux lois de probabilités sur (R,B), on pose
dvt(P, Q) = sup
A∈B
|P(A)Q(A)|.
(a) Montrer que dvt(P0, Q)0.01.
(b) Montrer que dvt(P3, Q)0.75.
Indication : on pourra considérer un ensemble A= [x0, x0]avec x0bien choisi et
utiliser le fait que, si Z N (0,1), alors P(|Z| ≤ 2) 0.95 et P(|Z+ 3| ≤ 2) 0.16.
(c) Montrer que la limite p.s. de dvt(b
Q, Q)existe et est plus grande que 0.75.
Indication : on pourra utiliser la relation selon laquelle, lorsque Pet Qont des densités
fet gpar rapport à la mesure de Lebesgue µ, alors dvt(P, Q)=0.5R|fg|.
(d) Conclure.
Exercice 5 (?) (Données censurées) Soient θ?>0et X1, . . . , Xnun échantillon de
variables aléatoires i.i.d. distribuées selon E(θ?). On appelle, pour tout i∈ {1, . . . , n},Yi=
min(Xi,1).
1. Déterminer la loi de Y1, notée Pθ?Est-elle discrète ? Est-elle absolument continue ?
2. On se donne le modèle statistique (Pθ)θ>0. Donner une mesure dominante µde ce modèle.
Pour tout θ > 0, déterminer une densité (notée fθ) de Pθpar rapport à µ.
3. Calculer l’EMV ˆ
θnde θ?.
4. Montrer que ˆ
θnest un estimateur consistant de θ?.
Exercice 6 (?) (Loi uniforme translatée) Soient X1, . . . , Xndes observations i.i.d. de
densité fθ,θréel, donnée par fθ(x) = 1[θ+1](x).
1. Comment peut-on définir l’estimateur du maximum de vraisemblance de θ?
2. Déterminer les lois exactes et asymptotiques de n(X(1) θ)et de n(θ+ 1 X(n)).
3. Montrer que pour toute variable aléatoire Yà valeurs dans R+et tout kN?(on pourra
retenir cette formule, ainsi que sa preuve)
E[Yk] = kZ+
0
tk1P(Y > t)dt.
En déduire les deux premiers moments de n(X(1) θ).
4. Étudier la consistance des estimateurs du maximum de vraisemblance de θ.
5. Majorer supn1n2R(ˆ
θn, θ)pour tout estimateur du maximum de vraisemblance ˆ
θnde θ.
6. Proposer un intervalle de confiance pour θau niveau 95%.Donner l’application numérique
pour α= 0.05 et ˆ
θ= 3, avec n= 10 et n= 100.
Exercice 7 (?) (Mélange de lois uniformes) Soit X1, . . . , Xni.i.d. dont la loi admet la
densité
fθ,λ(x) = λ1[0,1](x) + 1λ
θ1[0](x),
λ[0,1[ et θ1sont deux paramètres inconnus.
1. Montrer que, si on exclut une valeur de θà préciser, le modèle est identifiable. Sauf indi-
cation contraire, on supposera cette condition vérifiée dans la suite.
2. Montrer que la densité fθpeut s’écrire, pour tout xR,
fθ,λ(x) = λ+1λ
θ1[0,1](x)1λ
θ1[1](x)
1[0](x)
3. Déterminer l’EMV de λlorsque θest connu, l’EMV de θlorsque λest connu, puis l’EMV
de (θ, λ)lorsque les 2 paramètres sont inconnus.
4. Étudier la consistance et la loi limite de l’EMV de θ, que λsoit ou non connu.
5. Étudier la consistance de l’EMV de λlorsque θconnu, puis lorsque θest inconnu. Que se
passe-t-il si θ= 1 ?
6. Construire un test de H0:θ= 1 contre H1:θ > 1au niveau α. Pour λ[0,1[ et θ > 1
fixés, étudier la limite de la puissance lorsque ntend vers l’infini.
Exercice 8 (?) (Densité en escalier) Pour tout paramètre réel θ, on définit sur Rla
fonction
fθ(x) =
1θsi 1/2< x 0,
1 + θsi 0< x 1/2,
0sinon.
1. Quelles conditions doit vérifier θpour que fθsoit une densité par rapport à la mesure de
Lebesgue sur R?
2. Soit (X1, . . . , Xn)un échantillon de densité fθ. L’estimateur du maximum de vraisemblance
ˆ
θnde θest-il bien défini ?
3. Sous les conditions de la question 1, ˆ
θnest-il sans biais ? consistant ? asymptotiquement
normal ?
1 / 3 100%
La catégorie de ce document est-elle correcte?
Merci pour votre participation!

Faire une suggestion

Avez-vous trouvé des erreurs dans linterface ou les textes ? Ou savez-vous comment améliorer linterface utilisateur de StudyLib ? Nhésitez pas à envoyer vos suggestions. Cest très important pour nous !