6 - Unifr

Universit´e de Fribourg D´epartement de Math´ematiques
Prof. C. Mazza Introduction aux Statistiques, S´erie 6 SP 2013
Exercice 1. Propri´et´es d’un estimateur.
Supposons que l’on veuille, `a partir d’une observation d’un vecteur al´eatoire X= (X1, . . . , Xn), estimer
un param`etre r´eel inconnu θ∈Θ⊆Rpar une variable al´eatoire ˆ θn=h(X). On d´efinit le biais
Biais(ˆ θn) := Eθ(θ−ˆ θn) et le risque quadratique moyen (mean square error) MSE(ˆ θn) := Eθ((θ−ˆ θn)2).
L’estimateur ˆ θnest dit sans biais si Biais(ˆ θn) = 0, asymptotiquement sans biais si Biais(ˆ θn)−→ 0
lorsque n→ ∞ et consistant si ˆ θnconverge en probabilit´e vers la vraie valeur θ, i.e.
Pθ(|ˆ θn−θ|> ε)−→
n→∞ 0∀ε > 0, θ ∈Θ.
Un ”bon” estimateur doit ˆetre asymptotiquement sans biais, consistant et de variance la plus petite
possible. Montrer que :
(a) MSE(ˆ θn) = Var(ˆ θn) + Biais(ˆ θn)2
(b) si MSE(ˆ θn)−→ 0 lorsque n→ ∞ pour tout θ∈Θ, alors ˆ θnest consistant.
Indication : utiliser l’in´egalit´e de Markov.
Exercice 2. Soit X1, . . . , Xndes variables al´eatoires i.i.d. telles que E(|X1|)<∞,E(X2
1)<∞,
E(X1) = θet Var(X1) = σ2.
(a) Montrer que ˆ θn=¯ Xn=1
nPi
i=1 Xiest un estimateur consistant et sans biais de θ.
(b) Montrer que ˆσ2
n=1
n−1Pn
i=1 Xi−¯
Xn2est un estimateur consistant et sans bias de σ2.
Exercice 3. Estimation d’une variable uniforme.
Soit X1, X2, . . . , Xnun n-´echantillon issu de la variable al´eatoire Xde loi uniforme sur [0, θ] o`u θest `a
estimer.
(a) Montrer que ˆ θ=n+1
nmax{X1, . . . , Xn}est un estimateur sans biais de θ.
(b) Comparer l’information de Fisher de Xet la variance de ˆ θ. Que remarquez-vous ?
Exercice 4. Variable exponentielle.
Soit X1, X2, . . . , Xnun n-´echantillon issu de la variable al´eatoire exponentielle Xde densit´e gθ(x) = 1
θe−1
θx,
θ > 0.
(a) D´eterminer l’estimateur du maximum de vraisemblance ˆ θde θ. Montrer que ˆ θest sans biais et qu’il
est de variance minimale dans l’ensemble des estimateurs sans biais de θ.
(b) Pour quelle valeur de ale risque quadratique moyen Eθ((aˆ θ−θ)2) est minimal ?
`
A rendre jusqu’au vendredi 12 avril, `a 12h.
http://perso.unifr.ch/florence.yerly/proba12-13.html