6 - Unifr

Université de Fribourg
Département de Mathématiques
Prof. C. Mazza
Introduction aux Statistiques, Série 6
SP 2013
Exercice 1. Propriétés d’un estimateur.
Supposons que l’on veuille, à partir d’une observation d’un vecteur aléatoire X = (X1 , . . . , Xn ), estimer
un paramètre réel inconnu θ ∈ Θ ⊆ R par une variable aléatoire θ̂n = h(X). On définit le biais
Biais(θ̂n ) := Eθ (θ − θ̂n ) et le risque quadratique moyen (mean square error) MSE(θ̂n ) := Eθ ((θ − θ̂n )2 ).
L’estimateur θ̂n est dit sans biais si Biais(θ̂n ) = 0, asymptotiquement sans biais si Biais(θ̂n ) −→ 0
lorsque n → ∞ et consistant si θ̂n converge en probabilité vers la vraie valeur θ, i.e.
Pθ (|θ̂n − θ| > ε) −→ 0
n→∞
∀ε > 0,
θ ∈ Θ.
Un ”bon” estimateur doit être asymptotiquement sans biais, consistant et de variance la plus petite
possible. Montrer que :
(a) MSE(θ̂n ) = Var(θ̂n ) + Biais(θ̂n )2
(b) si MSE(θ̂n ) −→ 0 lorsque n → ∞ pour tout θ ∈ Θ, alors θ̂n est consistant.
Indication : utiliser l’inégalité de Markov.
Exercice 2. Soit X1 , . . . , Xn des variables aléatoires i.i.d. telles que E(|X1 |) < ∞, E(X12 ) < ∞,
E(X1 ) = θ et Var(X1 ) = σ 2 .
(a) Montrer que θ̂n = X̄n =
(b) Montrer que σ̂n2 =
1
n−1
1
n
Pn
Pi
i=1
Xi est un estimateur consistant et sans biais de θ.
2
Xi − X̄n est un estimateur consistant et sans bias de σ 2 .
i=1
Exercice 3. Estimation d’une variable uniforme.
Soit X1 , X2 , . . . , Xn un n-échantillon issu de la variable aléatoire X de loi uniforme sur [0, θ] où θ est à
estimer.
(a) Montrer que θ̂ =
n+1
n
max{X1 , . . . , Xn } est un estimateur sans biais de θ.
(b) Comparer l’information de Fisher de X et la variance de θ̂. Que remarquez-vous ?
Exercice 4. Variable exponentielle.
1
Soit X1 , X2 , . . . , Xn un n-échantillon issu de la variable aléatoire exponentielle X de densité gθ (x) = θ1 e− θ x ,
θ > 0.
(a) Déterminer l’estimateur du maximum de vraisemblance θ̂ de θ. Montrer que θ̂ est sans biais et qu’il
est de variance minimale dans l’ensemble des estimateurs sans biais de θ.
(b) Pour quelle valeur de a le risque quadratique moyen Eθ ((aθ̂ − θ)2 ) est minimal ?
À rendre jusqu’au vendredi 12 avril, à 12h.
http://perso.unifr.ch/florence.yerly/proba12-13.html