Cours d`Initiation à la Statistique

Université des Sciences et Technologies de Lille
U.F.R. de Mathématiques Pures et Appliquées
Bât. M2, F-59655 Villeneuve d’Ascq Cedex
Initiation à la
Statistique
IS-Math314
Chapitres 1–4
Charles SUQUET
Licence de Mathématiques L3 2009–2010

Table des matières
1 Théorème limite central 5
1.1 Convergence en loi .............................. 5
1.2 Normalité asymptotique ........................... 10
1.2.1 Sommes de variables aléatoires i.i.d. ................. 10
1.2.2 Vitesse de convergence dans le TLC ................. 12
1.2.3 Intervalle de confiance pour une probabilité inconnue ....... 14
1.2.4 Généralisation du TLC ........................ 16
1.3 Théorème limite central vectoriel ...................... 18
1.3.1 Espérance et covariance d’un vecteur aléatoire ........... 18
1.3.2 Vecteurs aléatoires gaussiens ..................... 21
1.3.3 TLC vectoriel ............................. 25
1.4 Compléments sur la convergence en loi et le TLC ............. 27
1.4.1 Outillage pour la convergence en loi ................. 27
1.4.2 Démonstration du TLC ........................ 34
2 Simulation de variables et vecteurs aléatoires 41
2.1 Introduction .................................. 41
2.2 Méthode théorique pour simuler une v.a.r. ................. 42
2.3 Méthodes particulières pour lois usuelles .................. 46
2.3.1 Lois discrètes à support fini ..................... 46
2.3.2 Lois binomiales et multinomiales .................. 48
2.3.3 Lois de Poisson ............................ 50
2.3.4 Lois géométriques ........................... 52
2.3.5 Lois gaussiennes ............................ 53
2.4 Algorithmes de rejet ............................. 55
2.4.1 Simulation de lois uniformes par rejet ................ 55
2.4.2 Simulation de lois à densité par rejet ................ 59
2.4.3 Simulation d’une loi discrète par rejet ................ 63
2.5 Simulation de vecteurs aléatoires par transformation ............ 65
2.5.1 Loi uniforme par transformation affine ............... 65
2.5.2 Vecteur gaussien de covariance donnée ............... 71
Bibliographie .................................... 73
3

3 Échantillons et statistiques 75
3.1 Modélisation statistique ........................... 75
3.2 Mesure empirique ............................... 80
3.2.1 Une loi construite à partir des observations ............. 80
3.2.2 Convergence de la f.d.r. empirique vers la f.d.r. théorique ..... 83
3.2.3 Application au test de Kolmogorov-Smirnov ............ 90
3.3 Moments empiriques ............................. 92
3.3.1 Moments observés et moments empiriques ............. 92
3.3.2 Espérance et variance des moments empiriques ........... 93
3.4 Lois des moments empiriques ........................ 95
3.4.1 Échantillon de grande taille ..................... 95
3.4.2 Échantillon gaussien ......................... 99
4 Estimation 105
4.1 Estimateurs ..................................105
4.1.1 Exemples ...............................105
4.1.2 Généralités ..............................107
4.1.3 Erreur quadratique moyenne .....................108
4.2 Maximum de vraisemblance .........................116
4.2.1 Exercice introductif ..........................116
4.2.2 Cas discret ..............................117
4.2.3 Cas à densité .............................118
A Tables statistiques 121
A.1 Loi normale standard .............................121
A.2 Lois du khi2 ..................................123
A.3 Lois de Student ................................125
A.4 Test de Kolmogorov Smirnov .........................127
4Ch. Suquet,Cours I.S. 2010

Chapitre 1
Théorème limite central
Le théorème limite central nous dit qu’une somme d’un grand nombre de variables
aléatoires indépendantes, de carré intégrable, convenablement normalisée, se comporte
asymptotiquement « en loi » comme une v.a. gaussienne. Il explique l’importance centrale
des lois gaussiennes dans la théorie des probabilités et la statistique. Il complète la loi des
grands nombres en donnant une sorte de vitesse de convergence, permettant notamment
de construire des « intervalles de confiance » pour l’estimation d’un paramètre.
Pour donner un sens mathématique précis à cette notion de « comportement asymp-
totique en loi », il nous faut d’abord introduire la convergence en loi.
1.1 Convergence en loi
Nous admettrons l’équivalence des deux définitions suivantes de la convergence en
loi.
Définition 1.1 (convergence en loi).Notons Fnet Fles fonctions de répartition re-
spectives des variables aléatoires réelles Yn(n≥1) et Y. On dit que la suite (Yn)n≥1
converge en loi vers Ysi
∀xpoint de continuité de F,Fn(x)−−−−→
n→+∞F(x).(1.1)
Rappelons que xest point de continuité de la f.d.r. Fsi et seulement si F(x−) = F(x)
ou encore P(Y=x)=0.
Définition 1.2 (convergence en loi).On dit que la suite (Yn)n≥1de variables aléatoires
réelles converge en loi vers la variable aléatoire réelle Ysi
∀hcontinue bornée R→R,Eh(Yn)−−−−→
n→+∞Eh(Y).(1.2)
Remarquons que si hest continue bornée, les h(Yn)et h(Y)sont des v.a. bornées,
donc intégrables. Nous noterons la convergence en loi de Ynvers Ypar
Yn
loi
−−−−→
n→+∞Y.
5