Statistique mathématique - Laboratoire de Statistique Théorique et

Université Pierre et Marie Curie
Master Mathématiques et Applications
Année 2015/2016
Second Semestre
Statistique mathématique
Arnaud Guyader

Remerciements
Je remercie sincèrement Lucien Birgé, précédent responsable du module de Statistique mathéma-
tique, de m’avoir prêté le cours qu’il avait rédigé et dont je me suis inspiré pour le présent document.
Le Chapitre 2est, grosso modo, un condensé des Chapitres 2 et 3 du livre Régression avec Rde
Pierre-André Cornillon et Eric Matzner-Lober, que je remercie également à cette occasion.

Table des matières
1 Modélisation statistique 1
1.1 Probabilités : rappels et compléments .......................... 1
1.1.1 Modes de convergence .............................. 2
1.1.2 Majorations classiques .............................. 5
1.1.3 Théorèmes asymptotiques ............................ 7
1.1.4 Opérations sur les limites . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.1.5 Absolue continuité et densités . . . . . . . . . . . . . . . . . . . . . . . . . . 14
1.2 Modèles statistiques ................................... 16
1.3 Les problèmes statistiques classiques . . . . . . . . . . . . . . . . . . . . . . . . . . 19
1.3.1 Estimation .................................... 19
1.3.2 Intervalles de confiance .............................. 21
1.3.3 Tests d’hypothèses ................................ 24
2 Le modèle linéaire gaussien 31
2.1 Régression linéaire multiple ............................... 33
2.1.1 Modélisation ................................... 33
2.1.2 Estimateurs des Moindres Carrés . . . . . . . . . . . . . . . . . . . . . . . . 34
2.2 Le modèle gaussien .................................... 38
2.2.1 Quelques rappels ................................. 39
2.2.2 Lois des estimateurs et domaines de confiance . . . . . . . . . . . . . . . . . 42
2.2.3 Prévision ..................................... 45
2.2.4 Estimateurs du Maximum de Vraisemblance . . . . . . . . . . . . . . . . . . 48
2.2.5 Tests d’hypothèses ................................ 48
3 Estimation non paramétrique 55
3.1 Loi et moments empiriques ............................... 55
3.1.1 Moyenne et variance empiriques ......................... 56
3.1.2 Loi empirique ................................... 58
3.2 Fonction de répartition et quantiles empiriques . . . . . . . . . . . . . . . . . . . . 59
3.2.1 Statistiques d’ordre et fonction de répartition empirique . . . . . . . . . . . 59
3.2.2 Quantiles et quantiles empiriques . . . . . . . . . . . . . . . . . . . . . . . . 61
3.3 Théorèmes limites .................................... 69
3.3.1 Loi des grands nombres uniforme : Glivenko-Cantelli . . . . . . . . . . . . . 69
3.3.2 Vitesse uniforme : Kolmogorov-Smirnov et DKWM . . . . . . . . . . . . . . 71
4 Estimation paramétrique unidimensionnelle 75
4.1 Applications de la Delta méthode . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75
4.1.1 La méthode des moments . . . . . . . . . . . . . . . . . . . . . . . . . . . . 76
4.1.2 Utilisation des quantiles empiriques ....................... 79
4.1.3 Stabilisation de la variance ........................... 80
i