Polycopié de Probabilités et Processus Stochastiques 2013

UNIVERSITÉ DE LORRAINE
Olivier GARET
Probabilités et Processus Stochastiques
VERSION DE TRAVAIL DU 28 avril 2014

2

Table des matières
Table des matières i
Table des matières i
0 Variables de Bernoulli 1
0.1 La question de l’existence : de [0,1] à{0,1}N.......... 1
0.2 De {0,1}Nà[0,1] : où l’on a envie des processus . . . . . . . . 3
0.3 Inégalités ; lois des grands nombres . . . . . . . . . . . . . . . 4
0.4 Variables de Rademacher et séries de Dirichlet . . . . . . . . . 6
0.4.1 Une série de Dirichlet aléatoire . . . . . . . . . . . . . 6
0.4.2 Comportement au bord . . . . . . . . . . . . . . . . . . 7
1 Équi-intégrabilité 9
1.1 Premières propriétés . . . . . . . . . . . . . . . . . . . . . . . 9
1.2 Application à la convergence dans Lp.............. 11
1.3 Une condition suffisante d’équi-intégrabilité . . . . . . . . . . 12
1.4 Une version du lemme de Scheffé . . . . . . . . . . . . . . . . 12
1.5 Caractérisation par l’équi-continuité . . . . . . . . . . . . . . . 12
1.6 Équi-intégrabilité d’une famille de lois . . . . . . . . . . . . . 13
1.7 Exercices sur l’équi-intégrabilité . . . . . . . . . . . . . . . . . 15
1.7.1 Exercices corrigés . . . . . . . . . . . . . . . . . . . . . 15
1.7.2 Exercices non corrigés . . . . . . . . . . . . . . . . . . 15
2 Espérance conditionnelle 17
2.1 Motivation............................. 17
2.2 construction............................ 18
2.2.1 Propriétés......................... 21
2.2.2 Inégalité de Jensen . . . . . . . . . . . . . . . . . . . . 24
2.2.3 Espérance conditionnelle sachant une variable (ou un
vecteur) aléatoire . . . . . . . . . . . . . . . . . . . . . 25
2.3 Exercices sur l’espérance conditionnelle . . . . . . . . . . . . . 28
i

ii TABLE DES MATIÈRES
2.3.1 Exercices corrigés . . . . . . . . . . . . . . . . . . . . . 28
2.3.2 Exercices non corrigés . . . . . . . . . . . . . . . . . . 28
3 Martingales 33
3.1 Définitions............................. 33
3.1.1 Filtrations et martingales . . . . . . . . . . . . . . . . 33
3.1.2 Différences de martingales . . . . . . . . . . . . . . . . 34
3.1.3 Sous-martingales, sur-martingales . . . . . . . . . . . . 34
3.2 Premières inégalités . . . . . . . . . . . . . . . . . . . . . . . . 35
3.2.1 Martingales et fonctions convexes . . . . . . . . . . . . 35
3.2.2 Inégalité de Kolmogorov . . . . . . . . . . . . . . . . . 35
3.3 Convergence des martingales de carré intégrable . . . . . . . . 36
3.4 Tempsd’arrêts .......................... 38
3.5 Convergence L1des martingales . . . . . . . . . . . . . . . . . 41
3.5.1 Théorème des traversées montantes . . . . . . . . . . . 41
3.5.2 Le théorème de convergence de Doob . . . . . . . . . . 43
3.6 Décomposition de Doob (*) . . . . . . . . . . . . . . . . . . . 44
3.7 Exercices sur les martingales . . . . . . . . . . . . . . . . . . . 46
3.7.1 Exercices corrigés . . . . . . . . . . . . . . . . . . . . . 46
3.7.2 Exercices non corrigés . . . . . . . . . . . . . . . . . . 46
4 Compléments de théorie de la mesure 51
4.1 Rappels de topologie . . . . . . . . . . . . . . . . . . . . . . . 51
4.1.1 Topologie produit . . . . . . . . . . . . . . . . . . . . . 51
4.1.2 Espaces polonais . . . . . . . . . . . . . . . . . . . . . 52
4.2 Notion de loi conditionnelle . . . . . . . . . . . . . . . . . . . 54
4.2.1 Le théorème général . . . . . . . . . . . . . . . . . . . 54
4.2.2 Loi d’un vecteur sachant un autre . . . . . . . . . . . . 57
4.2.3 Échantillonneur de Gibbs . . . . . . . . . . . . . . . . 58
4.3 Théorème de Radon-Nikodým . . . . . . . . . . . . . . . . . . 59
4.4 Exercices sur les compléments . . . . . . . . . . . . . . . . . . 63
4.4.1 Exercices corrigés . . . . . . . . . . . . . . . . . . . . . 63
4.4.2 Exercices non corrigés . . . . . . . . . . . . . . . . . . 63
5 Inégalités 65
5.1 Inégalité d’Efron–Stein . . . . . . . . . . . . . . . . . . . . . . 65
5.2 L’inégalité de Hoeffding–Azuma . . . . . . . . . . . . . . . . . 66
5.2.1 Lethéorème........................ 66
5.2.2 Principe de Maurey . . . . . . . . . . . . . . . . . . . . 69
5.3 Inégalité de Harris . . . . . . . . . . . . . . . . . . . . . . . . 70
5.4 Exercices sur les inégalités . . . . . . . . . . . . . . . . . . . . 71

TABLE DES MATIÈRES iii
5.4.1 Exercices corrigés . . . . . . . . . . . . . . . . . . . . . 71
5.4.2 Exercices non corrigés . . . . . . . . . . . . . . . . . . 72
6 Statistiques exhaustives 73
6.1 Hypothèse de domination – dominante privilégiée . . . . . . . 74
6.2 Théorème de factorisation de Neyman-Fisher . . . . . . . . . . 75
6.3 Amélioration de Rao-Blackwell . . . . . . . . . . . . . . . . . 79
6.4 Statistiques exhaustives minimales . . . . . . . . . . . . . . . 80
6.5 Statistiques complètes . . . . . . . . . . . . . . . . . . . . . . 81
6.6 Modèles exponentiels . . . . . . . . . . . . . . . . . . . . . . . 82
6.7 Exercices sur les statistiques exhaustives . . . . . . . . . . . . 84
6.7.1 Exercices corrigés . . . . . . . . . . . . . . . . . . . . . 84
6.7.2 Exercices non corrigés . . . . . . . . . . . . . . . . . . 84
7 Information de Fisher 87
7.1 Hypothèses ............................ 87
7.2 Inégalité de Cramer-Rao . . . . . . . . . . . . . . . . . . . . . 89
7.3 Quelques propriétés . . . . . . . . . . . . . . . . . . . . . . . . 90
7.3.1 Information de Fisher d’un produit . . . . . . . . . . . 90
7.3.2 Information de Fisher d’une statistique . . . . . . . . . 91
7.4 Exercices sur l’information de Fisher . . . . . . . . . . . . . . 93
7.4.1 Exercices corrigés . . . . . . . . . . . . . . . . . . . . . 93
7.4.2 Exercices non corrigés . . . . . . . . . . . . . . . . . . 93
8 Loi d’un processus 95
8.1 Loi d’un processus . . . . . . . . . . . . . . . . . . . . . . . . 95
8.2 Théorème d’existence de Kolmogorov . . . . . . . . . . . . . . 97
8.2.1 Variables indépendantes . . . . . . . . . . . . . . . . . 99
8.2.2 Loi markovienne . . . . . . . . . . . . . . . . . . . . . 99
8.3 Processus réels stationnaires (temps discret) . . . . . . . . . . 100
8.4 Processus gaussiens . . . . . . . . . . . . . . . . . . . . . . . . 102
8.4.1 Caractérisation . . . . . . . . . . . . . . . . . . . . . . 102
8.4.2 Condition d’existence . . . . . . . . . . . . . . . . . . . 103
8.4.3 Processus gaussiens stationnaires . . . . . . . . . . . . 104
8.5 Exercices sur les processus . . . . . . . . . . . . . . . . . . . . 105
8.5.1 Exercices corrigés . . . . . . . . . . . . . . . . . . . . . 105
8.5.2 Exercices non corrigés . . . . . . . . . . . . . . . . . . 107
9 Chaînes de Markov 109
9.1 Définition et caractérisations . . . . . . . . . . . . . . . . . . . 109
9.1.1 Définition .........................109