Cours - Guy Melançon

Guy Melançon
Processus stochastiques -
MIAGe / e-MIAGe
10 janvier 2012
Département informatique
UFR Mathématiques Informatique
Université Bordeaux I
Année académique 2010 - 2011

Table des matières
1 Introduction ................................................ 5
Bibliographie ................................................... 7
Partie I Rappels
2 Calcul et dénombrement ..................................... 11
2.1 Calcul, algèbre et combinatoire . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
2.2 Dénombrement......................................... 12
3 Probabilités : propriétés élémentaires ........................ 17
3.1 Propriétés élémentaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
4 Indépendance et probabilités conditionnelles ................. 29
4.1 FormuledeBayes ....................................... 31
5 Variables aléatoires, espérance et variance .................... 37
5.1 Distribution de probabilité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
5.2 Espérance .............................................. 40
5.3 Variance................................................ 47
5.4 Somme et produit de variables aléatoires . . . . . . . . . . . . . . . . . . 48
6 Lois des grands nombres ..................................... 51
6.1 Simulation et méthodes Monte Carlo . . . . . . . . . . . . . . . . . . . . . . 54
7 Probabilités et simulation, génération aléatoire ............... 55
7.1 Génération aléatoire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
7.2 Méthodesàrejet ........................................ 60
8 Variable aléatoire réelle, densité de probabilité ................ 61
8.1 Densité de probabilité et fonction de répartition . . . . . . . . . . . 61
8.2 Lois continues classiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62
3

4 Table des matières
8.2.1 Loi de distribution uniforme . . . . . . . . . . . . . . . . . . . . . . . 62
8.2.2 Loi de distribution non uniforme et fonction de
répartition inverse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
8.2.3 Méthodes à rejet . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
8.2.4 Loi exponentielle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
8.3 Loi de distribution de Gauss (loi normale) . . . . . . . . . . . . . . . . . 73
Partie II Processus stochastiques
9 Introduction ................................................ 77
10 Calcul matriciel, graphes et chemins .......................... 79
11 Chaînes de Markov .......................................... 83
11.1 Chaîne de Markov à deux états. . . . . . . . . . . . . . . . . . . . . . . . . . . . 83
11.1.1 Condition de Markov . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85
11.2 Fonction de transition et matrices . . . . . . . . . . . . . . . . . . . . . . . . 87
11.3 Distribution stationnaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 96
11.3.1 Etats transitoires, récurrents, absorbants . . . . . . . . . . . . 100
11.4 Chaînes de Markov et optimisation . . . . . . . . . . . . . . . . . . . . . . . 106
11.5 Méthodes Monte Carlo et chaînes de Markov . . . . . . . . . . . . . . 110
11.5.1 Chaînes de Markov et marche aléatoire uniforme . . . . 111
11.5.2 L’algorithme de Metropolis. . . . . . . . . . . . . . . . . . . . . . . . . 112
12 Chaînes de Markov à temps continu ..........................113
12.1 Condition de Markov et loi exponentielle . . . . . . . . . . . . . . . . . . 114
12.1.1 Backward et forward équations. . . . . . . . . . . . . . . . . . . . . 115
12.1.2 Système à deux états . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115
12.2 Description matricielle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117
12.2.1 Le cas à deux états . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 118
12.3 Une chaîne continue à trois états . . . . . . . . . . . . . . . . . . . . . . . . . 119

Chapitre 1
Introduction
The capricious gods that were previously invoked to explain the lack of predicta-
bility in the world have been replaced by mathematical, statistical and computer-
based models that allow us to understand and manipulate uncertain events.
D. Hand, H. Mannila, P. Smyth (2001). Principles of Data Mining, MIT Press.
L’un des aspects les plus présents dans ce cours devrait être la simula-
tion : les processus stochastiques prennent tout leur sens en informatique
dès lors que l’on peut leur donner corp et les “faire vivre” en machine. La
simulation apparaît comme une alternative, parfois obligée, à une analyse
mathématique (analytique) en proposant plutôt une imitation d’un sys-
tème. Elle met en oeuvre un modèle (agençant mathématique et informa-
tique), est souvent conceptuellement plus simple et permet d’obtenir des
informations quantitatives là où l’analyse mathématique échoue.
Cette vision s’accorde aux objectifs de la formation MIAGe :
A la croisée de plusieurs domaines – sciences et technologie de l’information et
de la communication, sciences de gestion, économie, communication – l’objectif
du master MIAGe est de préparer l’étudiant à la maîtrise, voire l’expertise, des mé-
thodes d’ingénierie et à leurs applications dans la construction et les adaptations
des systèmes d’information.
Corine Cauvet, Daniel Marquié, Jean-Pierre Peyrin. La formation MIAGE, Bulletin
SPECIF (62), Décembre 2009, pp. 7–11.
Les simulations sont aujourd’hui très populaires et sont pratiquées dans
de nombreux domaines scientifiques, technologiques, industriels et éco-
nomiques. Une simulation génère un volume important de données décri-
vant un système (à travers le modèle que l’on en a formulé). Contrairement
à une étude analytique, les inférences liées à la simulation (les conclusions
tirées des valeurs observées) sont de nature statistiques et peuvent être in-
terprétées de façon équivoque. Les résultats obtenus sont intimement liés
aux postulats de départ et une légère variation de ceux-ci peut modifier ra-
dicalement les résultats obtenus (selon la sensibilité du modèle). La mise
5