Nouvelles paramétrisations de réseaux Bayésiens et leur estimation

Nouvelles param´etrisations de r´eseaux Bay´esiens et leur
estimation implicite - Famille exponentielle naturelle et
m´elange infini de Gaussiennes
Aida Jarraya Siala
To cite this version:
Aida Jarraya Siala. Nouvelles param´etrisations de r´eseaux Bay´esiens et leur estimation implicite
- Famille exponentielle naturelle et m´elange infini de Gaussiennes. Apprentissage [cs.LG]. Uni-
versit´e de Nantes; Facult´e des Sciences de Sfax, 2013. Fran¸cais. <tel-00932447>
HAL Id: tel-00932447
https://tel.archives-ouvertes.fr/tel-00932447
Submitted on 17 Jan 2014
HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.
L’archive ouverte pluridisciplinaire HAL, est
destin´ee au d´epˆot et `a la diffusion de documents
scientifiques de niveau recherche, publi´es ou non,
´emanant des ´etablissements d’enseignement et de
recherche fran¸cais ou ´etrangers, des laboratoires
publics ou priv´es.

Thèse de Doctorat
Aida JARRAYA SIALA
Mémoire présenté en vue de l’obtention du
grade de Docteur de l’Université de Nantes
Docteur de la Faculté des Sciences de Sfax
sous le label de l’Université de Nantes Angers Le Mans
École doctorale : Sciences et technologies de l’information, et mathématiques
Discipline : Informatique, section CNU 27
Unité de recherche : Laboratoire d’informatique de Nantes-Atlantique (LINA)
Soutenue le 26 octobre 2013
Thèse n° : ED 503-210
Nouvelles paramétrisations de réseaux
Bayésiens et leur estimation implicite
Famille exponentielle naturelle et mélange infini de Gaussiennes
JURY
Président : M. Abdelhamid HASSAIRI, Professeur, Université de Sfax, Tunisie
Rapporteurs : M. Rafik AGUECH, Professeur, Université de Monastir, Tunisie
M. Richard EMILION, Professeur des Universités, Université d’Orléans
Examinateur : M. Jean-Michel POGGI, Professeur, Université Paris Descartes
Directeurs de thèse : M. Philippe LERAY, Professeur des Universités, Université de Nantes
M. Afif MASMOUDI, Professeur, Université de Sfax

Table des matières
Introduction 1
1 Réseaux Bayésiens 5
1.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
1.2 Modèle graphique . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.2.1 Définition . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.2.2 Modèles d’indépendance . . . . . . . . . . . . . . . . . 6
1.2.3 Apprentissage . . . . . . . . . . . . . . . . . . . . . . . 9
1.3 Réseaux Bayésiens discrets . . . . . . . . . . . . . . . . . . . . 10
1.3.1 Définition . . . . . . . . . . . . . . . . . . . . . . . . . 10
1.3.2 Apprentissage des paramètres . . . . . . . . . . . . . . 11
1.3.3 Apprentissage de la structure . . . . . . . . . . . . . . 13
1.4 Réseaux Bayésiens Gaussiens . . . . . . . . . . . . . . . . . . 17
1.4.1 Définition . . . . . . . . . . . . . . . . . . . . . . . . . 17
1.4.2 Apprentissage des paramètres . . . . . . . . . . . . . . 18
1.4.3 Apprentissage de la structure . . . . . . . . . . . . . . 19
1.5 Réseaux Bayésiens Gaussiens Conditionnels . . . . . . . . . . 20
1.5.1 Définition . . . . . . . . . . . . . . . . . . . . . . . . . 20
1.5.2 Apprentissage des paramètres . . . . . . . . . . . . . . 21
1.5.3 Apprentissage de la structure . . . . . . . . . . . . . . 22
1.6 Modèles linéaires Non Gaussiens . . . . . . . . . . . . . . . . 22
1.6.1 Définition . . . . . . . . . . . . . . . . . . . . . . . . . 22
1.6.2 Apprentissage de la structure . . . . . . . . . . . . . . 23
1.7 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
i

2 Famille exponentielle naturelle, estimation implicite et mé-
lange infini de lois Gaussiennes 25
2.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
2.2 Famille exponentielle naturelle . . . . . . . . . . . . . . . . . . 26
2.2.1 Généralités sur les familles exponentielles naturelles . . 26
2.2.2 Estimation Bayésienne pour les familles exponentielles
naturelles . . . . . . . . . . . . . . . . . . . . . . . . . 29
2.3 Estimation implicite . . . . . . . . . . . . . . . . . . . . . . . 32
2.4 Mélange infini . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
3 Réseau Bayésien exponentiel discret 39
3.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
3.2 Réseau Bayésien exponentiel discret . . . . . . . . . . . . . . 40
3.2.1 Définition . . . . . . . . . . . . . . . . . . . . . . . . . 40
3.2.2 Généralisation de l’a priori de Dirichlet . . . . . . . . . 40
3.2.3 Apprentissage de la structure . . . . . . . . . . . . . . 41
3.2.4 Apprentissage des paramètres . . . . . . . . . . . . . . 43
3.2.5 Exemples . . . . . . . . . . . . . . . . . . . . . . . . . 44
3.3 Travaux apparentés . . . . . . . . . . . . . . . . . . . . . . . . 45
3.4 Expérimentations . . . . . . . . . . . . . . . . . . . . . . . . . 45
3.4.1 Les données . . . . . . . . . . . . . . . . . . . . . . . . 45
3.4.2 Modèles et algorithmes utilisés . . . . . . . . . . . . . 46
3.4.3 Les critères d’évaluation . . . . . . . . . . . . . . . . . 46
3.4.4 Résultats et Interprétations . . . . . . . . . . . . . . . 47
3.5 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49
4 Estimation implicite des paramètres dans des modèles Gaus-
siens 50
4.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50
4.2 Estimation de la variance d’une loi Gaussienne . . . . . . . . 50
4.2.1 Analyse des résultats . . . . . . . . . . . . . . . . . . . 52
4.3 Estimation des paramètres dans les réseaux Bayésiens associés
à un modèle de Heston . . . . . . . . . . . . . . . . . . . . . . 53
4.3.1 Présentation du modèle de Heston . . . . . . . . . . . 53
ii