Fondements de l`Apprentissage Automatique - Mélanges de
FAA - M1S2
Hadrien
Glaude
Introduction
Deux
exemples
Partitionnement
de donn´ees
Classification
Maximum
de vraisem-
blance
Cas simples
Cas
compliqu´es
Algorithme
Esp´erance
Maximisation
Application
au m´elange
de mod`eles
Preuve
Conclusion
1/26
Fondements de l’Apprentissage Automatique
M´elanges de mod`eles probabilistes
Hadrien Glaude
Universit´e Lille 1 - CRIStAL (SequeL) - Thales Syst`emes A´eroport´es
Master 1 Info
FAA - M1S2
Hadrien
Glaude
Introduction
Deux
exemples
Partitionnement
de donn´ees
Classification
Maximum
de vraisem-
blance
Cas simples
Cas
compliqu´es
Algorithme
Esp´erance
Maximisation
Application
au m´elange
de mod`eles
Preuve
Conclusion
2/26
M´elange de mod`eles probabilistes
Introduction
Objectif : am´eliorer les performances en combinant des mod`eles
simples pour obtenir des mod`eles plus complexes.
Approche : probabiliste (diff´erent du boosting)
Hypoth`ese :
mod`eles simples probabilistes
m´elange lin´eaire convexe
D´erivation : maximiser la vraisemblance
des param`etres de chaque mod`ele simple
des coefficients du m´elange
Dans ce cours :
Deux usages : partitionnement et classification (r´egression)
Deux mod`eles : Gaussien et r´egression logistique (r´egression
lin´eaire)
Maximisation de la vraisemblance dans des cas compliqu´es :
Esp´erance-Maximisation (EM)
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
1
/
36
100%
