dans D

Ré-échantillonnage et
recombinaison adaptative
Adapatative Resampling and
Combining (Arcing algorithms)
« Bagging », « Boosting »
AS

Principe
d’amélioration des performances
E1
E2
E3
…
…
…
En
Di (distribution)
Apprentissage
par classification Classifieuri

Bibliographie
Breiman, L. 1996 Bagging predictors,
Machine Learning 26, N°2, pp. 123-140
Freund, Y. & Schapire, R. 1996 Experiments
with a new boosting algorithm, Machine
Learning; Proceedings of the 13th
International Conference, pp. 148-156

Bagging: « bootstrap »
Bagging = « Bootstrap aggretating »
« bootstrap sampling» (amorçage de l’échantillonnage):
Etant donné un ensemble D contenant m exemples
d’apprentissage
• Créer Di en tirant m exemples aléatoirement (avec
remplacement) dans D
• Statistiquement, Di élimine 37% des exemples de D

Bagging: « bagging »
• Créer k échantillons d’amorçage D1, D2...
Dk
• Activer l’algorithme d’apprentissage sur
chacun des Di.
– On obtient k procédures de classification
• Classer chaque nouvelle instance à l’aide
d’un vote majoritaire sur les k résultats des
procédures de classification