Chapitre 9 Arbres de décision Exercices

publicité
D ÉPARTEMENT DE G ÉNIE LOGICIEL ET DES TI
LOG770 - S YST ÈMES INTELLIGENTS
É T É 2011
Chapitre 9
Arbres de décision
Exercices
1. Décrivez comment un nouvel exemple est classifié dans un arbre de décision entraı̂né.
2. On veut apprendre un modèle permettant de déterminer si un client est intéressé à acheter un
certain produit (Oui ou Non), en fonction de son sexe (Homme ou Femme), son âge (< 18,
18 − 35 ou > 35), son état civil (Célibataire ou Marié), et son revenu (Faible, Moyen ou
Élevé).
Soit l’échantillon suivant d’exemples d’entraı̂nement :
ID
1
2
3
4
5
6
7
8
9
10
11
12
13
14
Sexe
Homme
Homme
Homme
Femme
Homme
Femme
Femme
Homme
Homme
Femme
Femme
Femme
Homme
Femme
Âge
18 − 35
< 18
> 35
< 18
18 − 35
18 − 35
18 − 35
18 − 35
> 35
< 18
> 35
> 35
18 − 35
18 − 35
État civil
Marié
Célibataire
Marié
Célibataire
Célibataire
Célibataire
Marié
Marié
Célibataire
Célibataire
Célibataire
Marié
Célibataire
Marié
Revenu
Moyen
Faible
Élevé
Moyen
Moyen
Élevé
Faible
Élevé
Faible
Moyen
Moyen
Élevé
Faible
Moyen
Achat
Non
Non
Oui
Non
Non
Oui
Non
Oui
Oui
Non
Oui
Oui
Non
Oui
Construisez l’arbre de décision résultant de ces exemples en utilisant l’algorithme ID3. On
suppose qu’on arrête la subdivision uniquement lorsque les nœuds sont purs (entropie de 0).
Exprimez la classe des exemples positifs sous la forme d’un prédicat logique.
3. L’algorithme ID3 pour entraı̂ner un arbre de décision garantit-il de trouver la solution optimale, en terme de la complexité de l’arbre ?
4. Décrivez l’approche de régression basée sur les arbres de décision. Spécifiez le critère employé pour calculer la pureté d’un nœud et comment la valeur des nouveaux exemples est
prédite.
1
Téléchargement