Chapitre 9 Arbres de décision Exercices

D´ EPARTEMENT DE G ´ ENIE LOGICIEL ET DES TI
LOG770 - SYST ` EMES INTELLIGENTS
´
ET´ E2011
Chapitre 9
Arbres de d´ ecision
Exercices
1. D´ ecrivez comment un nouvel exemple est classifi´ e dans un arbre de d´ ecision entraˆ ın´ e.
2. On veut apprendre un mod` ele permettant de d´ eterminer si un client est int´ eress´ e` a acheter un
certain produit (Oui ou Non), en fonction de son sexe (Homme ou Femme), son ˆ age (<18,
18 −35 ou >35), son ´ etat civil (C´ elibataire ou Mari´ e), et son revenu (Faible,Moyen ou
´
Elev´ e).
Soit l’´ echantillon suivant d’exemples d’entraˆ ınement :
ID Sexe ˆ Age ´ Etat civil Revenu Achat
1 Homme 18 −35 Mari´ e Moyen Non
2 Homme <18 C´ elibataire Faible Non
3 Homme >35 Mari´ e´ Elev´ e Oui
4 Femme <18 C´ elibataire Moyen Non
5 Homme 18 −35 C´ elibataire Moyen Non
6 Femme 18 −35 C´ elibataire ´ Elev´ e Oui
7 Femme 18 −35 Mari´ e Faible Non
8 Homme 18 −35 Mari´ e´ Elev´ e Oui
9 Homme >35 C´ elibataire Faible Oui
10 Femme <18 C´ elibataire Moyen Non
11 Femme >35 C´ elibataire Moyen Oui
12 Femme >35 Mari´ e´ Elev´ e Oui
13 Homme 18 −35 C´ elibataire Faible Non
14 Femme 18 −35 Mari´ e Moyen Oui
Construisez l’arbre de d´ ecision r´ esultant de ces exemples en utilisant l’algorithme ID3. On
suppose qu’on arrˆ ete la subdivision uniquement lorsque les nœuds sont purs (entropie de 0).
Exprimez la classe des exemples positifs sous la forme d’un pr´ edicat logique.
3. L’algorithme ID3 pour entraˆ ıner un arbre de d´ ecision garantit-il de trouver la solution opti-
male, en terme de la complexit´ e de l’arbre ?
4. D´ ecrivez l’approche de r´ egression bas´ ee sur les arbres de d´ ecision. Sp´ ecifiez le crit` ere em-
ploy´ e pour calculer la puret´ e d’un nœud et comment la valeur des nouveaux exemples est
pr´ edite.
1