X - Cedric/CNAM

1
Analyse discriminante,
classification supervisée,
scoring…
Gilbert Saporta
Conservatoire National des Arts et Métiers
[email protected]
http://cedric.cnam.fr/~saporta
Version du 8/11/2009

2
Bibliographie
Bardos: « Analyse discriminante », Dunod, 2001
Hastie, Tibshirani, Friedman : « The Elements of Statistical
Learning », 2nd edition, Springer-Verlag, 2009 http://www-
stat.stanford.edu/~hastie/Papers/ESLII.pdf
Nakache, Confais: « Statistique explicative appliquée », Technip,
2003
Thiria et al. :« Statistique et méthodes neuronales » Dunod, 1997
Thomas, Edelman,Crook: « Credit scoring and its applications »,
SIAM, 2002
Tufféry: « Data Mining et statistique décisionnelle »,Technip, 2007
Tufféry: «Étude de cas en statistique décisionnelle »,Technip, 2009
Vapnik : « Statistical Learning Theory », Wiley 1998

3
Plan
I L’analyse factorielle discriminante
II Discrimination sur variables qualitatives :
le scoring.
III Analyse discriminante probabiliste
IV Régression logistique
V SVM
VI Validation
VII Choix de modèles et théorie de l’apprentissage
statistique
VIII Arbres de décision

4
Objet d’étude
Observations multidimensionnelles réparties en k
groupes définis a priori.
Autre terminologie: classification supervisée
Exemples d’application :
Pronostic des infarctus (J.P. Nakache)
• 2 groupes : décès, survie (variables médicales)
Iris de Fisher :
• 3 espèces : 4 variables (longueur et largeur des pétales et sépales)
Risque des demandeurs de crédit
• 2 groupes : bons, mauvais (variables qualitatives)
Autres :
• Météo, publipostage, reclassement dans une typologie.

5
Quelques dates :
P.C. Mahalanobis 1927
H. Hotelling 1931
R. A. Fisher 1936
J.Berkson 1944
C.R.Rao 1950
T.W.Anderson 1951
D.Mc Fadden 1973
V.Vapnik 1998