Classification, Apprentissage, Décision

Classification, Apprentissage, Décision
Classication, Apprentissage, Décision
Chapitre cinquième : Perceptron
Stéphane Ayache, Cécile Capponi, François Denis, Rémi Eyraud,
Hachem Kadri, Liva Ralaivola
Master 2 IS-IN

Classification, Apprentissage, Décision
Plan du cours
Introduction
Arbre de décision & k-ppv
Théorie de l’apprentissage
Clustering
Perceptron
Machines à vecteur de support

Classification, Apprentissage, Décision
Perceptron
Plan
Introduction
Arbre de décision & k-ppv
Théorie de l’apprentissage
Clustering
Perceptron
Machines à vecteur de support

Classification, Apprentissage, Décision
Perceptron
Classification linéaire binaire
X⊂Rd,Y={−1,+1}
Définition. Un classifieur linéaire est une fonction de la forme
f(x) = +1si hw,xi+b≥0
−1sinon.
où w∈Rd,b∈R,hw,xidésigne le produit scalaire entre wet x: si
w= (w1,...,wn)et x= (x1,...,xn),hw,xi=Pd
i=1wixi.
Interprétation géométrique : hw,xi+b=0 est l’équation d’un hyperplan
qui sépare Xen deux demi-espaces correspondant aux deux classes.

Classification, Apprentissage, Décision
Perceptron
Un exemple
X=R2
Classifieur linéaire fdéfini par w= (1,2)et b=−1 :
f(x1,x2) = 1si x1+2x2−1≥0
−1sinon.
Par exemple, f(0,0) = −1 et f(1,1) = 1.
Hyperplan d’équation x1+2x2−1=0 (c-à-d x2=−1
2x1+1 2)