Apprentissage Statistique

Apprentissage Statistique
Master DAC - Université Paris 6
P. Gallinari, [email protected], http://www-connex.lip6.fr/~gallinar/
Année 2014-2015

Plan du cours
Apprentissage Statistique - P. Gallinari
2
Introduction
Apprentissage à partir d’exemples
Exemple introductif : le perceptron
Formalisation du problème d’apprentissage
Apprentissage supervisé
Réseaux de neurones
Machines à noyaux, machines à vecteurs de support
Réseaux de neurones profonds et apprentissage de représentations
Réseaux récurrents
Apprentissage non supervisé
Algorithme EM et mélange de densités
Clustering spectral
Factorisation matricielle
Quelques liens utiles

Introduction

Apprentissage à partir d'exemples
Apprentissage Statistique - P. Gallinari
4
3 ingrédients de base
Données {z1, ..., zN}
Machine Fθ
Critère C (apprentissage et évaluation)
But
Extraire de l'information à partir des données
Information pertinente
pour la tâche étudiée
pour d'autres données du même type
Utilisation
Inférence sur de nouvelles données
Type d'apprentissage :
Supervisé
Non supervisé
Semi supervisé
Renforcement

Exemples - problèmes d'apprentissage
Apprentissage Statistique - P. Gallinari
5
Parole / Ecriture
Données : (signal, (transcription))
But : reconnaître signal
Critère : # mots correctement reconnus
Conduite véhicule autonome
Données : (images routes, (commande volant)) e.g. S. Thrun Darpa Challenge +
Google car
But : suivre route
Critère : distance parcourue
Recherche d'information textuelle
Données : (texte + requête, (information pertinente)) – corpus d’apprentissage
But : extraire l'information correspondant à la requête
Critère : Rappel / Précision
Diagnostic dans systèmes complexes
Données : (état capteurs + alarmes, (diagnostic))
But : diagnostic correct
Critère : ?