Apprentissage Statistique

Apprentissage Statistique
Master DAC - Université Paris 6 et Master Math – Spécialité Big Data - Université Paris 6
P. Gallinari, [email protected], http://www-connex.lip6.fr/~gallinar/
L. Denoyer, [email protected], O. Schwandler, [email protected]
Année 2015-2016

Plan du cours
Apprentissage Statistique - P. Gallinari
2
Introduction
Apprentissage à partir d’exemples
Exemple introductif : le perceptron
Formalisation du problème d’apprentissage
Apprentissage supervisé
Réseaux de neurones
Réseaux de neurones profonds (deep learning) et apprentissage de représentations
Réseaux récurrents
Machines à noyaux, machines à vecteurs de support
Apprentissage non supervisé
Algorithme EM et mélange de densités
Clustering spectral
Factorisation matricielle
Introduction à la théorie de l’apprentissage

Introduction

Apprentissage à partir d'exemples
Apprentissage Statistique - P. Gallinari
4
3 ingrédients de base
Données {z1, ..., zN}
Machine ou modèle Fθ
Critère C (apprentissage et évaluation)
But
Extraire de l'information à partir des données
Information pertinente
pour la tâche étudiée
pour d'autres données du même type
Utilisation
Inférence sur de nouvelles données
Type d'apprentissage :
Supervisé
Non supervisé
Semi supervisé
Renforcement

Exemples - problèmes d'apprentissage
Apprentissage Statistique - P. Gallinari
5
Parole / Ecriture
Données : (signal, (transcription))
But : reconnaître signal
Critère : # mots correctement reconnus
Conduite véhicule autonome
Données : (images routes, (commande volant)) e.g. S. Thrun Darpa Challenge +
Google car
But : suivre route
Critère : distance parcourue
Recherche d'information textuelle
Données : (texte + requête, (information pertinente)) – corpus d’apprentissage
But : extraire l'information correspondant à la requête
Critère : Rappel / Précision
Diagnostic dans systèmes complexes
Données : (état capteurs + alarmes, (diagnostic))
But : diagnostic correct
Critère : ?