Le deep learning
publicité
Le deep learning Ca décoiffe les neurones ! Apprentissage automatique (Machine Learning) ⇒ Apprendre à résoudre une tâche qu'un algorithme classique ne permet pas - Supervisé : à partir d'exemples (données étiquetées) - "Big data" : beaucoup de données disponibles → nombreuses applications en apprentissage automatique avec des performances inégalées ! Deep learning l Réseau de neurones ("profond") - Algorithme d'apprentissage supervisé et multi-classes, historique depuis les années 1950s Nécessite beaucoup de données d'apprentissage, nombreux paramètres à optimiser Plusieurs améliorations dans les années 1990s, nombreuses "révolutions" depuis 2010 : vision, parole, texte, traduction, … Historique Neurone, Perceptron, … Inspiration biologique : les neurotransmetteurs captés par les dendrites s’accumulent, puis un message est libéré vers l’axone lorsqu’un potentiel d’action est atteint. Neurone, Perceptron, … à Neurone ≈ Perceptron = fonction linéaire Neurone, Perceptron, … à Algorithme d’apprentissage d’un Perceptron Perceptron à couches, Réseau de neurones Deep Learning - Réseau de neurones profonds Deep learning - Applications en vision - Classification d'images ⇒ distinguer 1000 classes d'images parmi un million d'images (ImageNet Challenge) - Segmentation d’images, détection d’objets, analyse de scènes, reconnaissance d’actions… Deep Learning - Réseau de neurones profonds ↓ Des performances inégalées en vision La machine fait mieux que l’humain lorsque bien entrainée ! Génération de données réalistes Generative Adversarial Networks & co. [2014] Þ Générer des données (image / texte / son) réalistes Þ Idée : Encodeur/Décodeur + Classifieur Générateur Discriminateur Edition de photos • « Neural Photo Editing with Introspective Adversarial Networks » • Andrew Brock, Theodore Lim, J.M. Ritchie, Nick Weston • ICLR’2017 • https://www.youtube.com/watch?v=FDELBFSeqQs Générer des images à partir de croquis • « Image-to-Image Translation with Conditional Adversarial Networks » • Phillip Isola, Jun-Yan Zhu, Tinghui Zhou, Alexei A. Efros • https://affinelayer.com/pixsrv/ Synthèse de la parole / musique • « Wavenet: A generative model for raw audio » • DeepMind, Google • NIPS’2016 • https://deepmind.com/blog/wavenetgenerative-model-raw-audio/ AlphaGo – The computer now beats best humans at Go! • « Mastering the game of Go with deep neural networks and tree search » • Leon A. Gatys, Alexander S. Ecker, and Matthias Bethge • DeepMind, Google • https://www.youtube.com/watch?v=IFmj5M5Q5jg
