Université du Québec à Montréal Doctorat en Informatique Cognitive Prof. Mounir Boukadoum Bureau : PK4640 Tél. : 987-3000, poste 4565 [email protected] Syllabus du cours DIC9310 : Introduction au traitement de l’information par réseaux neuronaux I . Objectif du cours : Introduire l'étudiant aux principes théoriques et pratiques servant au traitement de l`information par réseaux neuronaux ; lui permettre de comparer les réseaux biologiques aux réseaux artificiels. II. Plan du cours : - Concepts de base du traitement de l'information par réseaux neuronaux - Comparaison avec l'approche symbolique classique en intelligence artificielle - Les neurones biologiques o Les tissus excitables et les récepteurs sensoriels ; les réponses continues et par potentiel d’action o La génération et la propagation de potentiels d’action dans les neurones o La sommation dendritique (synapses excitatrices et inhibitrices) o Le cortex cérébral et les fonctions de haut niveau ; exemple de la vision o La nécessité des règles d’apprentissage pour éviter l`explosion combinatoire des neurones - Les réseaux de neurones artificiels o Applications, types d'architecture, règles de transmission et règles d'apprentissage o le perceptron o les modèles associatifs hebbiens o les modèles compétitifs o les modèles basés sur la minimisation d'erreur Des exemples d’applications seront donnés pour chaque type de réseau. III. Références : [1] Annexes de cours. Recommandés : [2] Laurene Faussett, Fundamentals of neural networks, architectures, algorithms and applications, Wiley 1994 (Livre de type cook-book avec présentation systématique des principaux types de RNAs accompagnés d’exemples d’application) [3] Sid Deutsch et Alice Deutsch, Understanding the nervous system, an engineering approach, IEEE Press, 1993 (bonne introduction à la neurophysiologie du système nerveux central ; faite par deux ingénieurs) Autres livres recommandés (demandent de bonnes bases en mathématiques) : [1] Simon Haykin, Neural networks, a comprehensive foundation, Prentice hall, 1999 (Une vraie encyclopédie, mais tend à regarder les réseaux comme une extension de techniques d’analyse de données par des moyens statistiques) [2] José C. Principe, Neil R. Euliano et W. Curt Lefebvre, Neural and adaptive systems, Wiley 2000. (Excellent livre pour comparer les RNA avec des techniques d’approximation adaptative classiques) [3] Andrzej Cichocki et Rolf Unbehauen, Neural networks for optimization and signal processing, Wiley, 1993 (Montre différentes applications des réseaux à retro-propagation pour résoudre des problèmes d’approximation et d’optimisation) [4] Les journaux IEEE Spectrum, Computer, Transactions on neural networks ; International journal of neural networks ; Networks ; Psychophysiology , etc. IV. Évaluation : 1 présentation orale vers la fin de la session 1 rapport écrit sur la présentation 1 projet 1 Examen final 20% 30% 25% 25% Barème : A : 87.7%, B: 76.7%, 86.6%], C: 66.7%, 76.6%], D: 60%, 66.6%], E: 60% Longueur des rapports : Tout comme pour la consommation de substances euphorisantes, la modération a bien meilleur goût ! 9/07 Analyse d’articles But : Approfondir ses connaissances reliées aux réseaux neuronaux en faisant la lecture d’au moins trois articles de recherche (ou un livre récent) portant sur un sujet spécifique ; pratiquer ses capacités de présentation orale devant un auditoire. Énoncé : 1. Lire un minimum de trois articles de recherche (ou un livre récent) portant sur un sujet dans l’un des domaines suivants : - Approfondissement des connaissances sur une architecture de réseau vue en classe ; - Amélioration d’une architecture vue en classe ; - Étude d’une nouvelle architecture ; - Applications dans un domaine donné. 2. Rédiger un rapport qui résume le sujet. 3. Faire une présentation orale de 20 mn. Note : Cette activité peut être reliée au sujet du Projet. Échéancier : les deux dernières semaines de la session Projet But : Familiariser l’étudiant avec l’usage et les problèmes y affairant des réseaux de neurones artificiels. ; lui permettre de faire la synthèse de différents concepts vus dans le cours. Énoncé : Mettre en œuvre d’un ou plusieurs réseaux de neurones artificiels pour résoudre un problème de : - Classification Regroupement/Catégorisation Approximation de fonctions Prévision/prédiction Optimisation Mémoires adressables par contenu Automatique Des sujets spécifiques pourraient être : - Un problème relié au sujet de recherche de l’étudiant La comparaison de deux architectures neuronales Une tentative d’expliquer une fonction cognitive par une architecture neuronale Le but n’est pas d’obtenir nécessairement des résultats probants et vous êtes libres d’innover à loisir. Cependant, seuls les « educated guesses » seront acceptés si vous vous lancez dans les arts divinatoires ! Le rapport doit justifier le choix du réseau, le nombre de neurones utilisés, le nombre de couches s’il y a lieu, les paramètres d’apprentissage, les problèmes rencontrés, leur solution éventuelle, etc. L’environnement de mise en œuvre est secondaire, mais il est fortement suggéré d’utiliser SNNS ou Matlab. Échéancier : La fin de la session