Les réseaux Neuronaux Seguin Jérôme Ingénieurs 2000 Novembre 2001 Pourquoi cet exposé ? -Entre dans le cadre du projet « Moteur de recherche » -Les réseaux neuronaux représente un système d’apprentissage, de classification et de recherche de l’information -Culture générale montrant l’avancement de la recherche scientifique Seguin Jérôme Ingénieurs 2000 Novembre 2001 Plan I. Historique II. Origine: études des neurones biologiques III. La modélisation neuronale informatique I. L’objectif II. Le neurone III. Réseaux Neuronaux IV. Un algorithme V. Application au moteur de recherche VI. Les domaines d’application Seguin Jérôme Ingénieurs 2000 Novembre 2001 Historique Basé sur la recherche biologique Prend un essor réel dans les années 60. S’oppose à la communauté IA traditionnelle Quelques dates importantes: -1943: W.MCCulloch et W.Pitts prouvent que la pensée est un ensemble de mécanismes matériels et logiques semblable à une machine de Turing. -1958: F.Rosenblatt développe le modèle du Perceptron: Premier type de réseau neuronal capable d’apprendre par expérience. Seguin Jérôme Ingénieurs 2000 Novembre 2001 Historique (suite) Aujourd’hui les réseaux neuronaux sont en cours de conception dans de nombreux domaines. Seguin Jérôme Ingénieurs 2000 Novembre 2001 Origine de l’étude des neurones biologiques (humains) Seguin Jérôme Ingénieurs 2000 Novembre 2001 La modélisation neuronale informatique: L’objectif -Simuler les capacités et le mode de fonctionnement du cerveau humain afin d’optimiser les processus de nombreux domaines -Implémenter un mécanisme d’auto apprentissage de l’information -Classification automatique et optimale de l’information (non centralisée et partiellement redondante) -recherche intuitive et rapide de l’information Seguin Jérôme Ingénieurs 2000 Novembre 2001 La modélisation neuronale informatique: Le neurone Il existe plusieurs types de neurones avec une ou plusieurs sorties. -Fonction somme (activité): Elle somme les inputs qu’elle reçoit en les pondérant par des poids. -Fonction de transfert: Fonction qui permet de déterminer la valeur de chaque sortie du neurone en fonction de l’activité. Notons qu’il existe plusieurs lois d’apprentissage selon le -Fonction d’activation: Chaque neurone évalue le poids pertinent de voulu. chacune de ses inputs enrésultat fonction des inputs reçus=>algorithme d’apprentissage Seguin Jérôme Ingénieurs 2000 Novembre 2001 La modélisation neuronale informatique: Réseaux neuronaux Il existe plusieurs types de réseaux: 1 –Le perceptron (réseaux à couche) 2 –Kohonen 3 -Hopfield 4 –… La qualité de restitution de l’information dépend selon le type de données à stocker: -Du nombre de neurones -Des types d’interconnexion -De l’algorithme d’apprentissage Seguin Jérôme Ingénieurs 2000 Novembre 2001 Un algorithme -Données: 3 documents, 2 mots (toto,tutu) -Réseau neuronal: à 2 neurones -Fonction de transfert: y=0 pour x<=1 y=x pour 1<x<3 Y=3 pour x>3 -Loi d’apprentissage (HEB): poidsN+1= poidsN + coefpropor*sortie*entrée -Critère d’arrêt: Somme des (poidsN+1)-(poidsN) pour chaque entrée <0.4 -Loi d’intéraction: Winner Takes All Seguin Jérôme Ingénieurs 2000 Novembre 2001 Application au moteur de recherche -Des études sont en cours, aucun moteur encore réalisé jusqu’à ce jour. -Le type de réseau à mettre en place s’apparenterait à un réseau à couches. -Pour l’apprentissage on fourni en entrée des documents liés à des sites, définis par les mots qui les constituent. -Pour rechercher les sites qui nous intéressent on fourni en entrée du réseau les mots de notre requête. -Chaque neurone de sortie représentera un site. On indiquera à l’utilisateur les sites dont les neurones de sorties atteignent un certain seuil. Seguin Jérôme Ingénieurs 2000 Novembre 2001 Les autres domaines d’application -Marketing: Analyse des comportements consommateurs -Météorologie: Prévision du temps -Géologie -Classification et reconstitution d’image -Data Mining: recherche d’informations à travers les bases de données entreprises (regroupe tous les domaines précédents). -Modélisation et recherche d’informations sur Internet Seguin Jérôme Ingénieurs 2000 Novembre 2001