Introduction à l’Intelligence Artificielle Prof Habiba DRIAS Chapitre 1: Introduction à l’intelligence artificielle 2 Aperçu général sur l’apprentissage automatique INTRODUCTION Depuis l’invention de l’ordinateur, les chercheurs se sont intéressés à l’implantation dans les machines, de capacités comme: – L’acquisition d’une nouvelle connaissance – Développement d’un moteur et d’une expertise cognitifs par l’instruction et l’entraînement 4 – Organisation de la connaissance acquise dans des représentations effectives – Découverte de faits nouveaux et de théorie à travers l’observation et l’expérimentation Résoudre un tel problème a été un véritable challenge et reste encore une direction importante en intelligence artificielle 5 Objectifs de l’apprentissage automatique Le domaine de l’apprentissage automatique est organisé autour de trois axes principaux: 1. 2. 3. Etudes orientées taches ou systèmes Simulation cognitive Analyse théorique 6 1. Etudes orientées systèmes - développement et analyse de systèmes d’apprentissage pour une application donnée – une nécessité pratique- 7 2. Simulation cognitive: - Simulation du processus d’apprentissage humain - L’apprentissage automatique est considéré dans ce cas comme une science 8 3. Analyse théorique - Exploration des méthodes d’apprentissage indépendantes du domaine d’application - Acquisition des connaissances et Raffinement de l’expertise 9 Une taxonomie de la recherche en apprentissage automatique 10 I- Classification basée sur les stratégies d’apprentissage Ces stratégies diffèrent selon la quantité d’inférence qu’entreprend l’apprenant sur l’information donnée 11 1. Implantation directe de nouvelles connaissances Le programme ne nécessite aucune inférence: – – Programmation classique Systèmes de base de données conventionnels 12 2. Apprentissage par instruction Une entité pédagogue fournit des connaissances au programme 13 3. Apprentissage par analogie Acquérir de nouveaux faits en transformant des connaissances existantes ayant de fortes similitudes avec le nouveau concept 14 4. Apprentissage par l’exemple Induire un concept à partir d’exemples de ce dernier La donnée de contre-exemples permet d’affiner la description du concept 15 5. Apprentissage par l’observation et découverte C’est un apprentissage non supervisé 16 II- Classification selon le type de la connaissance acquise Le type de la connaissance acquise est fonction de la représentation de cette connaissance 17 1. Les paramètres dans les expressions algébriques L’apprentissage consiste à ajuster des coefficients numériques dans les expressions algébriques 18 2. Les arbres de décision Certains systèmes d’apprentissage distinguent des classes d’objets en les représentant par des arbres de décision 19 3. Les grammaires formelles Induire une grammaire à partir des mots ou expressions d’un langage 20 4. Les règles de production Une règle de production est une paire (condition – action) {C A} L’action est exécutée lorsque la condition est vérifiée. Cette représentation a fait l’objet de nombreuses utilisations notamment dans les systèmes experts 21 5. Les expressions logiques La logique classique La logique modale La logique temporelle La logique causale 22 6. Les graphes et les réseaux Certaines techniques d’apprentissage exploitent des transformations de graphes pour comparer l’efficacité des connaissances 23 7. Les schémas et frames Ce sont des représentations plus générales que les expressions logiques et les règles de production 24 8. Les codes procéduraux Les systèmes de programmation automatique engendrent des programmes informatiques ou codes procéduraux 25 9. Les taxonomies L’apprentissage par l’observation engendre une structuration des objets en une hiérarchie ou taxonomie 26 10. Les représentations hybrides Les systèmes de découverte et de développement de théories utilisent une combinaison de représentations 27 III- Classification par domaine d’application 1. 2. 3. 4. 5. 6. Agriculture Chimie Modélisation cognitive (simulation de l’apprentissage humain) Programmation informatique Education Systèmes experts 28 7. Jeux 8. Méthodes générales (pas de domaine spécifique) 9. Reconnaissance d’images 10. Mathématiques 11. Diagnostic médical 12. Musique 29 13. Traitement du langage naturel 14. Caractérisation d’objets physiques 15. Physique 16. Résolution de problèmes et planification 17. Robotique 18. Prédiction de séquences 19. Reconnaissance de la parole 30 Un bref historique de l’apprentissage automatique Durant l’existence relativement courte de cette discipline, nous pouvons distinguer trois grandes périodes, chacune s’articulant autour d’un paradigme particulier: 1. 2. 3. Modélisation neuronale Apprentissage orienté concept symbolique Système d’apprentissage intensif de connaissances 31 Les réseaux de neurones et les systèmes auto-organisationnels L’intérêt des chercheurs pour ce paradigme est le développement de systèmes d’apprentissage généraux à partir d’une structure initiale nulle ou peu importante. La recherche autour de ce paradigme peut être théorique ou pratique: – Construction de systèmes hardware: perceptrons – Reconnaissance des formes par une approche théorique de décision 32 Apprentissage orienté concept symbolique L’utilisation de la logique et de la représentation de graphes remplace celle des méthodes statistiques et numériques Exemples de travaux: – – Recherche sur le concept d’acquisition humain Meta-Dendral 33 Système d’apprentissage intensif de connaissances Apprendre des concepts isolés à partir d’exemples Exploration de méthodes d’apprentissage basée sur les systèmes intensifs de connaissances 34 Les nouvelles tendances Acquisition intensive de connaissances: acquérir de nouvelles connaissances à partir d’une connaissance initiale assez importante Exploration d’apprentissage Introduction des heuristiques pour développer des systèmes d’apprentissage d’autres méthodes 35 Pourquoi les machines doiventelles apprendre? 36 L’apprentissage humain et l’apprentissage automatique 37 L’apprentissage humain est fatiguant, pénible et ennuyeux: Très lent: 6 ans pour fréquenter l’école et 20 ans de plus pour devenir chercheur 1. Le système éducationnel est très coûteux 2. L’homme calcule très lentement - Le simplexe est souvent calculé par machine et rarement à la main 38 L’apprentissage humain ne possède pas de mécanisme de copie L’apprentissage ne peut être transféré d’une personne à une autre Tous les êtres humains doivent fréquenter l’école pour apprendre 39 Pourquoi un apprentissage automatique La machine élabore ce qu’appellent les psychologues ‘un apprentissage à un essai’ L’apprentissage peut être copié d’une machine sur une autre 40 Quel est donc l’intérêt de l’apprentissage automatique puisque pour le transmettre à l’homme, il faut un minimum de 20 ans de dur labeur? L’intérêt est dans l’investigation de programmes qui évitent l’inefficacité et l’incompétence de l’apprentissage humain 41 Les travaux en Intelligence artificielle sont dirigés: De sorte que les machines deviennent intelligentes Afin de simuler les humains pour déterminer la manière dont ils travaillent pour les aider à mieux faire Objectif: Simuler l’apprentissage humain pour comprendre le raisonnement humain et peut être l’améliorer 42 Qu’est-ce que l’apprentissage automatique? L’apprentissage exprime des changements dans un système qui sont adaptatifs dans le sens qu’ils permettent à ce système d’accomplir la même tâche ou des tâches provenant de la même population de manière plus efficace et plus effective la prochaine fois. 43 Apprentissage et découverte Il existe une relation étroite entre l’apprentissage et la découverte: – Découvrir: trouver de nouvelles connaissances Très peu d’apprentissage humain fait l’objet de découverte: la plupart des choses que nous connaissons ont été découvertes par des personnes avant nous – Toute découverte est importante à retenir et à mémoriser 44 Exemple: LT – Logic Theorist C’est un logiciel dédié à la démonstration et découverte de théorèmes LT utilise les nouveaux théorèmes pour démontrer d’autres. Seuls les théorèmes sont mémorisés, les preuves ne le sont pas Orienter l’apprentissage vers la découverte automatique 45 L’apprentissage et la compréhension du langage naturel Comme pour la découverte, il existe une relation étroite entre l’apprentissage et la compréhension du langage naturel La compréhension de phénomènes divers nécessite la compréhension du langage naturel: la plupart de ce que l’on apprend provient des personnes qui communiquent avec nous directement ou via des écrits 46 La compréhension du langage naturel est donc très importante en apprentissage automatique 47 L’apprentissage et la résolution de problèmes Il existe une équivalence entre ces deux paradigmes: – La programmation automatique fait partie en même temps de l’apprentissage automatique et de la résolution de problèmes 48 La découverte automatique, la compréhension du langage naturel ainsi que la programmation automatique sont des tâches de l’apprentissage automatique 49 Quelques programmes d’apprentissage 50 Apprendre à jouer aux échecs – Le programme des échecs de Samuel de 1959 est le meilleur joueur que n’importe quel être humain. – C’est un exemple impressionnant de programme d’apprentissage qui date de plus de 35 ans 51 Indexage automatique Le système est conçu par feigenbaum en 1963 Déterminer un indexage pour accéder à des informations dans une grande base de données: Découvrir une nouvelle méthode d’indexage 52 Perceptrons Un système conçu par Rosenblatt en 1958 C’est un système de classification des objets Un système de découverte d’outils capables de faire la discrimination parmi différentes classes. 53 Accroissement des connaissances dans les systèmes de grande taille Certains systèmes sont appelés à acquérir des connaissances importantes en nombre dans le temps: – – – MYCIN [ Shortliffe 1976] INTERNIST [Pople 1977] DENDRAL [Feigenbaum 1971] L’interface homme machine doit être assez sophistiquée pour faciliter la communication entre ces systèmes et les experts qui sont appelés à améliorer ces connaissances 54 Le programme ISAAC C’est un programme de résolution de problèmes conçu par Novak en 1977 Il résout des problèmes énoncés en anglais et tirés des ouvrages de physique L’énoncé écrit en langage naturel est traduit en une représentation interne ou physique qui sera convertie par la suite en des équations mathématiques qu’il résout 55 Extension de l’apprentissage dans ISSAC Pour permettre d’autres découvertes, Hayes et Simon en 1974 ont incorporé un programme appelé UNDERSTAND pour comprendre la physique et non pas uniquement les énoncés de problèmes de physique Dans cette version, toute la physique est mémorisée 56 Un rôle pour l’apprentissage Il n’existe pas de procédure d’apprentissage plus efficaces que celles des humains qui sont très lentes Il n’existe pas de processus de copie de ces procédures chez les hommes. Dans le monde des ordinateurs, seul un ordinateur doit ‘fréquenter l’école’ 57 CONCLUSION Les cinq grandes priorités de l’apprentissage automatique sont: – 1- Simuler et approfondir la compréhension de l’apprentissage humain – 2- Eviter aux hommes la difficulté d’apprendre – 3- Promouvoir les travaux sur l’interface homme machine et le langage naturel – 4- Donner une place importante à la programmation automatique – 5- Développer les programmes de découverte de nouvelles connaissances 58 Ainsi l’apprentissage sera plus efficace que la programmation 59