SOMMAIRE
INTRODUCTION ................................................................................................................. 1
CHAPITRE 1
INTRODUCTION AUX RÉSEAUX DE NEURONES ....................................................... 3
1. Introduction ............................................................................................................ 3
2. Historique .............................................................................................................. 4
3. Un neurone artificiel .............................................................................................. 4
3.1. Le modèle de McCulloch et Pitts ............................................................ 4
3.2. Généralisation ......................................................................................... 6
4. Les réseaux ............................................................................................................ 6
5. La mise à jour des poids ........................................................................................ 7
6. Apprentissage et adaptation ................................................................................... 7
7. Le Perceptron à plusieurs couches ......................................................................... 8
7.1. Description .............................................................................................. 8
7.2. Apprentissage par rétropropagation d'erreurs. ........................................ 10
8. Mise en oeuvre ....................................................................................................... 11
9. Conclusions ............................................................................................................ 12
9.1. Des propriétés ......................................................................................... 12
9.2. Des limites .............................................................................................. 13
9.3. Nos prétraitements .................................................................................. 13
CHAPITRE 2
LES RESSOURCES MISES EN OEUVRE ......................................................................... 15
1. Introduction ............................................................................................................ 15
2. Utilisation de SIRENE ........................................................................................... 15
3. Le programme ........................................................................................................ 17
3.1. Présentation ............................................................................................. 17
3.2. Création d'un fichier d'instructions type .................................................. 18
3.3. Modification du nombre de sorties et fichier d'utilisation ...................... 18
3.4. Analyse des résultats ............................................................................... 18
4. Les phases du sommeil .......................................................................................... 19
4.1. Description du problème ......................................................................... 19
4.2. Description des données ......................................................................... 20
4.3. Résultats sans compression ..................................................................... 20
5. Les caractères manuscrits de la poste allemande ................................................... 23
5.1. Description du problème et des données................................................. 23
5.2. Résultats sans compression ..................................................................... 23
6. Les véhicules .......................................................................................................... 24
6.1. Description du problème et des données................................................. 24
6.2. Résultats sans compression ..................................................................... 25
6.3. Comparaisons avec des résultats officiels ............................................... 26
7. Données corrélées .................................................................................................. 28
8. Conclusions ............................................................................................................ 28
CHAPITRE 3
LA MÉTHODE DE KARHUNEN-LOÈVE ......................................................................... 29
1. Introduction ............................................................................................................ 29
2. La méthode ............................................................................................................ 29
2.1. Description formelle ............................................................................... 29
2.2. Signification géométrique ....................................................................... 32
3. Le programme ........................................................................................................ 34
3.1. Vecteurs propres ..................................................................................... 34
3.2. Matrice de transformation ....................................................................... 35
3.3. Création du fichier compressé................................................................. 35
4. Analyse des phases du sommeil ............................................................................. 35
4.1. Introduction ............................................................................................. 35
4.2. Compression à 20 .................................................................................... 36
4.3. Compression à 10 .................................................................................... 38
5. Reconnaissance des caractères manuscrits ............................................................ 40
5.1. Introduction ............................................................................................. 40
5.2. Compression à 40 et recentrage .............................................................. 40
5.3. Compression à 20 et recentrage .............................................................. 43
5.4. Autres tentatives de compression ............................................................ 45
5.5. Comparaisons avec des résultats officiels ............................................... 46
6. Reconnaissance des véhicules ............................................................................... 47
6.1. Introduction ............................................................................................. 47
6.2. Compression à 10. ................................................................................... 47
6.3. Compressions inférieures à 10 ................................................................ 49
7. Conclusions ............................................................................................................ 50
CHAPITRE 4
LA MÉTHODE LPC ............................................................................................................. 52
1. Introduction ............................................................................................................ 52
2. La méthode ............................................................................................................ 52
3. Le programme ........................................................................................................ 57
4. Analyse des phases du sommeil ............................................................................. 57
4.1. Introduction ............................................................................................. 57
4.2. Compression à 20 .................................................................................... 57
4.3. Compression à 10 .................................................................................... 60
5. Reconnaissance des caractères manuscrits ............................................................ 62
5.1. Introduction ............................................................................................. 62
5.2. Compression à 40 .................................................................................... 62
5.3. Autres tentatives ...................................................................................... 64
6. Reconnaissance des véhicules ............................................................................... 65
7. Conclusions ............................................................................................................ 66
CHAPITRE 5
LA MÉTHODE NLPCA ....................................................................................................... 67
1. Introduction ............................................................................................................ 67
2. La méthode ............................................................................................................ 67
2.1. Le principe .............................................................................................. 67
2.2. Recherche des vecteurs de fonctions G et H ........................................... 68
2.3. L'apprentissage des réseaux .................................................................... 70
2.4. Détermination de la taille des couches .................................................... 72
2.5. Remarques sur les couches cachées ........................................................ 73
3. Le programme ........................................................................................................ 73
3.1. Conversion des données au format NLPCA. .......................................... 74
3.2. Sélection des premières couches d'un réseau. ......................................... 74
3.3. Modification du nombre de sorties et utilisation type ............................. 74
3.4. Récupération des sorties d'un réseau ....................................................... 75
4. Les traitements ....................................................................................................... 75
5. Les phases du sommeil et les caractères manuscrits .............................................. 77
6. Reconnaissance des véhicules ............................................................................... 77
6.1. Introduction ............................................................................................. 77
6.2. Compression à 10 .................................................................................... 78
6.3. Compression à 8 ...................................................................................... 81
6.4. Autres compressions ............................................................................... 83
7. Données corrélées .................................................................................................. 84
7.1. Présentation ............................................................................................. 84
7.2. Résultats .................................................................................................. 85
8. Conclusions ............................................................................................................ 85
CHAPITRE 6
LA MÉTHODE LSP .............................................................................................................. 87
1. Introduction ............................................................................................................ 87
2. La méthode ............................................................................................................ 87
3. Objections à son implémentation ........................................................................... 89
4. Conclusions ............................................................................................................ 90
CHAPITRE 7
COMPARAISONS DES MÉTHODES ................................................................................ 91
1. Introduction ............................................................................................................ 91
2. Les résultats ........................................................................................................... 91
3. Conclusions ............................................................................................................ 94
CONCLUSIONS ................................................................................................................... 95
BIBLIOGRAPHIE
ANNEXES
A. Les menus de SIRENE
B. Les menus de notre programme
C. Code source du programme
REMERCIEMENTS
Avant de présenter notre travail, nous tenons à remercier tous ceux qui, de
loin ou de près, ont participé à sa réalisation.
Nos remerciements vont tout d'abord à Monsieur Destiné qui a patronné ce
travail et à Monsieur Fombellida qui nous a conseillé et guidé.
Nous tenons également à exprimer notre reconnaissance à Mme Haesbroeck
pour la relecture minutieuse de notre texte et les conseils qu'elle nous a donnés.
Beaucoup d'autres personnes devraient être mentionnées ici. Citons entre
autres : notre famille, Gentiane et ses parents, les habitués de la salle IA, ainsi que tous
les utilisateurs du réseau d'ordinateurs qui n'ont pas protesté contre la surcharge de leur
machine durant nos nombreuses simulations neurales.
1 / 132 100%