Chapitre 11 Réseaux de neurones Exercices

D ÉPARTEMENT DE G ÉNIE LOGICIEL ET DES TI
LOG770 - S YST ÈMES INTELLIGENTS
É T É 2011
Chapitre 11
Réseaux de neurones
Exercices
1. Quelle est la différence entre le fonctionnement des réseaux de neurones et les processeurs que l’on retrouve dans la plupart des ordinateurs ? Comment les réseaux de neurones
peuvent-ils réaliser des tâches bien au-delà des capacités des processeurs, même s’ils sont
beaucoup plus lents que ces derniers (millisecondes versus nanosecondes pour les processeurs).
2. Comparez les réseaux de neurones et les processeurs standards en termes de robustesse à la
dégradation. Lequel de ces deux types de machines à calcul est le plus robuste ?
3. Quelle est la forme de la frontière de décision (type de courbe) provenant d’un perceptron ?
4. Pourquoi utilise-t-on la sigmoı̈de comme fonction d’activation d’un perceptron, au lieu de la
fonction de seuil dur, lors de l’apprentissage d’un perceptron ?
5. Expliquez de manière sommaire l’algorithme d’optimisation basé sur la descente du gradient.
6. Expliquez de manière sommaire l’algorithme de rétro-propagation pour l’entraı̂nement des
réseaux de neurone.
7. Dessinez un perceptron implémentant la fonction logique NON-OU. Donnez des valeurs
numériques aux poids du perceptron.
x1
0
0
1
1
x2
0
1
0
1
¬(x1 ∨ x2 )
1
0
0
0
8. Vrai ou faux : un réseau de neurones ayant seulement deux couches peut apprendre n’importe
quelle fonction (aussi complexe soit-elle), en autant qu’il ait suffisamment de neurones sur
la couche cachée. Justifiez votre réponse.
1
9. Décrivez brièvement une technique permettant d’accélérer la convergence de l’algorithme
de rétro-propagation, lors de l’entraı̂nement d’un réseau de neurones.
10. À quoi sert la technique de partage de poids dans les réseaux de neurones. Donnez un
exemple.
2