Chapitre 11 Réseaux de neurones Exercices

D´ EPARTEMENT DE G ´ ENIE LOGICIEL ET DES TI
LOG770 - SYST ` EMES INTELLIGENTS
´
ET´ E2011
Chapitre 11
R´ eseaux de neurones
Exercices
1. Quelle est la diff´ erence entre le fonctionnement des r´ eseaux de neurones et les proces-
seurs que l’on retrouve dans la plupart des ordinateurs ? Comment les r´ eseaux de neurones
peuvent-ils r´ ealiser des tˆ aches bien au-del` a des capacit´ es des processeurs, mˆ eme s’ils sont
beaucoup plus lents que ces derniers (millisecondes versus nanosecondes pour les proces-
seurs).
2. Comparez les r´ eseaux de neurones et les processeurs standards en termes de robustesse ` a la
d´ egradation. Lequel de ces deux types de machines ` a calcul est le plus robuste ?
3. Quelle est la forme de la fronti` ere de d´ ecision (type de courbe) provenant d’un perceptron ?
4. Pourquoi utilise-t-on la sigmo¨ ıde comme fonction d’activation d’un perceptron, au lieu de la
fonction de seuil dur, lors de l’apprentissage d’un perceptron ?
5. Expliquez de mani` ere sommaire l’algorithme d’optimisation bas´ e sur la descente du gra-
dient.
6. Expliquez de mani` ere sommaire l’algorithme de r´ etro-propagation pour l’entraˆ ınement des
r´ eseaux de neurone.
7. Dessinez un perceptron impl´ ementant la fonction logique NON-OU. Donnez des valeurs
num´ eriques aux poids du perceptron.
x1x2¬(x1∨x2)
0 0 1
0 1 0
1 0 0
1 1 0
8. Vrai ou faux : un r´ eseau de neurones ayant seulement deux couches peut apprendre n’importe
quelle fonction (aussi complexe soit-elle), en autant qu’il ait suffisamment de neurones sur
la couche cach´ ee. Justifiez votre r´ eponse.
1

9. D´ ecrivez bri` evement une technique permettant d’acc´ el´ erer la convergence de l’algorithme
de r´ etro-propagation, lors de l’entraˆ ınement d’un r´ eseau de neurones.
10. ` A quoi sert la technique de partage de poids dans les r´ eseaux de neurones. Donnez un
exemple.
2