INF 560 Calcul Parallèle et Distribué Cours 7

INF 560
Calcul Parall`ele et Distribu´e
Cours 7
Eric Goubault
CEA, LIST & Ecole Polytechnique
25 f´evrier 2013
E. Goubault

Plan
Communications et routage
G´en´eralit´es
Cas de l’hypercube (diffusion simple)
Cas du tore 2D (multiplication de matrices)
Algorithmique sur ressources h´et´erog`enes
Allocation et ´equilibrage de charges statique/dynamique
Cas de l’algorithme LU: sur anneau (1D) puis tore (2D)
E. Goubault

G´ en´ eralit´ es
Topologie statique: r´eseau d’interconnexion fixe:
anneau, tore 2D,
hypercube, graphe complet etc.
Topologie dynamique: modifi´ee en cours d’ex´ecution (par
configuration de switch)
E. Goubault

Caract´ eristiques
Topologie # proc. dodiam. # liens
Complet p p −1 1 p(p−1)
2
Anneau p2bp
2cp
Grille 2D p(p)p(p) 2,3,4 2(p(p)−1) 2p−2p(p)
Tore 2D p(p)p(p) 4 2b√(p)
2c2p
Hypercube p= 2dd=log(p)dplog(p)
2
E. Goubault

Int´ erˆ et
R´eseau complet: id´eal pour le temps de communications
(toujours unitaire)
Mais: passage `a l’´echelle difficile! (prix du cablage, rajouter
des nouveaux processeurs?)
Anneau: pas cher, mais communications lentes, et tol´erance
aux pannes des liens faible
Tore 2D, Hypercube: bons compromis entre les deux
E. Goubault