1 à 13 - Département de mathématiques et de statistique

INTRODUCTION ` A LA TH´ EORIE DE LA REPR´ ESENTATION
MAT 6609
ABRAHAM BROER
R´ ef´ erences
[1] Ya. G. Berkovich and E.M. Zhmud’, Characters of finite groups. Part 1 and Part 2. Translations of Mathematical
Monographs Vol. 172 and Vol. 181, Amer. Math. Soc., 1997.
[2] C.W. Curtis et I. Reiner, Representation theory of finite groups and associative algebras, Interscience Publishers,
New York, 1962.
[3] D.S. Dummit et R.M. Foote, Abstract algebra. Third edition, 2003.
[4] W. Fulton et J. Harris, Representation theory. A first course, G.T.M. 129, Springer-Verlag, New York, 1991.
[5] I.M. Martin, Character theory of finite groups, Dover Publ., New York, 1994.
[6] N. Jacobson, Basic algebra. I, W. H. Freeman and Co., San Francisco, Calif., 1974.
[7] N. Jacobson, Basic algebra. II, W. H. Freeman and Co., San Francisco, Calif., 1980.
[8] G. James et M. Liebeck, Representations and characters of groupes. Second edition, Cambridge University Press,
Cambridge, United Kingdom, 2001.
[9] J.-P. Serre, Repr´esentations lin´eaires des groupes finis. Deuxi`eme ´edition, Hermann, Paris, 1971.
1. Introduction
Chaque matrice complexe n×nest conjugu´ee `a une matrice de la forme normale de Jordan. Si
un groupe agit lin´eairement sur Cn, chaque ´el´ement du groupe est repr´esent´e par une matrice. La
th´eorie de la repr´esentation cherche des formes normales pour toutes ces matrices simultan´ement.
La th´eorie est particuli`erement bien d´evelopp´ee pour les groupes finis. Pour les groupes infinis
la th´eorie g´en´erale est trop g´en´erale pour obtenir des r´esultats int´eressant; il faut se restreindre sur
certaines sous-cat´egories de repr´esentations pour obtenir des th´eories satisfaisantes.
Par exemple pour les groupes de Lie compacts et leurs repr´esentations continues la th´eorie s’est
aussi aussi bien d´evelopp´ee comme la th´eorie des repr´esentations des groupes finis. Dans ce cours
il s’agit principalement de ce deux th´eories de repr´esentations. Ces deux th´eories sont `a la base de
toute autre th´eorie de la repr´esentations. Il faut mentionner qu’aussi autres cat´egories de groupes
(et alg`ebres) et de classes de repr´esentations sont bien ´etudi´ees et appliqu´ees dans les domaines
diverses comme la th´eorie des nombres, l’analyse harmonique ou la physique quantique.
1.1. Un exemple. Pour un exemple, consid´erons le groupe S3des permutations de {1,2,3}. Dans
le tableau suivant on donne trois repr´esentations; ρ1de dimension 1 (la repr´esentation triviale), ρ2
Date: January 11, 2007.
1

2 ABRAHAM BROER
de dimension 2 (la repr´esentation signe) et ρ3de dimension 2 (la repr´esentation dih´edrale).
S3(1) (1,2) (1,3) (2,3) (1,2,3) (1,3,2)
ρ1(1) (1) (1) (1) (1) (1)
ρ2(1) (−1) (−1) (−1) (1) (1)
ρ3 1 0
0 1! −1 1 0 1! 0−1 −1 0 ! 1 0 1−1! 0−1 1−1! −1 1 −1 0!
L’analogue du th´eor`eme de Jordan pour le groupe S3est le r´esultat suivant. Soit µune repr´esentation
de S3par des matrices complexes n×n. Alors (possiblement apr`es conjugaison) pour chaque per-
mutation π∈S3la matrice associ´ee `a πest une matrice block-diagonale de la forme
diag(µ1(π), µ2(π), . . . , µs(π))
o`u chaque block µiest soit ρ1, ou ρ2,ouρ3.
Par exemple, consid´erons la repr´esentation par matrices de permutation
S3(1) (1,2) (1,3) (2,3) (1,2,3) (1,3,2)
µ
1 0 0
0 1 0
0 0 1
010
100
001
0 0 1
0 1 0
1 0 0
1 0 0
0 0 1
0 1 0
0 0 1
1 0 0
0 1 0
0 1 0
0 0 1
1 0 0
Soit
P:= 
1 1 0
1−1 1
1 0 −1
.
Si on remplace chaque matrice Mpar P−1MP on obtient la repr´esentation matricielle
S3(1) (1,2) (1,3) (2,3) (1,2,3) (1,3,2)
P−1µP 
1 0 0
0 1 0
0 0 1
100
0−1 1
001
1 0 0
0 0 −1
0−1 0
1 0 0
0 1 0
0 1 −1
1 0 0
0 0 −1
0 1 −1
100
0−1 1
0−1 0
Alors
P−1µP = diag(ρ1, ρ3).
Soit µ= diag(ρ1, ρ2, ρ3) de dimension 4. Consid´erons R, la collection de toutes les matrices de
la forme
∗000
0∗0 0
0 0 ∗ ∗
0 0 ∗ ∗
.
C’est une alg`ebre complexe de dimension 6, c’est `a dire, Rest un anneau et simultan´ement un
espace vectoriel complexe de dimension 6. On voit que les six matrices µ(π), π∈S3, font une
base de R. C’est `a dire, si M∈R, alors ils existent 6 uniques scalaires cπ∈C,π∈S3, tels que

INTRODUCTION ` A LA TH´ EORIE DE LA REPR´ ESENTATION MAT 6609 3
M=Pπ∈S3cπµ(π).Soit M0=Pπ∈S3c0
πµ(π) un autre ´el´ement de R. Alors
MM 0=X
π∈S3
cπµ(π)X
π∈S3
c0
πµ(π)
=X
π1,π2∈S3
cπ1c0
π2µ(π1)µ(π2)
=X
π1,π2∈S3
cπ1c0
π2µ(π1π2)
=X
π∈S3
X
π1∈S3
cπ1c0
π−1
1π
µ(π)
Donc on peut effectuer le produit matriciel MM0par un calcul avec l’alg`ebre de groupe, comme
on vient de faire. Inversement, on peut effectuer un calcul dans l’alg`ebre de groupe, par un calcul
matriciel.
Chaque repr´esentation de dimension finie de S3contient un certain nombre de copies de ρ1,ρ2et
ρ2, disons n1,n2et respectivement n3. Il y a une m´ethode simple et explicite pour calculer le nombre
de copies avant de connaˆıtre la forme normale. Cette m´ethode utilise seulement la trace (et pas
toute la matrice), qui ne change pas apr`es une conjugaison. Et aussi tr(diag(µ1, µ2) = tr(µ1)+tr(µ2)
pour les matrices block-diagonales.
Remarquons d’abord que la somme des matrices de ρ2est 0, et aussi que la somme des matrices
de ρ3est la matrice 0. Mais la somme des matrices de ρ1est (6). Il suit que n1est la trace de la
matrice 1
6Pπ∈S3ρ(π), ou
n1=1
6X
π∈S3
tr(ρ(π)).
Puis, remarquons que si on multiplie les matrices ρ3(π) par le signe de π∈S3et apr`es on prend
la somme, on obtient encore une fois la matrice 0; la mˆeme chose pour ρ1, mais cette fois on obtient
la somme (6) pour ρ2. Il suit que
n2=1
6X
π∈S3
ρ1(π)tr(ρ(π)).
Si n×nest la taille des matrices de ρ, alors n=n1+n2+ 2n3, donc
n3=n−n1−n2
2.
Alternativement, remarquons que si on multiplie les ρ1(π) par tr(ρ3(π)) pour π∈S3et apr`es on
prend la somme, on obtient (0); la mˆeme chose pour ρ2, mais cette fois on obtient la somme 3 0
0 3!
pour ρ3. Et donc on obtient la formule
n3=1
6X
π∈S3
tr(ρ3(π))tr(ρ(π)).
Soit V=C[X1, X2, X3] l’anneau de polynˆomes complexes dans les variables X1,X2,X3. En
particulier, Vest un espace vectoriel complexe. On a une d´ecomposition comme espace vectoriel
V=V0⊕V1⊕V2⊕V3⊕. . . ⊕Vn⊕. . . ,

4 ABRAHAM BROER
o`u Vnest la collection des polynˆomes homog`enes de degr´e n. Une base est par exemple
1, X1, X2, X3, X2
1, X2 2, X2 3, X1X2, X1X3, X2X3, X3 1, . . .
Comparer avec l’expansion de
1
(1 −X1t)(1 −X2t)(1 −X3t)
en t= 0
1+(X1+X2+X3)t+ (X2
1+X2 2+X2 3+X1X2+X1X3+X2X3)t2+ (X3 1+. . .)t3+. . . .
On voit que le coefficient de tnest une somme de monˆomes, et ces monˆomes forment une base de
Vn. Si on met toutes les variables ´egales `a 1 on obtient que le coefficient de tndans l’expansion `a
t= 0 de 1
(1−t)3est exactement la dimension de n.
Le groupe S3agit lin´eairement sur Vet chaque Vnen permutant les variables. Donc chaque
permutation πde S3donne pour chaque nune application lin´eaire de Vndans Vn; cette application
est repr´esent´ee par une matrice µn(π). Par exemple si π= (1,3,2) et n= 2, alors
πX2
1=X2
π(1) =X2
3, πX2 2=X2 1, πX2 3=X2 2, πX1X2=X3X1, πX1X3=X3X2, πX2X3=X1X2
et la matrice
µ2((1,3,2)) =
010000
001000
100000
000001
000100
000010
De fa¸con analogue on obtient pour (1,2),(1,3),(2,3),(1,2,3) les matrices
010000
100000
001000
000100
000001
000010
;
001000
010000
100000
000001
000010
000100
;
100000
001000
010000
000010
000100
000001
;
001000
100000
010000
000010
000001
000100
.
La matrice identit´e est associ´ee `a (1) ∈S3. Nous pouvons calculer n1=1
6(6+2+2+2+0+0) = 2,
n2=1
6(6 −2−2−2 + 0 + 0) = 0 et n3= (6 −2)/4 = 2 = 1 6(12 + 0 + 0 + 0 −0−0).Donc il existe
une matrice Ptel que P−1µ2P= diag(ρ1, ρ1, ρ3, ρ3).
La trace de (1,3,2) de la matrice associ´ee `a Vnest le coefficient de 1
(1−t3)(vous voyez pourquoi?
changer la base X1, X2, X3vers une base de vecteurs propre), pour les autres permutations:
S3(1) (1,2) (1,3) (2,3) (1,2,3) (1,3,2)
tr 1
(1−t)3
1
(1−t)(1−t2)
1
(1−t)(1−t2)
1
(1−t)(1−t2)
1
(1−t3)
1
(1−t3)
On a
1
61 (1 −t)3+1 (1 −t)(1 −t2)+1 (1 −t)(1 −t2)+1 (1 −t)(1 −t2)+1 (1 −t3)+1 (1 −t3)

INTRODUCTION ` A LA TH´ EORIE DE LA REPR´ ESENTATION MAT 6609 5
est ´egale `a
1
(1 −t)(1 −t2)(1 −t3)
Donc le coefficient de tndans l’expansion de 1
(1−t)(1−t2)(1−t3)est le nombre de fois que ρ1apparaˆıt
dans Vn.
2. Rappel de quelques r´ esultats de l’alg` ebre
Travailler uniquement avec des matrices n’est pas suffisamment flexible, il sera n´ecessaire d’abstraire
et de travailler avec des espaces vectoriels et les applications lin´eaires et mˆeme avec des modules
sur des anneaux et ses morphismes.
Dans cette section on rappelle quelques constructions alg´ebriques et on donne quelques r´esultats
pr´eliminairs.
Pour nous les anneaux seront toujours suppos´es d’ˆetre associatifs et unitairs. Si Mest un module
`a gauche d’un anneau Rd’unit´e 1, on supposera aussi toujours que 1·m=m, pour chaque m∈M.
Pour un anneau Ron d´enote le sous-ensemble de ses unit´e par R×, donc R×est la collection des
´el´ements qui admettent un inverse multiplicativement. En fait, R×est un groupe. Un corps gauche
est un anneau dont chaque ´el´ement non-z´ero admet un inverse multiplicatif, alors si R×=R\{0}.
Un corps gauche est un corps si la multiplication est commutative.
Pour un R-module `a gauche Mon d´enote
EndR(M) : L : M→M;Lest endomorphisme de Mcomme R-module `a gauche}
pour l’anneau des endomorphismes de M. Et puis on ´ecrit GL(M) := (EndR(M))×, alors
GL(M):={L:M→M;Lest automorphisme de Mcomme R-module `a gauche}.
Soit Mun R-module. On rappelle que le R-module dual M∗est d´efini par
M∗:= HomR(M, R),
c’est l’ensemble des fonctionnelles sur M.
On dit qu’un sous-ensemble B⊆Md’un R-module `a gauche Mest ind´ependant si pour chaque
equation lin´eaire
r1b1+r2b2+. . . +rnbn= 0,
avec ri∈R, et bi∈B(tous diff´erents), on a automatiquement que les scalaires risont 0. On dit
que B⊆Mest un ensemble g´en´erateur, si Mcoincide avec le sous R-module de Mengendr´e par
B, not´e par < B >R. On dit que B⊆Mest une base si Best un ensemble g´en´erateur ind´ependant.
Pas chaque R-module `a gauche contient une base. Par exemple, le Z-module Z/2Zn’admet pas de
base.
2.1. Modules libres et bases. Soit Run anneau. Les modules `a gauche libres ressemblent le plus
les espaces vectoriels. Ce sont par d´efinition les modules qui admettent une base. Explicitement,
B ⊂ Mest une base de Msi pour chaque non-zero m∈Mil existe une unique expression finie
m=c1b1+c2b2+. . . +crbr,
o`u les bi∈Bet o`u les ci∈Rsont tous non-z´ero. Une base n’est pas n´ecessairement finie.