G. Henniart

REPRÉSENTATIONS LINÉAIRES
DE GROUPES FINIS
par
Guy Henniart
La théorie de la transformation de Fourier a une version très simple
pour les groupes abéliens finis (§ 1). Les premières difficultés du cas
non abélien se présentent déjà pour les groupes finis. Pour un groupe
fini non nécessairement abélien, on considère ses représentations dans
des espaces vectoriels complexes de dimension finie. L’étude de ces
représentations est maintenant l’une des théories de base de l’algèbre.
Nous en exposons les principaux résultats aux §§ 2 à 5 ; notre réfé-
rence est « Représentations linéaires des groupes finis », de J.-P. Serre,
collection Méthodes chez Hermann. On peut aussi consulter le début
du cours à l’X de P. Colmez. Nous déterminons ensuite explicitement
tous les caractères des représentations irréductibles de GL(2) sur un
corps fini ; nous suivons pour cela C.J. Bushnell et G. Henniart « The
local Langlands conjecture for GL(2) », Grundlehren der math. Wiss.
335, Springer-Verlag 2006, Chap. 2.
1. Caractères des groupes abéliens finis
On dispose d’une théorie de la transformation de Fourier pour
chaque groupe abélien localement compact. Pour un tel groupe H,
on note b Hl’ensemble des caractères de H, c’est-à-dire des homomor-
phismes de groupes, continus, de Hdans le groupe Udes nombres
complexes de module 1. La multiplication dans Ufait de b Hun groupe
abélien ; si on le munit de la topologie de la convergence uniforme sur

2G. HENNIART
les parties compactes de H, c’est un groupe abélien localement com-
pact. Les cas classiques sont celui où H=Z, auquel cas b Hs’identifie
àU, celui où H=U, avec b Hs’identifiant à Z, et celui où H=R,b H
s’identifiant alors à Régalement, un accident heureux.
La transformation de Fourier associe alors à une fonction sur H,
ayant de bonnes propriétés, une fonction sur b H; en particulier, on
obtient un isomorphisme de l’espace des fonctions de carré intégrable
sur Hsur l’espace des fonctions de carré intégrable sur b H. Dans tous
les cas, le dual b
b
Hde b Hs’identifie canoniquement à H: on le voit dans
les exemples ci-dessus, et le cas des groupes abéliens finis est traité
plus loin. Ainsi la transformation de Fourier, de Hvers b H, a une
application réciproque qui est encore une transformation de Fourier,
de b Hvers b
b
Hidentifié à H.
Le cas où Hest un groupe abélien fini – muni tacitement de la
topologie discrète – est particulièrement simple, les difficultés analy-
tiques disparaissant.
Si Hest un groupe cyclique de cardinal n, et si on choisit un gé-
nérateur sde H, alors l’application χ7→ χ(s)est un isomorphisme
de b Hsur le groupe des racines n-ièmes de l’unité dans C. Si Hest le
produit direct d’un nombre fini de sous-groupes Hi,i∈I, l’applica-
tion de b Hdans le produit des groupes b Hi, qui à χassocie (χ|Hi)i∈I,
est un isomorphisme de groupes.
Écrivant alors un groupe abélien fini Hcomme produit de groupes
cycliques, on prouve aisément les faits suivants :
(1) b Hest un groupe abélien fini isomorphe à H;
(2) pour tout élément hde Hdistinct de l’élément neutre 1H, il
existe un caractère χde Htel que χ(h)soit différent de 1, et on a
alors Pχ∈b
Hχ(h)=0; bien sûr, on a Pχ∈b Hχ(1H) = |H|.
Exercice.Vérifier les faits précédents ainsi que les assertions des re-
marques suivantes.
Remarque 1.Pour hdans H, l’application eh:b H→Uqui à χas-
socie χ(h)est un homomorphisme de groupes ; on obtient ainsi un
homomorphisme de groupes eH:H→b
b
H,h7→ eh, qui est injectif
par (2) ci-dessus et surjectif par (1). C’est par cette application qu’on
identifie b
b
HàH.

REPRÉSENTATIONS LINÉAIRES DE GROUPES FINIS 3
La théorie de la transformation de Fourier dans ce cadre peut se
résumer très simplement. Notons CHl’espace vectoriel des applica-
tions de Hdans C, et munissons-le du produit scalaire hf, ϕiH=
1
|H|Ph∈Hf(h)ϕ(h). Alors les caractères de Hforment une base or-
thonormale de CH: cela provient du fait (2) ci-dessus. Pour f∈CH,
si l’on pose b f(χ) = hχ, fipour χ∈b H, on a f=Pχ∈b
Hb
f(χ)χet en
particulier f(1H) = Pχ∈b
Hb
f(χ). L’application f7→ b fest un isomor-
phisme d’espaces vectoriels de CHsur Cb
H.
Remarque 2.Comme b Hest encore un groupe abélien fini, on peut ap-
pliquer la transformation de Fourier aux applications de b Hdans C.
Cela donne un isomorphisme ϕ7→ b ϕde Cb
Hsur CH, par l’identi-
fication de b
b
HàH. Pour fdans CH, on trouve bb f(h) = 1
|H|f(h−1)
pour hdans H.
Pour H=Z/nZ, on obtient la transformée de Fourier discrète très
largement utilisée en algorithmique.
Remarque 3.Le groupe Hagit sur CHpar translation : g·f(h) =
f(hg)pour h, g dans Het fdans CH. On a d g·f=egb f.
2. Représentations linéaires des groupes finis
Si Hest un groupe topologique localement compact non nécessai-
rement abélien, le rôle des caractères de Hest joué par les représen-
tations unitaires irréductibles de Hdans des espaces de Hilbert com-
plexes. Les classes d’isomorphisme de telles représentations forment
un espace topologique b H, appelé dual unitaire de H, qui n’est pas un
groupe en général. La transformation de Fourier associe à certaines
fonctions sur Hdes fonctions, éventuellement à valeurs vectorielles,
sur b H. Ici encore, les difficultés d’ordre analytique s’évanouissent
quand Hest un groupe fini, ce que nous supposons désormais.
Par représentation de H, nous entendons ici représentation linéaire
de Hdans un espace vectoriel complexe de dimension finie : il s’agit
donc de couples (ρ, V ), où Vest un tel espace vectoriel et ρun ho-
momorphisme de groupes de Hdans le groupe AutC(V)des auto-
morphismes de l’espace vectoriel V; par abus, on désigne souvent

4G. HENNIART
la représentation par ρ, voire simplement par V. La dimension, ou
degré, de (ρ, V )est la dimension de V.
Un caractère de Hdonne une représentation de Hdans C: le
caractère constant de valeur 1(dit caractère trivial) donne ainsi une
représentation dite triviale.
Exemple 1.Soit nun entier strictement positif. Le groupe symé-
trique Snagit sur Cnpar permutation de la base canonique : l’élé-
ment σde Snenvoie eisur eσ(i). On obtient ainsi la représentation
de permutation naturelle de Sn.
Exemple 2.Considérons l’espace euclidien R2et sa base canonique
(e1, e2). Le groupe D4des isométries du carré {e1,−e1, e2,−e2}agit
sur R2. Prolongeant ces isométries par C-linéarité, on obtient une
représentation de dimension 2de D4.
Exemple 3.Plus généralement, soit Dnle groupe des isométries d’un
polygone régulier à ncôtés. Ce groupe d’ordre 2nest engendré par
deux éléments, une rotation rd’angle 2π/n et une symétrie s, assu-
jetties aux relations rn= 1,s2= 1 et srs =r−1.
On pose X=e2iπ/n 0
0e−2iπ/n et Y=0 1
1 0 .
L’application ρhdonnée par ρh(r) = Xhet ρh(s) = Yse prolonge
en un homomorphisme de groupes de Dndans GL2(C)et définit donc
une représentation de Dndans C2.
Si (ρ0, V 0)est une autre représentation de H, un morphisme de ρ
dans ρ0est une application linéaire ϕde Vdans V0telle que ϕ◦ρ(h)
et ρ0(h)◦ϕsoient égaux pour tout hdans H. Si ϕest bijective, c’est
un isomorphisme de ρsur ρ0, encore appelé équivalence de ρet ρ0.
On note HomH(ρ, ρ0)ou HomH(V, V 0)l’espace vectoriel complexe des
morphismes de ρdans ρ0.
Remarque 1.Soit C[H]l’algèbre du groupe H, dont nous notons
les éléments Ph∈Hahh. Si (ρ, V )est une représentation de H,V
devient un module sur C[H], pour la loi d’action (Ph∈Hahh)v=
Ph∈Hahρ(h)v, pour Pahhdans C[H]et vdans V.
De cette façon la catégorie des représentations de Hs’identifie à
la catégorie des C[H]-modules qui sont de dimension finie sur C. Une
sous-représentation d’une représentation (ρ, V )de Hest la même

REPRÉSENTATIONS LINÉAIRES DE GROUPES FINIS 5
chose qu’un sous-module du module Vsur C[H], ce qui correspond
à un sous-espace vectoriel stable de V, muni de l’action induite –
stable signifie ici stable pour tous les ρ(h),h∈H. On définit de
façon évidente la somme d’une famille de sous-représentations de V.
Définition.Une représentation (ρ, V )de Hest irréductible si Vest
un module simple sur C[H], autrement dit si Vn’est pas nul et que
ses seuls sous-espaces vectoriels stables sont {0}et V.
Exemple 1 (suite).Pour n>2, la représentation de permutation na-
turelle du groupe symétrique Snn’est pas irréductible car la droite
engendrée par e1+e2+···+enest stable. À titre d’exercice, on peut
démontrer que le supplémentaire formé des vecteurs dont la somme
des coordonnées est nulle porte une sous-représentation irréductible
de Sn.
Exemple 2 (suite).La représentation naturelle de D4dans C2est ir-
réductible.
Exemple 3 (suite).Si nest pair (respectivement impair) la représenta-
tion ρhde Dnest irréductible pour h6= 0 et h6=n/2(respectivement
h6= 0) et les représentations Vn−h, Vn+het Vhsont isomorphes. Ainsi,
si nest pair (respectivement impair), nous obtenons n
2−1(respec-
tivement n−1
2) représentations irréductibles de dimension 2, deux à
deux non isomorphes.
Soit (ρ, V )une représentation de H, et soit Wun sous-espace
stable de V. Si pest un projecteur dans Vd’image W, alors q=
1
|H|Ph∈Hρ(h)◦p◦ρ(h)−1est un projecteur dans Vd’image W; il
vérifie ρ(h)◦q=q◦ρ(h)pour tout hdans H, et son noyau est un
supplémentaire stable de W. Ainsi tout sous-espace stable de Vpos-
sède un supplémentaire stable. On en déduit que ρest somme directe
de sous-représentations irréductibles.
Remarque 2.Par le même procédé de moyenne, on prouve que si
(ρ, V )est une représentation de H, il existe sur Vun produit scalaire
invariant pour l’action de H; ce produit scalaire fait de Vun espace
de Hilbert complexe de dimension finie, et de ρune représentation
unitaire de Hdans cet espace.