séance du 18/9 - IMJ-PRG

S´ EANCE DU 18/9
1. Groupes topologiques
Définition 1.1. — Un groupe topologique est un groupe G muni d’une to-
pologie telle que les deux applications :
G×G→G,et G →G,
(g, h)7→ gh g 7→ g−1
soient continues (ici, G ×G est muni de la topologie produit). Ceci ´equivaut `a
la continuit´e de l’application (g, h)7→ gh−1.
Dans ce cas, tout sous-groupe H de G, muni de la topologie induite, est un
groupe topologique.
Exemples 1.2 (Groupes discrets). — Tout groupe Γ, muni de la topologie dis-
cr`ete, est un groupe topologique. Par exemple, Z,Z/nZ, tout groupe fini, etc.
Exemples 1.3 (Groupes additifs et multiplicatifs). — 1) (R,+) est un groupe
topologique, puisque l’application (x, y)7→ x−yest continue. De mˆeme, (C,+)
est un groupe topologique, isomorphe `a (R2,+). Plus g´en´eralement, (Rn,+).
2) (R∗,×) est un groupe topologique, puisque l’application (x, y)7→ xy−1
est continue. Il n’est pas connexe, puisque R∗
+est un sous-groupe ouvert et
ferm´e.
De mˆeme, (C∗,×) est un groupe topologique. Le cercle S1={z∈C|
zz = 1}est un sous-groupe de (C∗,×). On le note aussi U(1). Comme espace
topologique, il est compact. On a un isomorphisme de groupes topologiques
C∗∼
=S1×R∗
+.
Exemples 1.4 (Groupes linéaires). — Soit K=Rou C. On munit Mn(K)∼
=
Kn2de la topologie usuelle. L’application A 7→ d´et A est continue, puisque
(0)version du 19/9/06

2S´ EANCE DU 18/9
c’est un polynˆome en les coefficients ai,j de A. Donc le groupe
GLn(K) = {A∈Mn(K)|d´et A 6= 0}
est un ouvert de Mn(K). L’application (A,B) 7→ AB est continue, puisque
chaque coefficient
(AB)i,j =
n
X
k=1
ai,kbk,j
est une fonction continue (un polynˆome quadratique) en les coefficients de A et
B. Soit C(A) la matrice des cofacteurs de A, c.-`a-d., C(A)i,j est le d´eterminant
de la matrice de taille n−1 obtenue `a partir de A en supprimant la i-`eme
ligne et la j-`eme colonne ; c’est un polynˆome homog`ene de degr´e n−1 en les
coefficients de A. D’apr`es la formule
A−1=1
d´et A
tC(A),
o`u td´esigne la matrice transpos´ee, on voit que A 7→ A−1est une application
continue. Donc GLn(K) est un groupe topologique. Le groupe
SLn(K) = {A∈GLn(K)|d´et A = 1}
est un sous-groupe ferm´e. Ni GLn(K) ni SLn(K) ne sont compacts, car SLn(K)
contient, par exemple, les matrices I + xEi,j , pour i < j et x∈Karbitraire,
donc la fonction continue A 7→ Ai,j est non born´ee sur SLn(K).
Exemples 1.5 (Groupes orthogonaux, unitaires ou symplectiques)
Ce sont les sous-groupes de GLn(K) qui pr´eservent une forme bilin´eaire
sym´etrique, une forme hermitienne, ou une forme bilin´eaire antisym´etrique
(forme altern´ee). En particulier, on a les deux exemples suivants.
1) On munit Rndu produit scalaire euclidien usuel, c.-`a-d., si x=
(x1, . . . , xn) et y= (y1, . . . , yn), alors
(x, y) = X
i
xiyi,et kxk=p(x, x) = sX
i
x2
i.
Alors, on d´efinit le groupe orthogonal
O(n) = {A∈GLn(R)|(Ax, Ay) = (x, y),∀x, y ∈Rn}
={A∈GLn(R)|tAA = I}
={A = (ai,j ∈Mn(R)|Pn
k=1 ak,iak,j =δi,j ,∀i, j}.
Alors, O(n) est un sous-groupe ferm´e de GLn(R) et aussi un sous-espace ferm´e
de Mn(R). De plus, Pka2
k,i = 1 entraˆıne |ak,i|61 pour tout k, i ; donc O(n)
est un ferm´e born´e de Mn(R), donc est compact.

2. INTERLUDE SUR LES REPR´ ESENTATIONS DE GROUPES FINIS 3
D’autre part, comme d´et(tA) = A, pour tout A ∈O(n) on a d´et(A)2= 1,
d’o`u d´et(A) = ±1. Ceci conduit `a introduire le groupe sp´ecial orthogonal
SO(n) = {A∈O(n)|d´et(A) = 1}.
C’est un sous-groupe ferm´e de O(n), il est donc ´egalement compact. Pour
n= 2, on a
SO(2) = ½µa−b
b a ¶¯¯¯¯
a2+b2= 1¾∼
=S1.
2) On munit Cndu produit scalaire hermitien usuel, c.-`a-d., si x=
(x1, . . . , xn) et y= (y1, . . . , yn), alors
(x, y) = X
k
xkyk,et kxk=p(x, x) = sX
k
|xk|2.
Alors, on d´efinit le groupe unitaire
U(n) = {A∈GLn(C)|(Ax, Ay) = (x, y),∀x, y ∈Cn}
={A∈GLn(C)|tAA = I}
={A = (ai,j )∈Mn(C)|Pn
k=1 ak,iak,j =δi,j ,∀i, j}.
Alors, U(n) est un sous-groupe ferm´e de GLn(C), et aussi un sous-espace ferm´e
de Mn(C). De plus, Pk|ak,i|2= 1 entraˆıne |ak,i|61 pour tout k, i ; donc U(n)
est un ferm´e born´e de Mn(C), donc est compact.
D’autre part, l’image de U(n) par l’application continue d´et est un sous-
groupe compact de C∗, donc contenu dans S1. En fait, on peut voir que l’image
est exactement S1. On introduit aussi le groupe sp´ecial unitaire
SU(n) = {A∈U(n)|d´et(A) = 1}.
C’est un sous-groupe ferm´e de U(n), il est donc ´egalement compact. Pour
n= 1, on a
U(1) = {z∈C∗|zz = 1}= S1.
Exemples 1.6 (Groupes p-adiques). — Soit Zpl’anneau des entiers p-adiques.
Alors (Zp,+) et (Z∗
p,×) sont des groupes topologiques compacts, voir par
exemple [Am, Chap. 1].
2. Interlude sur les repr´esentations de groupes finis
Définition 2.1. — Soit G un groupe. Une repr´esentation (complexe) de G
dans un C-espace vectoriel V est la donn´ee d’un morphisme de groupes ρ:
G→GL(V). Dans ce cas, on dit aussi que V est un G-module. Si V est de
dimension finie n, ceci ´equivaut `a la donn´ee d’un morphisme G →GLn(C).

4S´ EANCE DU 18/9
Définition 2.2. — 1) Soit V une repr´esentation de V. On dit que V est irr´e-
ductible si V ne contient pas de sous-espace G-stable autre que {0}et V.
Dans ce cas, on dit aussi que V est un G-module simple.
2) On dit que V est compl`etement r´eductible, ou semi-simple, si V est
somme directe de repr´esentations irr´eductibles.
Si V est de dimension finie, alors tout sous-espace G-stable de dimension
minimale est un sous-module irr´eductible (c’est clair). C’est un probl`eme im-
portant de comprendre toute les repr´esentations, disons de dimension finie,
d’un groupe G. On veut d’une part classifier toutes les repr´esentations irr´e-
ductibles, et d’autre part on est content si toute repr´esentation de G est somme
directe d’irr´eductibles. Ce n’est pas toujours le cas, mais c’est la cas si G est
un groupe fini.
Théorème 2.3. — Soit Gun groupe fini, Vune repr´esentation de Gde dimen-
sion finie. Alors Vest compl`etement r´eductible.
D´emonstration. — Choisissant une base de V, on identifie V = Cn. On munit
V du produit scalaire hermitien usuel, qu’on d´esigne par h−,−i. Pour x, y ∈V,
on pose
(x, y) = 1
|G|X
g∈G
hgx, gyi.
Il est clair que (−,−) est hermitien sym´etrique, et il est d´efini positif puisque
pour x6= 0 on a
(x, x) = 1
|G|X
g∈G
hgx, gxi>0.
Donc (−,−) est un nouveau produit scalaire hermitien sur V. De plus, il est
G-invariant, c.-`a-d., pour tout g∈G, et x, y ∈V, on a
(∗) (gx, gy) = (x, y).
En effet,
(gx, gy) = 1
|G|X
h∈G
hhgx, hgyi=1
|G|X
h0∈G
hh0x, h0yi= (x, y).
On peut maintenant d´emontrer le th´eor`eme. Soit W un sous-espace G-stable
de V, de dimension minimale. Alors W est irr´eductible. De plus, on a une
d´ecomposition orthogonale, relativement `a (−,−) :
(∗∗) V = W
⊥
LW⊥,
et W⊥est G-stable. En effet, si x∈W⊥et g∈G alors, pour tout v∈W, on
a
(v, gx) = (g−1v, x) = 0,

3. MESURE DE HAAR SUR UN GROUPE COMPACT 5
d’o`u gx ∈W⊥. Alors, la restriction de (−,−) `a W⊥est encore un produit
scalaire hermitien, G-invariant, et on peut r´ep´eter le processus. Comme V
est de dimension finie, on obtient ainsi une d´ecomposition en somme directe
orthogonale de sous-modules irr´eductibles :
V = W1
⊥
LW2
⊥
L· · ·
⊥
LWr.
Le th´eor`eme est d´emontr´e.
3. Mesure de Haar sur un groupe compact
3.1. Repr´esentations r´eguli`eres gauche et droite. — Soit G un groupe
compact. On note C(G) l’espace des fonctions continues φ: G →C, muni de
la norme
kφk= sup
g∈G
|φ(g)|.
C’est un espace de Banach (c.-`a-d., il est complet pour cette norme), voir par
exemple [Di81, 6.1.12].
On a deux repr´esentations de G dans C(G), not´ees L : g7→ Lget R : g7→ Rg,
appel´ees repr´esentation r´eguli`ere gauche (resp. droite), et d´efinies comme suit.
Soit φ∈C(G) ; pour tout h∈G on pose :
(Lgφ)(h) = φ(g−1h),(Rgφ)(h) = φ(hg).
D’abord, Lgφest bien continue, car c’est la compos´ee de h7→ g−1het de φ.
De mˆeme, Rgφest continue. Pour g1, g2∈G, on a
(Lg1(Lg2φ))(h) = (Lg2φ)(g−1
1h) = φ(g−1 2g−1 1h) = φ((g1g2)−1h) = (Lg1g2φ)(h),
d’o`u
Lg1◦Lg2= Lg1g2
et L : G →GL(C(G)) est bien un morphisme de groupes : c’est la raison pour
laquelle on a d´efini Lgφpar (Lgφ)(h) = φ(g−1h). On v´erifie de mˆeme que
Rg1◦Rg2= Rg1g2,et Lg◦Rg0= Rg0◦Lg.
C’est-`a-dire, L et R sont deux repr´esentations de G dans C(G), et elles com-
mutent. En particulier, Lg◦Rg= Rg◦Lgest l’action par conjugaison, not´ee
Intg:
(Intgφ)(h) = φ(g−1hg).
Remarque 3.1. — Certains auteurs (par exemple, [Ru73]) utilisent (L0
gφ)(h) =
φ(gh) ; mais alors on a L0
g1◦L0 g2= L0 g2g1, c.-`a-d., L0fait de C(G) un G-module
`a droite...