Représentations linéaires des groupes compacts.

CHAPITRE 2
REPRÉSENTATIONS LINÉAIRES DES GROUPES COMPACTS
COURS M1 ’GROUPES ET REPRÉSENTATIONS’ - X 2011/12
(ANNA CADORET)
Contents
1. Introduction
2. Mesure de Haar
2.1. Existence et unicité
2.2. Applications aux représentations linéaires continues des groupes compacts
3. Représentations linéaires de dimension finie - le théorème de Peter-Weyl
3.1. Représentations simples unitaires
3.2. Théorème de Peter-Weyl
3.2.1. Représentations régulières
3.2.2. Preuve du théorème de Peter-Weyl
4. Decomposition de la représentation régulière
4.1. Préliminaires
4.2. Transformée de Fourier et transformée de Fourier inverse
4.3. Structure hermitienne
5. Fonctions centrales et caractères
References
1
3
3
6
7
8
9
9
10
11
12
13
16
17
17
1. Introduction
Un groupe fini muni de sa topologie discrète est compact. Dans ce chapitre, nous allons voir qu’un certain
nombre de propriétés des représentations linéaires des groupes finis s’étendent aux représentations linéaires des
groupes compacts. Cependant, dans ce contexte, l’élégante théorie de la semisimplicité ne s’applique plus; il
faut lui substituer des outils d’analyse fonctionnelle relativement évolués (pour lesquels nous renverrons aux
classiques [B87] et [Ru73] ainsi qu’aux notes de cours [P11]).
Dans ce qui suit, C sera toujours muni de sa topologie transcendante, qui en fait un corps topologique i.e. dont
l’addition, la multiplication et l’inverse sont continues.
On notera Modtop (C) la catégorie des espaces vectoriels topologiques sur C définie par
- Objets: un objet de Modtop (C) est un espace vectoriel V sur C muni d’une topologie pour laquelle
l’addition et le produit extérieur sont continus.
- Morphismes: un morphisme φ : V → V 0 dans Modtop (C) est un morphisme de C-espaces vectoriels qui
est continu.
On notera qu’un morphisme φ : V → V 0 dans Modtop (C) inversible dans Mod(C) l’est automatiquement dans
Modtop (C) (i.e. son inverse est automatiquement continu). Rappelons aussi que sur un espace vectoriel V
de dimension finie sur C, toutes les topologies (qui font de V un espace vectoriel topologique sur C séparé)
sont équivalentes et que toute application linéaire entre deux espaces vectoriels de dimension finie sur C est
automatiquement continue.
On notera GrpT op la catégorie des groupes topologiques définie par
1
2
COURS M1 ’GROUPES ET REPRÉSENTATIONS’ - X 2011/12 (ANNA CADORET)
- Objets: un objet de GrpT op est un groupe G muni d’une topologie séparée pour laquelle le produit et
l’inverse sont continus.
- Morphismes: un morphisme φ : G → G0 dans GrpT op est un morphisme de groupes qui est continu.
Exercice 1.1. Soit G un groupe topologique et H un sous-groupe de G. Par définition, la topologie quotient
sur G/H est la topologie la moins fine qui rend la projection pH : G → G/H continue. Montrer que G/H muni
de sa topologie quotient est un espace topologique séparé si et seulement si H est un sous-groupe fermé de G.
Cette observation illustre que dans la catégorie GrpT op la ’bonne’ notion de sous-groupe est celle de sous-groupe
fermé.
A tout groupe topologique G, on associe la catégorie Modtop
C (G) des représentations linéaires continues de G
sur C définie par
top
(C) et θ : G → GL(V ) est un
- Objets: un objet de Modtop
C (G) est un couple (V, θ) tel que V ∈ Mod
morphisme de groupes tel que l’application
G×V
(g, v)
→ V
→ θ(g)v
est continue.
0
- Morphismes: un morphisme φ : (V, θ) → (V 0 , θ0 ) dans Modtop
C (G) est un morphisme φ : V → V dans
top
Mod (C) tel que
θ0 (g) ◦ φ = φ ◦ θ(g), g ∈ G.
On utilisera parfois la terminologie ’morphisme G-équivariant’ pour parler d’un morphisme dans Modtop
C (G).
Les opérations élémentaires (sous-représentations, quotients, sommes directes, produits tensoriels, duales et
Hom) sur les représentations linéaires continues de dimension finie de G sont définies comme pour les groupes
finis. Pour les représentations linéaires continues de dimension infinie, il faut être un peu plus prudent ; par
exemple, une sous-représentation (W, τ ) de (V, θ) est un morphisme injectif φ : (W, τ ) ,→ (V, θ) dans Modtop
C (G)
d’image fermée (c’est nécessaire pour que la représentation quotient associée V → V /W soit continue). Pour
le produit tensoriel, il faut supposer qu’une des deux représentations est de dimension finie (ou alors, ajuster la
construction). La notion de représentation induite est plus subtile etc.
On dit qu’une représentation linéaire continue (V, θ) de G est simple ou irreductible si elle est non nulle et
si les seules sous-représentations de V sont {0} et V . Le lemme de Schur reste valide si l’on se restreint aux
représentations linéaires continues de dimension finie.
Lemme 1.2. (Schur) Si (V, θ), (V 0 , θ0 ) sont deux représentations linéaires continues simples de dimension finie
de G sur C alors
(1) Soit le seul morphisme G-équivariant de (V, θ) vers (V 0 , θ0 ) est le morphisme nul;
(2) Soit il existe un isomorphisme G-équivariant φ : (V, θ)→(V
˜ 0 , θ0 ) qui définit un isomorphisme dans
Mod(C)
φ−1 ◦ − : HomC ((V, θ), (V 0 , θ0 ))→End
˜
C (V, θ).
et on a un isomorphisme de corps
C
λ
→
˜
→
EndC (V, θ)
λId
Mais au-delà, on ne peut pas dire grand chose de plus sur les représentations linéaires continues des groupes
topologiques sans faire d’hypothèses supplémentaires, par exemple que G est compact ou, du moins, localement
compact. On dira qu’un groupe topologique est compact s’il est compact comme espace topologique et qu’il est
localement compact si tout point admet un voisinage compact.
Exemple 1.3.
(1) Tout groupe fini G muni de sa topologie discrète est compact.
(2) Tout sous-groupe fermé d’un groupe topologique compact est compact.
CHAPITRE 2
REPRÉSENTATIONS LINÉAIRES DES GROUPES COMPACTS
3
(3) Les sous-groupes
+
t
SOn := {M ∈ GL+
n (R) | M M = In } ⊂ GLn (R)
et
Un := {M ∈ GLn (C) | t M M = In } ⊂ GLn (C)
sont compacts et tout sous-groupe compact de GL+
n (R) (resp. de GLn (C)) est conjugué à un sous-groupe
de SOn (resp. Un ). Plus généralement, on a
Théorème 1.4. (Cartan-Iwasawa-Malcev) Tout groupe topologique connexe localement compact G
possède un sous-groupe compact K ⊂ G tel que tout sous-groupe compact de G est conjugué à un
sous-groupe de K.
Ce théorème montre l’importance des groupes compacts dans l’étude des groupes topologiques localement compacts G plus généraux. Par exemple, on peut essayer de déterminer toutes les représentations
simples de G en essayant de les réaliser comme induites (dans un sens à définir...) de représentations
simples de K.
(4) Tout produit de groupes topologiques compacts est encore un groupe topologique compact (théorème
de Tychonoff).
(5) Soit φn+1 : Gn+1 → Gn , n ≥ 0 une suite de morphismes de groupes finis. Notons
Y
Y
Gn .
Gn | φn+1 (gn+1 ) = gn , n ≥ 0} ⊂
lim Gn := {g = (gn )n≥0 ∈
←−
n≥0
n≥0
C’est un groupe topologique lorsqu’on le munit de la topologie induite par la topologie produit des
topologies discrètes. Les groupes topologiques de cette forme sont (des cas particuliers de) ce qu’on
appelle groupes profinis. En combinant (1), (2) et (4), on obtient que tout groupe profini est compact.
C’est par exemple le cas de
Zp = lim Z/pn , GLr (Zp ) = lim GLr (Z/pn ) etc.
←−
←−
Exercice 1.5. Soit G un groupe topologique compact. Montrer que pour toute représentation linéaire continue
(V, θ) de G de dimension finie et pour tout g ∈ G les valeurs propres de θ(g) sont de module 1.
2. Mesure de Haar
2.1. Existence et unicité. Soit X un espace topologique séparé et localement compact. On note Cc (X) le
C-espace vectoriel des applications continues X → C à support compact et on note Cc+ (X) ⊂ Cc (X) le sousensemble des applications à valeur dans R+ . On dit qu’une forme C-linéaire Λ : Cc (X) → C est positive
si
Λ(f ) ≥ 0, f ∈ Cc+ (X).
Rappelons que les formes C-linéaires positives sur Cc (X) sont caractérisées par le
Fait (Théorème de représentation de Riesz): Avec les notations ci-dessus, pour toute forme linéaire positive
Λ : Cc (X) → C il existe une σ-algèbre borélienne M sur X et une unique mesure positive µ : M → R+ ∪ {∞}
telle que
Z
f dµ, f ∈ Cc (X).
Λ(f ) =
X
En outre, la mesure µ : M → R+ ∪ {∞} possède les propriétés suivantes
(1) µ(K) < +∞ pour tout compact K ⊂ X;
(2) µ(E) = inf{µ(U ) | E ⊂ U, U ⊂ X ouvert} pour tout E ∈ M;
(3) µ(E) = sup{µ(K) | K ⊂ E, K ⊂ X compact} pour tout E ∈ M ouvert ou tel que µ(E) < +∞;
(4) Tout sous-ensemble d’un ensemble E ∈ M tel que µ(E) = 0 est dans M.
Soit maintenant G un groupe topologique localement compact. On dispose d’une action à gauche de groupe
(abstrait) naturelle
G × Cc (G) → Cc (G)
(g, f )
→ g · f = f ◦ L−1
g ,
qui, à son tour, induit une action duale sur Cc (G)∨ := HomC (Cc (G), C)
G × Cc (G)∨
(g, Λ)
→ Cc (G)∨
→ g · Λ : f → Λ(g −1 · f ) = Λ(f ◦ Lg ).
4
COURS M1 ’GROUPES ET REPRÉSENTATIONS’ - X 2011/12 (ANNA CADORET)
De même, l’action à droite de groupe (abstrait) naturelle
Cc (G) × G → Cc (G)
(f, g)
→ f · g = f ◦ Rg−1 ,
induit une action duale sur C(G)∨
Cc (G)∨ × G → Cc (G)∨
(Λ, g)
→ Λ · g : f → Λ(f · g −1 ) = Λ(f ◦ Rg−1 ).
L’une des propriétés fondamentales des groupes topologiques localement compacts est l’existence et l’unicité
d’une mesure G-invariante à gauche.
Théorème 2.1. (Mesure de Haar) Pour tout groupe topologique localement compact G il existe une forme
linéaire positive ΛG : Cc (G) → C unique modulo R>0 et telle que
(1) g · ΛG = ΛG , g ∈ G
En outre, si G est compact alors ΛG : C(G) → C vérifie également
(2) ΛG · g = ΛG , g ∈ G.
On dit que ’la’ mesure borélienne positive associée à ΛG par le théorème de Riesz est la mesure de Haar sur G;
on la note µG : G → R+ . A priori, µG : G → R+ n’est définie que modulo R>0 mais lorsque G est compact,
on prend implicitement pour µG : G → R+ la mesure borélienne positive associée à l’unique ΛG telle que
ΛG (1̃G ) = 1 (la mesure de Haar ’normalisée’).
Exercice 2.2. Soit G un groupe topologique compact. Montrer que pour tout f ∈ C(G) on a
Z
Z
f (g)dµG (g) =
f (g −1 )dµG (g).
G
G
Preuve du théorème 2.1 (esq.). On ne va traiter que le cas où G est compact. Dans ce cas, l’énoncé résulte
essentiellement des deux résultats suivants d’analyse fonctionnelle.
Fait (Théorème d’Ascoli): Soit X un espace topologique compact et E un espace de Banach. Pour tout sousensemble Φ ⊂ C(X, E) les conditions suivantes sont équivalentes.
(1) Φ est relativement compacte1 dans (C(X, E), || − ||∞ );
(2) (a) Φ(x) := {φ(x), | φ ∈ Φ} est relativement compacte dans E, x ∈ X;
(b) Φ est équicontinue 2.
Fait (Théorème du point fixe de Kakutani): Soit E un espace de Banach. On munit End(E) de la norme
||f ||∞ = sup{|f (e)|}e∈E | ||e||≤1 .
Soit K ⊂ E un compact convexe non vide et φ : G → GL(E) un morphisme de groupes topologique avec G
compact tel que
(1) φ(g)(K) ⊂ K, g ∈ G;
(2) φ(G) ⊂ C(E, E) est équicontinue.
Alors il existe k ∈ K tel que g(k) = k, g ∈ G.
Notons E = C(G), que l’on munit de la norme
||f ||∞ = sup{|f (g)|}g∈G .
Avec cette norme, E est un espace de Banach. Pour tout f ∈ E, notons Cf l’enveloppe convexe de
G · f = {f ◦ L−1
g | g ∈ G}
dans E.
1i.e. d’adhérence compacte.
2i.e. pour tout > 0 et pour tout x ∈ X il existe un voisinage U
0
x, de x dans X tel que pour tout x ∈ Ux, et φ ∈ Φ on a
||φ(x) − φ(x0 )||E < .
CHAPITRE 2
REPRÉSENTATIONS LINÉAIRES DES GROUPES COMPACTS
5
(1) Cf est relativement compact dans E. Pour tout g ∈ G l’ensemble Cf (g) est borné donc relativement
compact dans C (observer que par définition de l’enveloppe convexe on a |f 0 (g)| ≤ |f (g)|, f 0 ∈ Cf ).
Comme G est compact, f est uniformément continue (Cf. exercice 2.4 (1)) i.e. pour tout > 0 il existe
0
un voisinage ouvert Uf, de eG tel que pour tout g, g 0 ∈ G tels que gg −1 ∈ Uf, on a |f (g) − f (g 0 )| < 0
. Or, pour tout g0 ∈ G on a (gg0 )(g 0 g0 )−1 = gg −1 donc
−1 0
|f ◦ L−1
g0 (g) − f ◦ Lg0 (g )| < .
En prenant des combinaisons convexes on en déduit |f 0 (g) − f 0 (g 0 )| < pour tout f 0 ∈ Cf . On peut
donc appliquer le théorème d’Ascoli à Cf et en déduire que Cf est relativement compact dans E.
(2) Notons Kf l’adhérence de Cf dans E; par construction c’est un compact convexe non vide de E. En
outre, si on note encore G l’image du morphisme de groupes topologiques
G → GL(E)
g → f → g · f = f ◦ L−1
g
on a g(Kf ) ⊂ Kf pour tout g ∈ G. Par le théorème du point fixe de Kakutani, il existe donc f 0 ∈ Kf
0
0
telle que g · f 0 = f 0 ◦ L−1
g = f , g ∈ G. En particulier f est constante sur G; on note Λ(f ) ∈ C sa valeur.
(3) Unicité de Λ(f ). On va montrer que Kf ne contient qu’une seule fonction constante. Pour cela, considérons
f ∨: G → C
g → f (g −1 )
et montrons que si Λ(f ∨ ) ∈ Kf ∨ est constante, on a nécessairement (Cf. exercice 2.2)
Λ(f ) = Λ(f ∨ ).
Comme Λ(f ) ∈ Kf et Λ(f ∨ ) ∈ K
Pfn∨ , pour toutPn > 0 on peut trouver g1 , . . . , gn , h1 , . . . , hn ∈ G,
a1 , · · · , an , b1 , · · · , bn ≥ 0 tels que i=1 ai = 1 = i=1 bi et
||Λ(f ) −
n
X
∨
ai f ◦ L−1
gi ||∞ < , ||Λ(f ) −
n
X
bi f ∨ ◦ L−1
hi ||∞ < .
i=1
i=1
En multipliant la deuxième inégalité par ai , on a en particulier
|ai Λ(f ∨ ) −
n
X
ai bj f (gi−1 hj )| ≤ ai ||Λ(f ∨ ) −
n
X
bj f ∨ ◦ L−1
hi ||∞ < ai j=1
j=1
D’où, en sommant sur i = 1, . . . , n
∨
|Λ(f ) −
n
X
ai bj f (gi−1 hj )|
i,j=1
<
n
X
ai = .
i=1
Par symétrie, on obtient de même
|Λ(f ) −
n
X
ai bj f (gi−1 hj )| < .
i,j=1
∨
D’où |Λ(f ) − Λ(f )| < 2... Et ceci pour tout > 0.
(4) On vérifie ensuite facilement (il faut utiliser l’unicité de Λ(f )) que Λ : E → C est C-linéaire, positive et
invariante par translation. Pour montrer l’additivité, il faut travailler un peu plus, dans l’esprit de (3). Exemple 2.3.
(1) La mesure de Haar sur un groupe fini G est simplement la ’mesure de comptage’
µG (E) =
|E|
, E⊂G
|G|
et la forme linéaire correspondante est
ΛG (f ) =
1 X
f (g), f ∈ C(G).
|G|
g∈G
6
COURS M1 ’GROUPES ET REPRÉSENTATIONS’ - X 2011/12 (ANNA CADORET)
(2) La mesure de Haar sur U1 := {z ∈ C× | |z| = 1} identifié à [0, 2π[ est
Z 2π
1
ΛU1 (f ) =
f (eiθ )dθ.
2π 0
(3) En identifiant U2 := {Z ∈ GL2 (C) | t ZZ = I2 } à [0, π]2 × [0, 2π] via
x1 + ix2
x3 + ix4
Z=
−x3 + ix4 x1 − ix2
avec x1 = cos(θ), x2 = sin(θ) cos(φ), x3 = sin(θ) sin(φ) cos(ψ), x4 = sin(θ) sin(φ) sin(ψ), la mesure de
Haar sur SU2 est
Z π Z π Z 2π
f (Φ(θ, φ, ψ)) sin(θ)2 sin(φ)dθdφdψ,
ΛU2 (f ) =
0
0
0
où Φ(θ, φ, ψ) = (x1 , x2 , x3 , x4 ). Cf. [F08] pour plus de détails.
Exercice 2.4. (Fonction modulaire) Soit G un groupe topologique localement compact et ΛG : Cc (G) → C ’la’
mesure de Haar sur G.
(1) (Théorème de Heine). Montrer la version suivante du théorème de Heine. Pour tout f ∈ Cc (G) et pour
tout > 0, il existe un voisinage ouvert U de eG dans G tel que pour tout g, g 0 ∈ G
g −1 g 0 ∈ U =⇒ |f (g) − f (g 0 )| < .
(2) Montrer qu’il existe un morphisme de groupes topologiques ∆ : G → R>0 tel que
ΛG · g = ∆(g)ΛG , g ∈ G.
On dit que ∆ : G → R>0 est la fonction modulaire de G.
(3) Calculer la mesure de Haar et la fonction modulaire du groupe des matrices de la forme
a b
, a ∈ R>0 , b ∈ R.
0 1
2.2. Applications aux représentations linéaires continues des groupes compacts. A partir de maintenant et jusqu’à la fin de ce chapitre G désignera un groupe topologique compact. On dit qu’une représentation
linéaire continue V de G est unitaire si la topologie de V dérive d’un produit scalaire hermitien h−, −i : V ⊗R V →
C tel que
(1) (V, h−, −i) est un espace de Hilbert;
(2) h−, −i est G-invariant i.e. hgv, gv 0 i = hv, v 0 i, g ∈ G, v, v 0 ∈ V .
Exemple 2.5. Si G est un groupe fini, toute représentation V de G de dimension finie est unitaire. En effet,
si h−, −i : V ⊗R V → C est un produit scalaire hermitien arbitraire quelconque, le produit scalaire hermitien
moyenné
1 X
h−, −iG :=
hg−, g−i
|G|
g∈G
est G-invariant.
La construction de l’exemple 2.5 s’étend bien aux groupes compacts grâce à la mesure de Haar. Il y a cependant
une subtilité. En dimension finie toutes les normes sont équivalentes mais ce n’est plus le cas en dimension
infinie. Il faut donc vérifier qu’en construisant un produit scalaire hermitien G-invariant à partir d’un produit
scalaire hermitien donné, on obtient un produit scalaire hermitien définissant la même topologie.
Théorème 2.6. Pour toute représentation linéaire continue (V, θ) de G telle que (V, h−, −i) soit un espace de
Hilbert, il existe un produit scalaire hermitien G-invariant h−, −iG définissant la même topologie que h−, −i sur
V.
Preuve. Le candidat naturel pour h−, −iG se construit en moyennant h−, −i par la mesure de Haar, comme
dans l’exemple 2.5
Z
0
hv, v iG =
hθ(g)v, θ(g)v 0 idµG (g).
G
Il résulte directement de cette construction (et de la propriété (2) de la mesure de Haar) que h−, −iG est une
forme hermitienne positive G-invariante. Il reste à voir qu’elle est aussi non-dégénérée et qu’elle définit la même
CHAPITRE 2
REPRÉSENTATIONS LINÉAIRES DES GROUPES COMPACTS
7
topologie sur V que le produit scalaire hermitien de départ h−, −i. Cela résulte essentiellement du
Fait (Théorème de Banach-Steinhauss): Etant donné un espace de Banach V , un espace vectoriel normé W et
une famille d’applications C-linéaires continues Φi : V → W , i ∈ I, on a
sup{||Φi v||W | i ∈ I} < +∞, v ∈ V ⇒ sup{|||Φi ||| | i ∈ I} < +∞.
En effet, pour tout v ∈ V , comme l’application
G×V
(g, v)
→ V
→ θ(g)v
est continue et G est compact, l’ensemble θ(G)v ⊂ V est encore compact donc, en particulier, borné. Il résulte
donc du théorème de Banach-Steinhauss que
M := sup{|||θ(g)||| | g ∈ G} < +∞.
Donc, pour tout v ∈ V , on a ||θ(g)v|| ≤ M ||v|| et ||v|| = ||θ(g −1 ) ◦ θ(g)v|| ≤ M ||θ(g)v|| d’où
M −1 ||v|| ≤ ||θ(g)v|| ≤ M ||v||.
On en déduit
M −2 ||v||2 ≤ ||v||2G = hv, viG =
Z
||θ(g)v||2 dµG (g) ≤ M 2 ||v||2 . G
En observant que si (V, h−, −i, θ) est une représentation linéaire continue unitaire de G alors pour tout W ⊂ V
sous-C-espace vectoriel fermé G-stable W ⊥ est encore un sous-C-espace vectoriel fermé G-stable et en utilisant
le lemme 1.2, on obtient
Corollaire 2.7. Toute représentation linéaire continue (V, θ) unitaire de G est semisimple. En particulier, si
V est de dimension finie, (V, θ) se décompose de façon unique comme somme directe
M
(V, θ) =
(Vi , θi )⊕ni
1≤i≤r
avec les (Vi , θi ), i ∈ I simples, deux à deux non-isomorphes.
Exercice 2.8. Donner un exemple de groupe topologique (forcément non compact) admettant une représentation
linéaire continue de dimension finie qui n’est pas semisimple.
3. Représentations linéaires de dimension finie - le théorème de Peter-Weyl
On va maintenant utiliser la mesure de Haar pour étudier les représentations unitaires de G. Le principe général
est le suivant. Etant donné une représentation unitaire V de G, on va utiliser la mesure de Haar (notamment
sa propriété de G-invariance) pour construire des opérateurs C-linéaires
K:V →V
0
0
0
- autoadjoints (hKv, v i = hv, Kv i, v, v ∈ V );
- compacts (l’image par K d’un sous-ensemble borné de V est relativement compact ou, de façon équivalente,
l’image par K d’une suite bornée d’éléments de V admet au moins une valeur d’adhérence);
- G-équivariants (K(gv) = gK(v), v ∈ V , g ∈ G).
L’existence de K : V → V nous permet alors de décomposer V en somme directe hilbertienne de sousreprésentations
\
⊥
M
V = ker(K)
Vλ ,
λ∈spec(K)\{0}
où l’ensemble spec(K) des valeurs spectrales de K est non-vide (si K : V → V est on nul), au plus dénombrable
et les Vλ := ker(K − λIdV ) sont de dimension finie. Cela résulte du
Fait (Théorème spectral pour les opérateurs compacts): Soit H un espace de Hilbert et K : H → H un opérateur
compact autodjoint. Alors
spec(K) := {λ ∈ C | K − λIdV ∈
/ GL(H)} = {λ ∈ C | ker(K − λIdV ) 6= 0} ∪ {0}
est au plus dénombrable et:
(1) spec(K) contient |||K||| ou −|||K|||. En particulier K : H → H possède au moins une valeur propre
non nulle si K est non nul.
8
COURS M1 ’GROUPES ET REPRÉSENTATIONS’ - X 2011/12 (ANNA CADORET)
(2) dimC (ker(K − λIdV )) < +∞, pour tout λ ∈ spec(K), λ 6= 0.
(3) ker(K − λIdV ) ⊥ ker(K − µIdV ), pour λ 6= µ, λ, µ 6= 0.
(4) Le sous-C-espace vectoriel
⊥
M
HK :=
ker(K − λIdV ) ⊂ H
λ∈spec(K)
est dense dans H et H admet une base hilbertienne dénombrable formée de vecteurs propres de K.
3.1. Représentations simples unitaires. Nous allons commencer par appliquer la méthode décrite ci-dessus
pour montrer que toute représentation simple unitaire d’un groupe compact est de dimension finie.
Soit donc V une représentation unitaire de G et pour tout v ∈ V , introduisons l’opérateur
→ V
R
→ G hw, gvigvdµG (g)
R
Remarque 3.1. Si V n’est pas de dimension finie, le sens de G hw, gvigvdµG (g) n’est pas forcément clair. On
peut définir proprement cet objet en choisissant une base hilbertienne en , n ≥ 0 de V et écrire pn : V → Vn la
projection orthogonale de sur le sous-C-espace vectoriel Vn engendré par les éléments e0 , . . . , en . On pose alors
Z
Z
hw, gvigvdµG (g) := lim
hw, gvipn (gv)dµG (g)
n→+∞ G
G
R
Le terme de droite converge bien puisque ( G hw, gvipn (gv)dµG (g))n≥0 est une suite de Cauchy.
Kv :
V
w
Lemme 3.2. Les opérateurs Kv : V → V sont compacts, autoadjoints et G-équivariants.
Preuve. La continuité de Kv résulte directement de l’inégalité
Z
|Kv (w)|| ≤
||w||||gv||2 dµG (g) = ||w||||v||2
G
(on a utilisé Cauchy-Schwartz, le fait que V est unitaire et que µG (G) = 1).
Pour voir que Kv est autoadjoint, il suffit d’écrire
Z
Z
hKv (w), w0 i =
hw, gvihgv, w0 idµG (g) =
hw, gvihw0 , gvidµG (g)
G
G
et de le comparer à
0
hw, Kv (w )i = hKv
(w0 ), wi
Z
=
hw0 , gvihw, gvidµG (g).
G
La G-équivariance résulte du fait que V est unitaire (1) et de la G-invariance à gauche de la mesure de Haar
(2). Plus précisément, pour tout g0 ∈ G on a, pour tout w, w0 ∈ V
R
hKv (g0 w), w0 i = G hg0 w, gvihgv, w0 idµG (g)
(1) R
= G hw, g0−1 gvihg0 g0−1 gv, w0 idµG (g)
(2) R
= G hw, gvihg0 gv, w0 idµG (g) = hg0 Kv (w), w0 idµG .
Pour la compacité, il faut montrer que pour toute suite bornée (wn )n≥0 de V la suite (K(wn ))n≥0 admet au
moins une valeur d’adhérence. Or , par compacité faible de la boule unité dans les espaces de Hilbert, on
sait déjà que (wn )n≥0 possède une sous-suite (wφ(n) )n≥0 qui converge faiblement vers - disons - w ∈ V . Cela
implique que (K(wφ(n) ))n≥0 converge vers K(w). En effet, on a
Z
||K(wφ(n) ) − K(w)|| ≤
|hwφ(n) − w, gvi|||gv||dµG (g)
G
mais |hwφ(n) − w, gvi|||gv|| ≤ (max{||wn ||}n≥0 + ||w||)||v||2 donc, par théorème de convergence dominée de
Lebesgue
Z
Z
lim
|hwφ(n) − w, gvi|||gv||dµG (g) =
lim |hwφ(n) − w, gvi|||gv||dµG (g) = 0. n→+∞
G
G n→+∞
Corollaire 3.3. Toute représentation unitaire V de G possède une sous-représentation de dimension finie.
Preuve. Il suffit de prendre v ∈ V , v 6= 0. D’après le lemme 3.2 Kv : V → V est un opérateur compact,
autoadjoint, G-équivariant non nul. Par le théorème spectral il possède donc une valeur propre λ non nulle dont
l’espace propre associé ker(Kv − λIdV ) fournit une sous-représentation de V de dimension finie. CHAPITRE 2
REPRÉSENTATIONS LINÉAIRES DES GROUPES COMPACTS
9
Corollaire 3.4. Toute représentation unitaire simple de G est de dimension finie.
3.2. Théorème de Peter-Weyl. Le théorème de Peter-Weyl affirme que les groupes compacts ont ’suffisamment’ de représentations linéaires de dimension finie, au sens où celles-ci séparent les points de G. Précisément
Théorème 3.5. (Peter-Weyl) Soit G un groupe topologique quelconque. Pour tout g ∈ G, g 6= eG , il existe une
représentation linéaire continue simple de dimension finie (Vg , θg ) telle que θg (g) 6= IdV .
Remarque 3.6. Un peu plus conceptuellement, la sous-catégorie R(G) ⊂ Modtop
C (G) des représentations
continues de dimension finie de G est une catégorie tensorielle que l’on peut munir d’un foncteur d’oubli qui
préserve les structures tensorielles
F : R(G) → Mod(C).
Notons Γ le groupe des automorphismes de F comme foncteur de catégories tensorielles. On dispose alors d’un
morphisme de groupes canoniques
G→Γ
(qui envoie g ∈ G sur la collection des (θ(g))(V,θ)∈R(G) ). On dit que Γ est le groupe de Tannaka de la catégorie
R(G). Idéalement, on aimerait que le morphisme ci-dessus soit un isomorphisme de groupes topologiques i.e.
que l’on puisse reconstruire G uniquement à partir de sa catégorie de représentations. Ce n’est pas vrai en
général mais c’est vrai pour les groupes compacts. Le théorème de Peter-Weyl assure que ce morphisme est
injectif. Pour la surjectivité Cf. [R83, Chap.9]. A noter que c’est en particulier vrai pour les groupes finis.
Cependant, on a vu au chapitre 1 que D8 et H8 avaient les mêmes tables de caractères. N’y a-t-il pas là une
contradiction?
A noter qu’il existe des groupes compacts n’admettant aucune représentation linéaire continue fidèle de dimension finie. Le théorème de Peter-Weyl est donc le meilleur résultat que l’on puisse espérer.
La preuve du théorème de Peter-Weyl repose sur la stratégie décrite ci-dessus i.e. l’idée est de faire apparaitre la représentation (Vg , θg ) comme sous-espace propre de dimension finie d’un opérateur compact, autoadjoint, G-équivariant défini sur la représentation unitaire régulière de G. Commençons donc par décrire cette
représentation.
3.2.1. Représentations régulières. Pour tout 1 ≤ p < +∞ notons Lp (G) le complété de C(G) pour la norme
|| − ||p : C(G) →
f
→
R+
Z
1
||f ||p = ( |f |p dµG ) p
G
Noter qu’en particulier (L2 (G), || − ||2 ) est un espace de Hilbert puisque sa norme dérive du produit scalaire
hermitien
h−, −i : C(G) ⊗R C(G) → C
Z
1
0
0
f ⊗f
→ hf, f i = ( f (g)f 0 (g)dµG ) p
G
Pour tout g ∈ G, l’application C-linéaire
Lg : C(G) → C(G)
f
→ g · f = f ◦ Lg−1
est continue pour || − ||p et se prolonge donc en une application C-linéaire Lg : Lp (G) → Lp (G), isométrique
(G-invariance de la mesure de Haar) pour la norme || − ||p et dont on vérifie immédiatement que LeG = Id et
Lg0 ◦ Lg = Lg0 g . (Lp (G), L) est donc une représentation linéaire de G; vérifions qu’elle est continue. Pour tout
g, g 0 ∈ G and f, f 0 ∈ C(G), on a
||Lg (f ) − Lg0 (f 0 )||p ≤ ||Lg (f ) − Lg0 (f )||p + ||Lg0 (f ) − Lg0 (f 0 )||p = ||Lg (f ) − Lg0 (f )||p + ||f − f 0 ||p
En outre, comme C(G) est dense dans Lp (G), pour tout > 0, il existe h ∈ C(G) tel que ||f − h ||p < . Donc
||Lg (f )−Lg0 (f )||p ≤ ||Lg (f )−Lg (h )||p +||Lg (h )−Lg0 (h )||p +||Lg0 (h )−Lg0 (f )||p = 2||f −h ||p +||Lg (h )−Lg0 (h )||p
Mais h ∈ C(G) est continue sur G groupe topologique compact donc pour tout η > 0 il existe un voisinage
ouvert Uη de 1G tel que pour tout x ∈ G et x0 ∈ Uη x on a |h (x) − h (x0 )| < η. En particulier, pour tout
0
g 0 ∈ gU et pour tout x ∈ G on a |h (g −1 x) − h (g −1 x)| < donc ||Lg (h ) − Lg0 (h )||p < . En conclusion, pour
tout f 0 ∈ C(G) tel que ||f − f 0 ||p et pour tout g 0 ∈ gU on a
||Lg (f ) − Lg0 (f 0 )||p < 4.
10
COURS M1 ’GROUPES ET REPRÉSENTATIONS’ - X 2011/12 (ANNA CADORET)
On dit que les représentations (Lp (G), L), 1 ≤ p < +∞ sont les représentations régulières (à gauche) de G.
La représentation régulière (L2 (G), L) va jouer, pour les groupes compacts, le rôle de la representation régulière
(C[G], L) pour les groupes finis en ce sens qu’elle encode toutes les représentations linéaires continues simples
de dimension finie de G. Notons également que le produit de convolution sur C(G) permet de munir L2 (G)
d’une structure de C-algèbre associative (mais non unitaire si G est infini). Plus précisément, d’après CauchySchwartz, l’opérateur C-bilinéaire
∗: C(G) × C(G) →
0
C(G)
Z
0
f (x)f 0 (x−1 g)dµ(x)
→ f ∗f :g →
(f, f )
G
vérifie
||f ∗ f 0 ||∞ := sup{|f ∗ f 0 (g)| | g ∈ G} ≤ ||f ||2 ||f 0 ||2 .
Donc, pour chaque f ∈ C(G), l’opérateur C-linéaire f ∗ − : (C(G), || − ||2 ) → (C(G), || − ||∞ ) est uniformément
continu donc s’étend en un opérateur C-linéaire continu f ∗ − : (L2 (G), || − ||2 ) → (C(G), || − ||∞ . Le même
argument appliqué à − ∗ f , f ∈ L2 (G) montre que − ∗ − : C(G) × C(G) → C(G) s’étend finalement en un
opérateur C-bilinéaire continu
∗ : L2 (G) × L2 (G) → C(G) ⊂ L2 (G)
(vérifiant encore ||f ∗ f 0 ||∞ ≤ ||f ||2 ||f 0 ||2 , f, f 0 ∈ L2 (G)).
3.2.2. Preuve du théorème de Peter-Weyl. D’après le corollaire 2.7, il suffit de montrer qu’il existe une représentation
linéaire continue (non nécessairement simple) de dimension finie (Vg , θg ) telle que θg (g) 6= IdV . Comme annoncé, on va essayer de construire (Vg0 , θg0 ) comme sous-espace propre ker(K − λIdV ) ⊂ L2 (G) pour une valeur
propre λ 6= 0 d’un opérateur compact autoadjoint bien choisi K : L2 (G) → L2 (G).
Soit donc g0 ∈ G, g0 6= eG .
Comme G est séparé, on peut se fixer un voisinage ouvert U de eG dans G tel que g0 6∈ U 2 et, quitte à remplacer
U par U ∩ U −1 , on peut supposer que U = U −1 . On se fixe également f ∈ C + (G) telle que f (eG ) > 0 et
supp(f ) := G \ f −1 (0) ⊂ U . Quitte à remplacer f par f + f ∨ , (où f ∨ (g) = f (g −1 ), g ∈ G), on peut suppposer
que f = f ∨ . Considérons l’application continue
φ := f ∗ f : G → R+
g
Z
→ φ(g) =
f (x)f (x−1 g)dµ(x).
G
Par construction, on a φ(g) = 0, g ∈
/ U 2 et φ(e) = ||f ||22 > 0. En particulier, Lg0 φ 6= φ.
Introduisons maintenant l’opérateur C-linéaire
K: C(G)
→
C(G)
Z
h
→ K(h) = h ∗ f : g →
k(g, x)h(x)dµ(x),
G
où k(g, x) := f (x−1 g), g, x ∈ G. Par Cauchy-Schwartz, on a ||K(h) − K(h0 )||∞ ≤ ||k||∞ ||h − h0 ||2 , donc
K : C(G) → C(G) est uniformément continu et se prolonge en un opérateur C-linéaire continu
K : L2 (G) → C(G) ⊂ L2 (G).
En outre, par définition de k (et G-invariance de la mesure de Haar), pour tout g ∈ G et h ∈ C(G) on a
Lg K(h) = K(Lg h); par densité, cela reste vrai pour tout h ∈ L2 (G). Donc K : L2 (G) → L2 (G) est Géquivariant. Vérifions qu’il est également autoadjoint et compact.
Par densité, il suffit de vérifier que K est autoadjoint sur C(G). Soit donc h, h0 ∈ C(G), on a
R
hKh, h0 i = G Kh(g)h0 (g)dµG (g)
R R
= G G h(γ)f (γ −1 g)h0 (g)dµG (γ)dµG (g)
R
(1) R
= G h(γ) G f (γ −1 g)h0 (g)dµG (g)dµG (γ)
R
(2) R
= G h(γ) G f (g −1 γ)h0 (g)dµG (g)dµG (γ),
CHAPITRE 2
REPRÉSENTATIONS LINÉAIRES DES GROUPES COMPACTS
11
où, en (1), on a utilisé Fubini et, en (2), le fait que f ∈ C + (G) et f ∨ = f . Enfin, la compacité résulte du
théorème d’Ascoli appliqué à
Φ := {K(f ) | f ∈ L2 (G), ||f ||2 ≤ 1}.
On peut donc appliquer le théorème spectral pour les opérateurs compacts et décomposer f selon la somme
hilbertienne
M
[
L2 (G) = ker(K)
ker(K − λn Id)
n≥0
i.e. comme série (convergente pour la norme || − ||2 )
f =h+
X
fn ,
n≥0
où fn ∈ ker(K − λn IdV ) et h ∈ ker(K). En appliquant K, on peut donc écrire φ comme série (convergente
pour la norme || − ||∞ )
X
φ = K(f ) =
λn fn .
n≥0
Mais on a fait en sorte que Lg0 φ 6= φ, ce qui équivaut à dire qu’il existe au moins un n ≥ 0 tel que
Lg0 fn 6= fn .
La sous-représentation (ker(K − λn IdV ), L) ainsi construite convient. Exercice 3.7. Montrer qu’un groupe compact est commutatif si et seulement si toutes ses représentations
linéaires continues simples de dimension finie sont de dimension 1.
Exercice 3.8. Soit G un groupe topologique compact. Pour tout voisinage U de eG , montrer qu’il existe
une représentation linéaire continue de dimension finie (VU , θU ) de G telle que ker(θU ) ⊂ U . (Cela montre
en particulier qu’un groupe compact n’ayant pas de sous-groupes fermés normaux arbitrairement petits admet
une représentation linéaire continue fidèle de dimension finie. On verra au chapitre 3 que ces groupes sont
exactement les groupes de Lie réels ayant un nombre fini de composantes connexes).
4. Decomposition de la représentation régulière
Si G est fini, on a vu que le théorème de structure pour les algèbres semisimples de dimension finie sur un corps
impliquait qu’on avait un isomorphisme de C-algèbre
Y
F : (C[G], ·)→(
˜
EndC (Vθ ), ◦).
[
(V,θ)∈C[G]
En outre, cet isomorphisme est compatible avec
- Les structures hilbertiennes:P
1
0
– Sur C[G]: ha, a0 i = |G|
g∈G a(g)a (g);
Y
M
P
– Sur
EndC (Vθ ) '
EndC (Vθ ):
[ nθ h−, −iθ , où les h−, −iθ sont définis
(V,θ)∈C[G]
[
(V,θ)∈C[G]
[
(V,θ)∈C[G]
comme suit. Si h−, −iG est un produit scalaire hermitien G-invariant sur Vθ , on considère le
produit scalaire G-invariant sur EndC (Vθ ) ' Vθ ⊗ Vθ∨
hv ⊗ h−, wiG , v 0 ⊗ h−, w0 iG iθ = hv, v 0 iG hw, w0 iG .
De façon équivalente, si on se fixe une base orthonormale e1 , . . . , enθ de (Vθ , h−, −iG ) définissant un
isomorphisme (−) : EndC (Vθ )→M
˜ nθ (C), cela revient à munir EndC (Vθ ) de hφ, ψiθ = T r((φ)t (ψ)).
- Les actions à gauche de G:
P
P
– Sur C[G]: g0 · a(=: Lg0 (a) ) = g0 a = g∈G a(g)g0 g = g∈G a(g0−1 g)g;
Y
– Sur
EndC (Vθ ): g0 · φ(=: Lg0 (φ)) = (θ(g0 ) ◦ φθ )θ .
[
(V,θ)∈C[G]
On avait également déterminé explicitement l’inverse F de F


X 1
X

F −1 (φ) =
nθ T rVθ (θ(g −1 ) ◦ φθ ) g.

|G|
g∈G
[
(Vθ ,θ)∈K[G]
12
COURS M1 ’GROUPES ET REPRÉSENTATIONS’ - X 2011/12 (ANNA CADORET)
En particulier, on peut décrire explicitement l’isomorphisme de C[G]-modules
M
C[G] =
Vθ⊕nθ
d
(V,θ)∈C[G]
d une base eθ,1 , . . . , eθ,n et en posant
en fixant pour chaque (V, θ) ∈ C[G]
θ
M
Vθ,i = F(
Ce∗θ,i ⊗ eθ,j ).
1≤j≤nθ
On a alors Vθ,1 ' · · · ' Vθ,nθ .
Si l’on identifie (C[G], ·) à (C(G), ∗) = (L2 (G), ∗) (ici, ∗ désigne le produit de
convolution), on peut introduire le sous-C-espace vectoriel Mθ,i engendré par les fonctions
θi,j : G → C
, j = 1, . . . , nθ
g → hθ(g −1 )eθ,i , eθ,j i(= T rV (θ(g −1 ) ◦ e∗θ,i ⊗ eθ,j )
M
correspondant à Vθ,i et Mθ :=
Mθ,i . Avec ces notations, la décomposition de la représentation régulière
1≤i≤nθ
en somme directe de sous-représentations simples s’écrit
L2 (G) = C(G) =
M
Mθ ,
d
(V,θ)∈C[G]
où Mθ =
M
θ
Mθ,i ' M⊕n
θ,1 .
1≤i≤nθ
Si G est compact arbitraire, nous allons montrer que ces résultats restent essentiellement vrais pour (L2 (G), ∗)
muni de sa structure hermitienne canonique
et de l’action par translation à gauche L. Dans les ’formules’, cela
Z
P
1
et
revient à remplacer |G|
g∈G par
G
M
EndC (Vθ )
[
(V,θ)∈C[G]
par la somme directe hilbertienne
M
\
EndC (Vθ ).
[
(V,θ)∈C[G]
Bien sûr, on ne peut plus invoquer le théorème de structure pour les algèbres semisimples de dimension finie
sur un corps mais on peut raisonner de façon plus calculatoire en utilisant le lemme 4.1 ci-dessous. L’autre
ingrédient-clef étant le corollaire 4.3.
[ l’ensemble des
4.1. Préliminaires. Etant donné un groupe topologique compact G, notons encore par C[G]
classes d’isomorphismes de représentations linéaires continues simples de dimension finie de G. Pour tout
[ de dimension nθ :=dimC (V ), le choix d’une base e1 , . . . , en de V permet d’identifier θ : G →
(V, θ) ∈ C[G]
θ
GL(V ) à un morphisme continu de groupes topologiques
θ : G → GLnθ (C)
g → θ(g) = (θi,j (g))1≤i,j≤nθ .
On dit que les θi,j ∈ C(G), 1 ≤ i, j ≤ nθ sont les coefficients matriciels de (V, θ) dans la base e1 , . . . , enθ . Notons
Mθ ⊂ C(G) les sous-C-espace vectoriel engendré par les θi,j ∈ C(G), 1 ≤ i, j ≤ nθ . On vérife immédiatement
que cette définition ne dépend pas du choix de la base e1 , . . . , enθ .
[ pour tout v ∈ V , v 0 ∈ V 0 , λ ∈ V ∨ , λ0 ∈ V 0 ∨ on a
Lemme 4.1. Pour tout (V, θ), (V 0 , θ0 ) ∈ C[G],
Z
λ(θ(g)v)λ0 (θ0 (g −1 )v 0 )dµG (g) = 0
si (V, θ) et (V 0 , θ0 ) ne sont pas isomorphes;
G
λ(v 0 )λ0 (v)
nθ
sinon.
Preuve. Introduisons l’application C-linéaire
φ: V
v
0
→ V
Z
→
λ(θ(g)v)θ0 (g −1 )v 0 dµG (g).
G
CHAPITRE 2
REPRÉSENTATIONS LINÉAIRES DES GROUPES COMPACTS
13
En utilisant la G-invariance à droite de la mesure de Haar, on vérifie immédiatement que φ : (V, θ) → (V 0 , θ0 )
est G-équivariant. En particulier, par le lemme 1.2, il est nul si (V, θ) et (V 0 , θ0 ) ne sont pas isomorphes et égal
λ(v 0 )
0
à T r(φ)
nθ IdV = nθ IdV sinon. Le lemme s’en déduit en composant à gauche par λ . Exemple 4.2. Avec les notations du lemme 4.1, fixons-nous une base e1 , . . . , enθ de V et une base e01 , . . . , e0nθ0
0
0
0
de V 0 et notons e∗1 , . . . , e∗nθ et e1∗ , . . . , en∗θ0 leurs bases duales respectives. Alors, avec λ = e∗i , v = ej , λ0 = ek∗ ,
v 0 = e0l , le lemme 4.1 implique donc
Z
0
θi,j (g)θk,l
(g −1 )dµG (g) = 0
si (V, θ) et (V 0 , θ0 ) ne sont pas isomorphes;
G
0
e∗i (e0k )el∗ (ej )
nθ
sinon.
En particulier, pour tout φθ ∈ Mθ , φθ0 ∈ Mθ0 , on a
Z
φθ (g)φθ0 (g −1 )dµG = 0,
G
Corollaire 4.3. La somme
X
M(G) :=
Mθ ⊂ C(G)
[
(V,θ)∈C[G]
est directe et dense dans (C(G), || − ||∞ )
Preuve. La première partie de l’énoncé resulte directement du lemme 4.1 dans le cas particulier de l’exemple 4.2.
La deuxième partie de l’énoncé va résulter du théorème de Stone-Weierstrass appliqué à l’adhérence M(G) de
M(G) dans (C(X), || − ||∞ ).
Fait (Théorème de Stone-Weierstrass): Soit X un espace topologique compact. Alors toute sous-C-algèbre
fermée unitaire A de (C(X), || − ||∞ ) telle que
- A est stable par conjugaison complexe;
- A sépare les points de X i.e. pour tout x 6= y ∈ X, il existe f ∈ A telle que f (x) = f (y) ;
est égale à (C(X), || − ||∞ ).
En effet, observons d’abord que M(G) est une sous-C-algèbre unitaire i.e. contient 1̃G et est stable par produit.
Par continuité de la conjugaison complexe et du produit, il suffit de le montrer pour M(G). Déjà, 1̃G ∈ MI . Et
[ θi,j θ0 = (θ ⊗ θ0 )(i,k),(j,l) ∈ Mθ ⊗ Mθ0 , où, si V est muni de la base e1 , . . . , en
pour tout (V, θ), (V 0 , θ0 ) ∈ C[G],
θ
k,l
et V 0 de la base e01 , . . . , e0nθ0 , on munit V ⊗ V 0 de la base u(i,k) = ei ⊗ e0k , 1 ≤ i ≤ nθ , 1 ≤ i ≤ nθ0 . Enfin,
(V, θ)⊗(V 0 , θ0 ) étant de dimension finie, elle est somme directe d’un nombre fini de représentations irréductibles;
les (θ ⊗ θ0 )(i,k),(j,l) s’écrivent donc comme combinaison linéaires de coefficients matriciels de représentations
[ si et seulement si
irréductibles. M(G) est également stable par conjugaison complexe puisque (V, θ) ∈ C[G]
[ Il en est de même de M(G) par continuité de la conjugaison complexe. Enfin, le théorème 3.5
(V, θ) ∈ C[G].
assure que M(G) (donc a fortiori M(G)) sépare les points. 4.2. Transformée de Fourier et transformée de Fourier inverse. Dans ce qui suit, on notera
Y
ΠG :=
EndC (V )
[
(V,θ)∈C[G]
et
⊕G :=
M
EndC (V ) ⊂ ΠG .
[
(V,θ)∈C[G]
[ on dispose d’un morphisme de C-algèbres naturel
Pour tout (V, θ) ∈ C[G],
pV : L2 (G) → End
Z C (V )
f
→
f (g)θ(g)dµG (g)
G
14
COURS M1 ’GROUPES ET REPRÉSENTATIONS’ - X 2011/12 (ANNA CADORET)
donc d’un morphisme de C-algèbres
F: L2 (G) → ΠZG
f
→ ( f (g)θ(g)dµG (g))θ .
G
[ on dispose également d’un morphisme de C-espaces vectoriels
Pour tout (V, θ) ∈ C[G],
iV :
EndC (V ) → C(G) ⊂ L2 (G)
φ
→ nθ T r(φ ◦ θ∨ )
donc d’un morphisme de C-espaces vectoriels
2
→ C(G)
X⊂ L (G)
nθ T r(φθ ◦ θ∨ )
→
F: ⊕G
φ = (φθ )θ
[
(V,θ)∈C[G]
Munissons en outre ΠG de l’action de G définie par
G × ΠG
(g, φ)
→ ΠG
→ Lg (φ) := (θ(g) ◦ φθ )θ
Avec cette structure, on vérifie immédiatement que
F : (L2 (G), L) → (ΠG , L)
et
F : (⊕G , L) → C(G) ⊂ (L2 (G), L)
sont des morphismes G-équivariants.
[ on a F(Mθ∨ ) ⊂ EndC (V ) et F(EndC (V )) ⊂ Mθ∨ . En outre, FF
Proposition 4.4. Pour tout (V, θ) ∈ C[G]
est l’identité sur ⊕G et FF est l’identité sur M(G).
Preuve. Le fait que F(Mθ∨ ) ⊂ EndC (V ) résulte du lemme 4.1 et le fait que F(EndC (V )) ⊂ Mθ∨ est immédiat.
Montrons maintenant FF est l’identité sur ⊕G . Pour cela, calculons la composante de FF(φ) en chaque
[
(V, θ) ∈ C[G]
X
nθ0 T r(φθ0 ◦ θ0∨ ))θ
FF(φ)θ = F(
[
(V 0 ,θ 0 )∈C[G]
Z
=
X
[
(V 0 ,θ 0 )∈C[G]
nθ0 T r(φθ0 ◦ θ0 (g −1 )))θ(g)dµG (g).
G
[ on a
Il suffit donc de montrer que pour tout (V, θ), (V 0 , θ0 ) ∈ C[G],
Z
uφ (θ, θ0 ) :=
nθ0 T r(φθ0 ◦ θ0 (g −1 )))θ(g)dµG (g) = 0
si (V, θ) et (V 0 , θ0 ) ne sont pas isomorphes;
G
φθ
sinon.
En utilisant que pour tout k-espace vectoriel V de dimension finie la forme k-bilinéaire symétrique
dimk (V ) ⊗k dimk (V ) → k
(φ, ψ)
→ T r(φ ◦ ψ)
est non-dégénérée, cela équivaut à montrer que
uφ (θ, θ0 )
=0
si (V, θ) et (V 0 , θ0 ) ne sont pas isomorphes;
T r(uφ (θ, θ0 ) ◦ ψ)
= T r(φθ ◦ ψ), ψ ∈ Endk (V )
Fixons-nous une base e1 , . . . , enθ de V et une base
sinon.
e01 , . . . , e0nθ0
de V 0 . Ecrivons
0
θ(g) = (θi,j (g))1≤i,j≤nθ , θ0 (g) = (θi,j
(g))1≤i,j≤nθ0 , φθ0 = (φθ0 i,j )1≤i,j≤nθ0
dans ces bases. Les coefficients de la matrice de uφ (θ, θ0 ) dans la base e1 , . . . , enθ s’écrivent alors
Z
X
0
uφ (θ, θ0 )i,j = nθ0
φθ0 k,l
θl,k
(g −1 )θi,j (g).
1≤k,l≤nθ0
G
CHAPITRE 2
REPRÉSENTATIONS LINÉAIRES DES GROUPES COMPACTS
15
Le fait que uφ (θ, θ0 ) = 0 si (V, θ) et (V 0 , θ0 ) ne sont pas isomorphes résulte donc directement du lemme 4.1 dans
le cas particulier de l’exemple 4.2.
Pour ψ ∈ Endk (V ), écrivons également
ψ = (ψi,j )1≤i,j≤nθ
dans la base e1 , . . . , enθ . Alors
X
T r(uφ (θ, θ) ◦ ψ) = nθ0
Z
G
1≤i,j,k,l≤nθ
X
θl,k (g −1 )θi,j (g) = nθ0
φθk,l ψj,i
φθk,l ψj,i
1≤i,j,k,l≤nθ
δl,j δk,i
= tr(φθ ◦ ψ).
nθ
∨
Montrons maintenant que FF est l’identité sur M(G). Il suffit de le vérifier pour les élément de la forme θi,j
[
(observer que la dualité (V, θ) → (V, θ)∨ définit une involution sur C[G]).
∨
)
FF(θi,j
Z
θi,j (g −1 )θ0 (g)dµG (g))θ0 )
= F((
G
= F((δθ,θ0 (δk,j δ`,i )1≤k,l≤nθ )θ0 )
∨
= nθ T r((δk,j δ`,i )1≤k,l≤nθ ◦ θ∨ ) = θi,j
,
où la deuxième égalité résulte encore une fois du lemme 4.1. Corollaire 4.5. F : M(G) → ⊕G et F : ⊕G → M(G) sont des isomorphismes d’algèbres inverses l’un de
[ ils induisent des isomorphismes
l’autre et, pour tout (V, θ) ∈ C[G]
Mθ∨ →End
˜
˜ θ∨ .
C (V ), EndC (V )→M
Cela montre en particulier que les Mθ sont stables pour ∗ (donc des sous-C-algèbres de (L2 (G), ∗) et par L
(donc des sous-représentations de (L2 (G), L)). Le lemme suivant permet de montrer que les Mθ sont l’exact
analogue pour L2 (G) des composantes isotypiques des algèbres semisimples.
Lemme 4.6. Soit (V, θ) ⊂ (L2 (G), L) une sous représentation de dimension finie. Alors
V ⊂ Mθ∨ .
Preuve. Soit e1 , . . . , enθ une base et notons
θ = (θi,j )1≤i,j≤nθ
Pnθ
la matrice de θ dans la base e1 , . . . , enθ . Pour tout f = j=1
aj ej , on a donc
Lg (f ) = θ(g)(f ) =
nθ
X
aj θ(g)(ej ) =
j=1
nθ
X
aj
j=1
nθ
X
θi,j (g)ei
i=1
d’où
f (g) = Lg−1 (f )(1G ) =
nθ
X
j=1
aj
nθ
X
θi,j (g −1 )ei (1G ) =
i=1
nθ X
nθ
X
(aj ei (1G ))θi,j (g −1 ).
j=1 i=1
En notant φf ∈ EndC (V ) l’endomorphisme défini par
φf (ej ) =
nθ
X
(ai ej (1G ))ei ,
i=1
on obtient bien f (g) = T r(φ ◦ θ(g −1 )), g ∈ G. [ on note L2 (G, θ) ⊂ L2 (G) le sous-C-espace vectoriel engendré par
En particulier, si pour tout (V, θ) ∈ C[G]
2
les sous-représentations de (L (G), L) isomorphes à (V, θ), on a L2 (G, θ) ⊂ Mθ∨ . Mais comme Mθ∨ ⊂ L2 (G)
est une sous-représentation de dimension finie de (L2 (G), L), on peut l’écrire comme somme directe de sousreprésentations simples de dimension finie de (L2 (G), L). Il résulte alors des lemmes 4.6 et 4.1 que Mθ∨ ⊂
L2 (G, θ).
16
COURS M1 ’GROUPES ET REPRÉSENTATIONS’ - X 2011/12 (ANNA CADORET)
4.3. Structure hermitienne. Rappelons que l’espace L2 (G) est muni de la structure hilbertienne
Z
hf, f 0 i =
f (g)f 0 (g)dµG (g).
G
Munissons également ⊕G d’un produit scalaire hermitien h−, −i en posant
X
nθ h−, −iθ ,
h−, −i =
[
(V,θ)∈C[G]
où les h−, −iθ sont définis comme suit. Si h−, −iG est un produit scalaire hermitien G-invariant sur Vθ (qui
existe d’après le théorème 2.6), on considère le produit scalaire G-invariant sur EndC (Vθ ) ' Vθ ⊗ Vθ∨
hv ⊗ h−, wiG , v 0 ⊗ h−, w0 iG iθ = hv, v 0 iG hw, w0 iG .
De façon équivalente, si on se fixe une base orthonormale e1 , . . . , enθ de (Vθ , h−, −iG ) définissant un isomorphisme
[−] : EndC (Vθ )→M
˜ nθ (C), cela revient à munir EndC (Vθ ) de hφ, ψiθ = T r([φ]t [ψ]).
Lemme 4.7. Les isomorphismes F : M(G)→⊕
˜ G et F : ⊕G →M(G)
˜
sont des isométries pour les structures
hermitiennes décrites ci-dessus.
Preuve. Il suffit de le vérifier pour F. Soit donc f, f 0 ∈ M(G). On a F(f ∗ f 0 ) = F(f ) ◦ F(f 0 ) donc
Z
X
f (g)f 0 (g −1 )dµG = f ∗ f 0 (1G ) = F(F(f ) ◦ F(f 0 ))(1G ) =
nθ T r(F(f ) ◦ F(f 0 )).
G
[
(V,θ)∈C[G]
0∨
En appliquant cela à f , on obtient
Z
0
hf, f i =
f (g)f 0 (g)dµG =
G
X
nθ T r(F(f )θ ◦ F(f 0 ∨ )θ ).
[
(V,θ)∈C[G]
Supposons fixée comme ci-dessus une base orthonormale e1 , . . . , enθ de (Vθ , h−, −iG ) définissant un isomorphisme
(−) : EndC (Vθ )→M
˜ nθ (C). Alors
Z
f 0 (g −1 )[θ(g)]dµG (g)
[F(f 0 ∨ )]θ =
G
Z
(1)
t
f 0 (g −1 ) [θ(g −1 )]dµG (g)
=
G
=t
Z
f 0 (g −1 )[θ(g −1 ]dµG
G
(2)
t
Z
=
G
f 0 (g)[θ(g)]dµG =t [F(f 0 )]θ ,
où dans (1) on a utilisé le fait que [θ(g)]t [θ(g)] = Id et, dans (2), l’exercice 2.2. d
Notons ⊕
G le complété de ⊕G pour la structure hermitienne h−, −i décrite ci-dessus. Alors, il résulte du
corollaire 4.3 et du lemme 4.7 que
Corollaire 4.8. Les isométries F : M(G)→⊕
˜ G et ⊕G →M(G)
˜
se prolongent par densité en des isométries
d
d
F : L2 (G)→
˜⊕
˜ 2 (G) inverses l’une de l’autre.
G et F : ⊕
G →L
En particulier, pour tout f ∈ L2 (G) on a
X
f = FF(f ) =
nθ T rV (F(f )θ ◦ θ∨ )
[
(V,θ)∈C[G]
dans L2 (G) et
X
||f ||22 =
n2θ ||Fθ ||2θ
[
(V,θ)∈C[G]
hf, f 0 i =
X
[
(V,θ)∈C[G]
Exercice 4.9.
n2θ hF(f )θ , F(f )θ iθ .
CHAPITRE 2
REPRÉSENTATIONS LINÉAIRES DES GROUPES COMPACTS
17
(1) Montrer que tout morphisme de groupes topologiques φ : R → C× est dérivable.
(2) En déduire que toute représentations simples de U1 := {z ∈ C× | |z| = 1} ' R/2πZ est de la forme
em : R/2πZ →
θ
→
C×
eimθ
(3) Que devient le corollaire 4.8 dans ce cas particulier?
5. Fonctions centrales et caractères
Notons C inv (G) ⊂ C(G) le sous-C-espace vectoriel des fonctions constantes sur les classes de conjugaison de
G. Par G-invariance à gauche et à droite de la mesure de Haar, on vérifie facilement que C inv (G) est une
sous-C-algèbre centrale de (C(G), ∗). On note L2inv (G) son adhérence dans L2 (G) pour || − ||2 . Comme pour
les groupes finis, on définit le caractère d’une représentation de dimension finie (V, θ) comme l’application
χθ : G → C
g → T r(θ(g)),
b = {χθ } [ l’ensemble des caractères des rerésentations simples de dimension finie de G. Un
On notera G
θ∈K[G]
certain nombre de résultats du chapitre 1 se généralisent tels quels aux groupes compacts. Par exemple
Proposition 5.1.
- (1)
(2)
(3)
(4)
χθ⊕θ0 = χθ + χθ0 ;
χθ⊗θ0 = χθ χθ0 ;
χθ ∨ = χ∨
θ (= χθ );
χHom(θ,θ0 ) = χ∨
θ χθ 0 .
- Si (V, θ), (V 0 , θ0 ) sont deux représentations de dimension finie
Z
hχθ , χθ0 i =
χθ (g)χθ0 (g)dµG (g) = dimC (HomG (V, V 0 ))
G
En particulier, par le lemme 1.2, si (V, θ) est simple hχθ , χθ0 i est la multiplicité de (V, θ) dans (V 0 , θ0 )
et (V, θ) est simple si et seulement si ||χθ || = 1.
b est une base hilbertienne de L2inv (G).
- G
[ on a, par
b ⊂ Z(C(G)). Par ailleurs, pour tout (V, θ) ∈ C[G]
Preuve. Détaillons juste le dernier point. On a G
−1
b est
construction, χθ ∈ Mθ donc le lemme 4.1 et les relations χ(g ) = χ(g), g ∈ G montrent que la famille G
orthonormale. Il reste donc à voir que
M
Cχ
b
χ∈G
[ on a
est dense dans L2inv (G). Mais cela résulte du corollaire 4.3 et du fait que pour tout (V, θ) ∈ C[G]
Cχθ = Z(Mθ ) (Observer que Mθ ' EndC (Vθ ) donc que dimC (Z(Mθ )) = 1 (et utiliser que χθ 6= 0...)). References
[B87] H. Brezis, Analyse fonctionnelle - théorie et applications, Masson, 1987.
[F08] J. Faraut, Analysis on Lie Groups An Introduction, Cambridges Studies in Advanced Mathematics 110, Cambridge University Press, 2008.
[P11] F. Paulin, Théorie spectrale et analyse harmonique, Notes de Cours M2 Orsay, Preprint 2011 disponible sur:
http://www.math.u-psud.fr/epaulin/notescours/liste notescours.html
[R83] A. Robert, Introduction to the Representation Theory of Compact and Locally cCompact Groups, L.M.S. L.N.S. 80, Cambridge University Press, 1983.
[Ru73] W. Rudin, Functional analysis, Mc Graw-Hill Publ. Co., 1973.
[email protected]
Centre de Mathématiques Laurent Schwartz - Ecole Polytechnique,
91128 PALAISEAU, FRANCE.