1. Théorie de la représentation pour les groupes avec une moyenne

1. Théorie de la représentation pour les groupes avec une moyenne
1.1. Algèbres de fonctions avec une moyenne. Si on étudie un espace topologique on s’intéresse
surtout pour les fonctions continues. Si on étudie une variété algébrique on s’intéresse surtout pour
les fonctions régulières. De même si on étudie un groupe topologique et ses actions sur des espaces
topologiques, les représentations qui apparaissent naturellement sont des représentations continues.
Si on étudie un groupe algébrique et ses actions sur des variétés algébriques, les représentations qui
apparaissent naturellement sont des représentations algébriques.
Un groupe topologique est un groupe qui a aussi la structure d’espace topologique telle que la
multiplication µ : G × G −
→ G : (x, y) 7→ xy et l’inverse ι : G −
→ G : x 7→ x−1 sont des applications
continues. Un groupe algébrique G est un groupe qui est aussi une variété algébrique telle que µ et
ι sont des morphismes de variétés. Si ρ : G −
→ GL(n, C) est une représentation, chaque coefficient
matricielle ρij : G −
→ C est une fonction: on exige que cette fonction soit continue (ou régulière).
Si le groupe topologique est même compact, on peut intégrer chaque fonction continue sur le
groupe. La conséquence est qu’on a un théorème de Maschke pour les représentations continues
de dimension finie. Si le groupe algébrique est réductif, on peut intégrer algébriquement chaque
fonction régulière sur le groupe. Comme conséquence on aura aussi un théorème de Maschke pour
les représentations algébriques de dimension finies. Si le groupe n’est pas compact (ou réductif), la
théorie des représentations continues (algébriques) n’est pas aussi bien comprise.
On peut formaliser les deux cas, et le cas des représentations complexes des groupes finis et
donner une preuve uniforme des théorèmes de Maschke qui est très proche de la preuve pour les
groupes finis où |G| ∈ k × : on utilise le processus de la moyenne. On trouve aussi des analogues
des théorèmes de Schur et de Wedderburn et il existe une théorie de caractères. On n’aura pas
besoin de beaucoup de hypthèses pour montrer des résultats intéressants. Seulement l’existence
d’une moyenne.
Comme souvent dans l’algèbre on extrait des exemples précédents les outils fondamentaux et on
les remplace par des axiomes! Puis on déduit des conséquences à partir de ces hypothèses.
Les théories des représentation des groupes compactes et des représentations algébriques des
groupes réductifs sont trs semblables à la théorie des représentations complexes des groupese finies.
Mais chacune théorie a ses aspects spéciaux aussi, bien sûr.
1.2. Axiomes. Soit G un groupe et C[G] une algèbre de fonctions complexes sur G. La somme et
le produit de deux fonctions sont définis comme d’habitude par
(c1 f1 + c2 f2 )(x) := c1 f1 (x) + c2 f2 (x); (f1 f2 )(x) := f1 (x)f2 (x),
pour c1 , c2 ∈ C, f1 , f2 ∈ C[G].
Nous supposerons que les trois axiomes suivants sont satisfaits.
(i) Les fonctions constantes complexes sont dans C[G].
(ii) Pour chaque fonction f : G −
→ C dans l’algèbre C[G] et pour chaque g ∈ G aussi les fonctions
g · f : x 7→ f (g −1 x) et x 7→ f (x−1 )
sont dans C[G].
1
2
(iii) Il existe une moyenne invariante à gauche, i.e., une application C-linéaire
IG : C[G] −
→C
telle que IG (g · f ) = IG (f ) et IG (c) = c pour chaque fonction constante c : G −
→ C : g 7→ c.
On écrit aussi suggestivement
Z
IG (f ) =:
f (x)dx.
G
Mais en général IG n’est pas une ”vraie” intégration. Alors on réécrit les propriétés :
Z
Z
Z
f2 (x)dx;
f1 (x)dx + a2
(a1 f1 (x) + a2 f2 (x))dx = a1
G
G
G
Z
Z
f (x)dx;
f (gx)dx =
G
G
Z
dx = 1,
G
où a1 , a2 ∈ k, f, f1 , f2 ∈ C[G], g ∈ G.
Exemples 1.1. Nous donnons quelques exemples où les axiomes sont satisfaits. Si G est fini on peut
prendre pour C[G] l’algèbre de toutes les fonctions f : G −
→ C avec la moyenne
1 X
IG (f ) =
g · f.
|G|
g∈G
Un exemple d’un groupe compacte. Soit G = S 1 = R/2πZ le groupe du cercle. Pour C[G] on
prend les fonctions complexes continues sur S 1 . On peut identifier ces fonctions avec les fonctions
complexes continues 2π-périodiques sur R, par exemple t 7→ cos ntπ + i sin mtπ. Pour la moyenne
on prend la vraie intégrale
Z 2π
1
IG (f ) :=
f (x)dx.
2π 0
Soit K un groupe continu compact comme SU(n) ou SO(n). On montre qu’il existe une mesure de
Haar sur K, alors une mesure invariante par translations à gauche. Cela implique l’existence d’une
R
intégrale G f (x)dx pour les fonctions continues sur K.
Un exemple d’un groupe algébrique réductif. Soit G = C× et C[G] = C[z, z −1 ], l’algèbre des
polynômes de Laurent. Ici z est la fonction régulière
z: G−
→ C : z(g) = g.
P
i
Chaque élément de C[G] s’écrit uniquement comme f = M
i=−N ai z . On définit alors
IG (f ) := a0
pour la moyenne de f . Si G = GL(n, C) on prend pour C[G] l’algèbre des fonctions g 7→
F (g)/ det(g)i , où F est une fonction polynomiale. Alors il existe aussi une moyenne IG , mais
ce n’est pas facile a donner une formule. Plus généralement si G est un groupe algébrique linéaire
complexe réductif, et C[G] est l’algèbre des fonctions algébriques sur G, alors il existe une moyenne
invariante à gauche.
3
1.3. Modules admissibles et fonctions représentatives. On va principalement étudier les
représentations de dimension finie, où chaque fonction coefficient matriciel est une fonction dans
G. Pour être capable d’inclure la représentation régulière it faut aussi admettre les représentations
de dimension infinies qui sont localement admissible.
Plus précisement, on dit qu’une représentation de dimension finie ρ : G −
→ GL(V ) est admissible
pour C[G] (ou est une C[G]-représentation) si toutes les coefficients matricielles sont dans C[G],
c’est à dire que pour chaque v ∈ V et ω ∈ V ∗ la fonction
g 7→ ω(g · v) = ω(ρ(g)(v))
est une fonction dans C[G]. Une représentation de dimension infinie est admissible si pour chaque
v ∈ V il existe un sous-module W ⊂ V de dimension finie admissible qui contient v.
On va dire que f ∈ C[G] est une fonction représentative s’il existe un module admissible de
dimension finie V , un vecteur v ∈ V et une fonctionnelle ω ∈ V ∗ telle que
f (g) = ω(g · v),
pour chaque g ∈ G. Dans l’exercice suivant on montre que l’ensemble des fonctions représentatives
C[G]rep est une sous-algèbre de C[G] qui aussi satisfait les trois axiomes.
Exercice 1.1. (i) Chaque sous-module ordinaire d’un module admissible est admissible, et chaque
module quotient d’un module admissible est admissible.
(ii) Supposons V1 et V2 sont admissible, alors V1 ⊕ V2 et V1 ⊗ V2 sont aussi admissible. Si V est
admissible de dimension finie, alors V ∗ et Hom(V, V1 ) sont admissibles.
(iii) L’ensemble des fonctions représentatives C[G]rep est une sous-algèbre de C[G] qui aussi
satisfait aux trois axiomes.
Dans l’étude des G-modules admissibles on rencontre seulement des fonctions représentatives.
Proposition 1.1. Une représentation (ρ, V ) est C[G]-admissible si et seulement si elle est C[G]rep admissible.
Exemple 1.2. On considère le groupe du cercle G = R/2πZ et l’algèbre des fonctions continues. Les
représentations simples continues sont toutes de degré un, parce que S 1 est abélien :
zn : G −
→ C× : t + 2πZ 7→ eint ,
où n ∈ Z. Chaque fonction représentative est une combinaison linéaire des z i , donc un polynôme
en z et z −1 . Alors
C[G]rep = C[z, z −1 ].
L’anneau de polynômes de Laurent est plus facile à comprendre algébriquement que l’anneau des
fonctions continues. Le processus de remplacer C[G] par C[G]rep est une processus de algebraisation,
mais l’algèbre C[G]rep est dense dans C[G]. Pour chaque groupe de Lie compact, l’algèbre C[G]rep
est isomorphe à l’algèbre de fonctions régulière sur un groupe algébrique réductif GC (la complexification de G) et est dense dans C[G] (le théorème de Peter-Weyl, un théorème de l’analyse). Par
exemple, SC1 = C× .
Pour un groupe algébrique réductif, rien ne change C[G] est égale à C[G]rep .
4
1.4. Maschke. Un bon nombre de théorèmes pour les représentations complexes des groupes finis
restent vrais pour les représentations admissibles, avec des preuves semblables. Par exemple, les
théorèmes de Maschke et de Schur.
Théorème 1.1. Soit W un sous-module d’un module admissible V . Alors il existe un sous-module
complémentaire W 0 tel que V = W ⊕ W 0 .
Preuve. (i) On commence par le cas où les dimensions sont finies. Dans ce cas Hom(V, V ) est
admissible par exercice 1.1. Pour v ∈ V et ω ∈ V ∗ , l’application p 7→ ω(p(v)) est une fonctionnelle
sur Hom(V, V ). Donc
x 7→ ω(x · p(x−1 · v))
est une fonction représentative (ou admissible) sur G. Choisissons une projection p : V −
→ V sur
W , on va modifier p et obtenir une G-projection. Pour faire ça on fixe une base e1 , . . . , en de V
avec la base duale e∗1 , . . . , e∗n . Fixons v ∈ V . On définit pG par
n Z
X
pG (v) :=
e∗i (x · p(x−1 · v)) dx ei .
G
i=1
Pour montrer que pG est un G-morphisme, on va utiliser que si g · ej =
P
[g]ji e∗i .
pG (g · v) =
=
=
=
=
n Z
X
G
i=1
Z
n
X
G
i=1
Z
m
X
G
i=1
Z
m
X
Z
dx ei
e∗i )(xp(x−1 v))
([g]is e∗s )(xp(x−1 v))
m Z
X
dx ei (par la définition de l’action sur V ∗ )
dx
ei
e∗s (xp(x−1 v))
dx
[g]is ei
G
m Z
X
s=1
·
R
dx ei (par une propriété de G dx)
G
i,s=1
=
(g
−1
alors g −1 · e∗j =
dx ei
e∗i (gxp((gx)−1 gv))
e∗i (gxp(x−1 v))
i [g]ij ei ,
G
i=1
m
X
i,s=1
=
e∗i (xp(x−1 gv))
P
e∗s (xp(x−1 v))
dx g · es
G
= g · pG (v).
Et pG reste une projection, parce que si w ∈ W on aura
n Z
n Z
X
X
∗
−1
∗
pG (w) =
ei (x · p(x · w))dx ei =
ei (w))dx ei = w.
i=1
G
i=1
G
5
Et dans l’exercice suivant on montre que pG (v) ∈ W pour chaque v ∈ V .
Exercice 1.2. (a) Montrer que la définition de pG ne dépend pas du choix de base.
(b) Montrer que pG (v) ∈ W pour chaque v ∈ V .
(ii) On considère maintenant le cas général. Par le lemme de Zorn il existe une projection p : V
−
→ V sur W . On va modifier p et obtenir une G-projection pG .
Fixons v ∈ V , alors il existe un sous-module admissible de dimension finie V1 qui contient v. La
restriction p1 de p à V1 est une projection sur V1 ∩ W . Dans (i) on a modifié p1 à une G-projection
p1,G de V1 sur V1 ∩ W . On définit maintenant pG (v) := p1,G (v). Il faut montrer encore que la
définition ne dépend pas du choix de V1 .
Supposons que V2 est un autre module admissible de dimension finie qui contient v. Alors
V3 = V1 ∩ V2 est un troisième module admissible qui contient v. Prenons une base e1 , . . . , en de V1 ,
telle que e1 , . . . , em est une base de V3 . Alors pour chaque x ∈ G on a x · p(x−1 · v) ∈ V3 ∩ W , donc
pour chaque m < i ≤ n on a que e∗i (x · p(x−1 · v)) = 0. Alors
n Z
X
i=1
e∗i (x
−1
· p1 (x
· v)) dx
G
ei =
m Z
X
i=1
e∗i (x
−1
· p1 (x
· v)) dx ei .
G
Donc la définition de pG est la même si on utilise V3 à la place de V1 . Donc pG est bien-définie et
est une G-projection.
On obtient par une induction sur la dimension un théorème de Maschke.
Corollaire 1.1. Chaque G-module admissible de dimension finie est la somme directe de Gmodules admissibles simples. Plus généralement, si la dimension d’un module admissible est au
plus dénombrable, alors le module est la somme directe de G-modules simples.
Preuve. Supposons v1 , v2 , . . . est une base, alors il existe des sous-modules de dimension finie V1 ⊂
P
V2 ⊂ . . ., tels que vi ∈ Vi , et donc V = ∞
i=1 Vi . Par le résultat avant il existe des sous-modules Wi
tels que Vi = ⊕j≤i Wi . Il suit que V = ⊕∞
i=1 Wi .
Exemple 1.3. Dans certains cas il y a une preuve alternative pour le théorème de Maschke. Soit
z le conjugué complexe de z. Définissons pour f ∈ C[G] la fonction f : G −
→ C : g 7→ f (g). En
général f ne reste pas dans C[G]. Supposons c’est le cas pour C[G]. Puis, supposons pour f ∈ C[G]
R
R
que si f (g) ∈ R≥0 pour chaque g ∈ G, alors aussi G f (g)dg ∈ R≥0 , et dans ce cas G f (g)dg = 0 si
et seulement si f (g) = 0 pour chaque g ∈ G.
Ces hypothèses sont satisfaites si G est un groupe compact et C[G] est l’algèbre des fonctions
continues sur G.
Soit V un G-module continu de dimension finie. Fixons un produit scalaire complexe (, ) sur
P
P
V , et e1 , . . . , en une base orthonormale. Soit v = i vi ei et w = i wi ei , alors on peut écrire la
fonction g 7→ (g · v, g · w) comme
X
g 7→
vi wj ρri (g)ρrj (g),
i,j,r
6
c’est donc dans C[G]. On définit maintenant
Z
(g · v, g · w) dg.
(v, w)G :=
G
R
On vérifie directement en utilisant les propriétés de G dg, que (, )G est un produit scalaire (hermitien) sur V ayant la propriété (g · v, g · w)G = (v, w)G .
Si W ⊂ V est un sous-module, alors W ⊥ = {v ∈ V ; ∀w ∈ W : (v, w)G = 0} est un G-complément
de W .
1.5. Schur. L’analogue du théorème de Schur est facile.
Théorème 1.2. Soient V et W deux G-modules admissibles simples, donc automatiquement de
dimension finies.
(i) Si V et W ne sont pas isomorphes, alors HomG (V, W ) = 0.
(ii) HomG (V, V ) = C · 1V , l’ensemble des morphismes scalaires.
Preuve. La preuve pour les groupes finis reste valable ici.
Soit Λ l’ensemble des classes d’isomorphisme de G-modules simples admissibles. Pour chaque
λ ∈ Λ fixons un G-module simple admissible Vλ avec une base de Vλ .
Corollaire 1.2. Soient λ, µ ∈ Λ, λ 6= µ.
(i) Pour chaque r, s, i, j on a
Z
ρµ,rs (x)ρλ,ij (x−1 y) dx = 0.
G
(ii) Pour chaque i, j, k, l on a
Z
ρλ,ij (x)ρλ,kl (x−1 y) dx =
G
δjk
ρλ,il .
dim Vλ
Preuve. Soit e1 , . . . , en la base fixée de Vλ et f1 , . . . , fm la base de Vµ .
(i) Considérons l’application linéaire φ : Vµ −
→ Vλ : v 7→ e∗i (v)fs . Alors
XZ
p(φ) : v 7→
e∗i (x−1 v)fr∗ (x · fs )dx fr
r
G
est un G-morphisme, donc par Schur’s lemma 0, parce que Vλ et Vµ ne sont pas isomorphes. En
particulier, en prenant v = gej on obtient
Z
ρµ,rs (x)ρλ,ij (x−1 g)dx = 0.
G
(ii) Considérons l’application linéaire φ : Vλ −
→ Vλ : v 7→ e∗r (v)ej de trace trφ = δjr . Le Gmorphisme p(φ) défini comme en (i) est un morphisme scalaire, par le lemme de Schur. Plus
δ
précisement p(φ) = njr 1Vλ , où n est la dimension de Vλ , parce que trφ = trp(φ) par le lemme
suivant. En particulier
δjr ∗
δjr
e∗i (p(φ)(g · es )) =
ei (g · es ) =
ρλ,is (g).
n
n
On a
XZ
p(φ) : v −
→
e∗r (x−1 · v)e∗i (x · ej ) dx ei ,
i
G
7
donc on obtient une autre expression
e∗i (p(φ)(g
Z
ρλ,ij (x)ρλ,rs (x−1 g) dx.
· es )) =
G
En comparant on obtient
Z
ρλ,ij (x)ρλ,rs (x−1 g) dx =
G
δjr
ρλ,is (g).
n
Corollaire 1.3. Les fonctions représentatives ρλ,ij , λ ∈ Λ forme une base pour C[G]rep .
Alors chaque fonction représentative s’écrit uniquement comme une combinaison linéaire finie
des ρλ,ij .
Preuve. (i) Soit f : g 7→ ω(g · v) une fonction représentative, où V est un G-module admissible
de dimension finie, v ∈ V , ω ∈ V ∗ . Par le théorème de Maschke, il y a une décomposition
V = V1 ⊕ · · · ⊕ Vs , où chaque composante est admissible simple. De même V ∗ = V1∗ ⊕ · · · ⊕ Vs∗
→ Vi , et
pour la représentation duale. Pour chaque i il y a un λi ∈ Λ et un isomorphisme φi : Vλi −
∗
∗
∗
∗
→ Vi . Si es est un des vecteurs de bases fixés dans Vλi et er un des vecteurs
dualement φi : Vλ −
de base duale, alors
ρλi ,rs = e∗r (g · es ) = φ∗i (e∗r )(g · φi (es )).
Les bases choisies dans les Vλ , et les isomorphismes φi induisent une base naturelle de V . Écrivant
v sur cette base, et ω sur la base duale on voit que f est une combinaison linéaire des ρλi ,rs .
P
(ii) Supposons λ,i,j aλ,ij ρλ,ij = 0 est une relation linéaire. Fixons (µ, r, s). Alors aussi
0=
Z X
aλ,ij ρλ,ij (x)ρµ,ss (x−1 y) dx =
G λ,i,j
X
aµ,is ρµ,is (y)
i
pour chaque y ∈ G, par le corollaire avant. Donc aussi
Z
X
0=
ρµ,rr (x)
aµ,is ρµ,is (x−1 y) dx = aµ,rs ρµ,rs (y)
G
i
pour chaque y ∈ G. Alors le coefficient aµ,rs = 0. Ainsi nous avons montré l’indépendence linéaire.
Lemme 1.1. Soit φ : V −
→ V une application linéaire. Alors
trφ = trp(φ),
où
p(φ)(v) :=
X Z
i
G
e∗i (x
−1
· φ(x
· v))dx ei .
8
Preuve.
trp(φ) =
n Z
X
G
i=1
=
e∗i (x · φ(x−1 · ei ))dx
Z X
G
Z
=
e∗i (x · φ(x−1 ei )dx
i
tr(xπx−1 )dx
ZG
trφdx
=
G
= trφ.
1.6. Wedderburn. Le théorème de Wedderburn pour les groupes finis est un théorème sur l’algèbre
CG du groupe finie. Nous allons définir l’analogue en général. Pour nous ça sera une autre structure
d’algèbre sur C[G]rep .
La nouvelle multiplication est un produit de convolution ∗. Pour deux fonctions f1 , f2 ∈ C[G]
on définit une troisième fonction f1 ∗ f2 : G −
→ C par
Z
f1 (x)f2 (x−1 g)dx.
(f1 ∗ f2 )(g) :=
G
Remarquez que x 7→ f2 (g −1 x) 7→ f2 (x−1 g) et donc x 7→ f1 (x)f2 (x−1 g) sont des fonctions dans
C[G]. Ce n’est pas clair si f1 ∗ f2 ∈ C[G] en général, mais c’est le cas où G est un groupe de Lie
compact et C[G] l’algèbre de fonctions continues.
Le cor. 1.2 dit en termes de ∗ :
Lemme 1.2. Soient λ, µ ∈ Λ, λ 6= µ.
(i)
ρµ,rs ∗ ρλ,ij = 0,
pour chaque i, j, r, s si λ 6= µ.
(ii)
ρλ,ij ∗ ρλ,kl =
δjk
ρλ,il .
dim Vλ
Comme un corollaire on obtient un analogue du théorème de Wedderburn.
Théorème 1.3. (i) Soient f1 , f2 , f3 ∈ C[G]rep . Alors
f1 ∗ f2 ∈ C[G]rep ,
et l’associativité est vrai
(f1 ∗ f2 ) ∗ f3 = f1 ∗ (f2 ∗ f3 ).
Alors C[G]rep avec le produit ∗ est une algèbre, notée CGrep∗ . L’algèbre CGrep∗ n’a pas nécessairement
un élément neutre pour ∗.
9
(ii) Le sous-espace de CGrep∗ engendré par les ρλ,ij pour λ ∈ Λ fixé est une sous-algèbre isomorphe à End Vλ .
(iii) L’algèbre CGrep∗ est isomorphe à ⊕λ∈Λ End Vλ .
(iv) Une base pour le centre est donnée par les idempotents
X
eλ := dim Vλ
ρλ,ii ,
i
pour λ ∈ Λ.
Preuve. (i) Il suffit de montrer (i) pour les fonctions représentatives de base ρλ,ij . Par le lemme
avant le ∗-produit de deux fonctions représentatives est à un scalaire près une fonction représentative,
donc dans C[G]rep . Les produits ρλ,ij ∗ (ρµ,kl ∗ ρν,rs ) et (ρλ,ij ∗ ρµ,kl ) ∗ ρν,rs ) sont 0 par le lemme
sauf si λ = µ = ν, j = k et l = r et dans ce cas le résultat est deux fois (dim Vλ )2 ρλ,is . Donc
l’associativité est satisfait.
(ii) Une base pour End Vλ sont les applications linéaires Xij : v 7→ e∗j (v)ei , et on a les multiplications Xij ◦ Xrs = δjr Xis . Par le lemme l’application linéaire End Vλ −
→ CGadm,∗ définie par
Xij 7→ dim Vλ ρλ,ij est un homomorphisme d’algèbres. Le noyau est un idéal, mais l’algèbre des
matrices n’a pas d’idéaux non-triviaux. Donc l’application est injectif.
(iii) Suit de (ii), parce que ρλ,ij ∗ ρµ,rs = 0, si λ 6= µ.
(iv) Suit de (ii) et (iii) parce que 1Vλ est envoyé sur eλ par l’isomorphisme de (ii).
1.7. Évaluer ’intégral. On peut donner maintenant ”calculer” l’intégral dans les fonctions représentatives.
P
Proposition 1.2. Soit f ∈ C[G]rep , alors f = λ,ij aλ,ij ρλ,ij (une somme finie). Soit Vλ0 = C le
G-module trivial avec un seul vecteur de base.
(i) Alors
Z
f (x) dx = aλ0 ,11 .
G
En particulier,
(ii) Alors
R
G ρλ,ij (x)
dx = 0 si λ 6= λ0 .
Z
Z
f (xg) dx =
G
f (x) dx
G
(l’invariance à droite).
(iii) Alors
Z
−1
f (x
G
Z
) dx =
f (x) dx .
G
R
Preuve. (i) ρλ0 ,11 est la fonction 1, donc G ρλ0 ,11 (x)dx = 1. Si λ 6= λ0 alors
Z
Z
−1
ρλ,ij (x)ρλ0 ,11 (x y) dx =
ρλ,ij (x) dx = 0,
G
G
par le lemme.
(ii) Il suffit de montrer pour les fonctions de base ρλ,ij . Pour λ0 les deux côtés donnent 1. Si
P
λ 6= λ0 on a ρλ,ij (xg) = r ρλ,ir (x)ρλ,rj (g), donc
Z
Z X
Z X
X
ρλ,ij (xg) dx =
ρλ,ir (x)ρλ,rj (g) dx =
ρλ,rj (g)
ρλ,ir (x)dx = 0
G
G
r
r
G
r
10
Z
ρλ,ij (x) dx .
=
G
(iii) Fixons f et supposons f (g) = ω(g · v), où v ∈ V, ω ∈ V ∗ . Nous pouvons supposer que V
est simple. Définissons µ ∈ V ∗∗ par µ(φ) := φ(v), pour φ ∈ V ∗ , et h : g 7→ µ(g · ω) la fonction
représentative associée. Alors f (g −1 ) = ω(g −1 · v) = (g · ω)(v) = µ(g · ω) = h(g). Donc f (g −1 ) est
une fonction représentative associé à V ∗ . Si V est simple non-trivial, alors V ∗ est aussi simple et
R
R
non-trivial. Alors par (i) G f (g −1 ) dg = G h(g) dg = 0.
1.8. C[G]rep comme module admissible. Fixons λ ∈ Λ, et soit e1 , . . . , en une base de Vλ .
Lemme 1.3. (i) Si φ : Vλ −
→ C[G] est un G-morphisme, alors
φ(ei ) : g 7→
n
X
φ(ej )(1G )ρλ,ij (g −1 ).
j=1
(ii) Si (c1 , . . . , cn ) ∈ Cn , alors l’application linéaire φ : Vλ −
→ C[G] définie par
φ(ei ) : g 7→
n
X
cj ρλ,ij (g −1 )
j=1
définit un G-morphisme.
Proposition 1.3. La multiplicité de Vλ dans C[G] (ou dans C[G]rep ) est la dimension de Vλ .
Preuve. Soit e1 , . . . , en une base de Vλ . Si φ : Vλ −
→ C[G] est un G-morphisme, alors
X
φ(ej )(g) = (g −1 · φ(ej ))(1G ) = φ(g −1 · ej )(1G ) =
ρλ,ij (g −1 )φ(ei )(1G ).
i
Inversement, si c1 , . . . , cn sont des scalaires,
φ(ej )(g) :=
X
ρλ,ij (g −1 )ci
i
défini une représentation φ : Vλ −
→ C[G]. Donc la somme de sous-modules isomorphe à Vλ est
égale à l’espace de base ρλ,ij de dimension n2 .
1.9. Modules admissible sont CGrep∗ -modules. Pour un groupe fini l’algèbre CGrep∗ est isomorphe à l’algèbre de groupe, et un C[G]-module est la même chose comme un module pour l’anneau
CG. Ça reste vrai en général. Si V est un G-module admissible de dimension finie, alors V devient
un module pour l’algèbre CGrep∗ par la formule
Z
X Z
∗
f ∗ v :=
f (x)(x · v)dx =
f (x)ei (x · v) dx ei ,
G
i
G
où e1 , . . . , en est une base de V . Cela ne dépend pas du choix de base.
Lemme 1.4. On a pour chaque v ∈ V et f1 , f2 ∈ CGrep∗ l’identité :
(f1 ∗ f2 ) ∗ v = f1 ∗ (f2 ∗ v).
Donc chaque module de dimension finie admissible est aussi un module pour l’anneau CGrep∗ .
11
Preuve. On a
Z Z
f1 ∗ (f2 ∗ v) =
f1 (y)f2 (x) y · (x · v) dx dy
G
G
Z Z
f1 (y)f2 (y −1 x) x · v dx dy
=
G
G
et
Z
f1 (y)f2 (y −1 x) dy ∗ v
ZG Z
f1 (y)f2 (y −1 x) x · v dy dx
=
(f1 ∗ f2 ) ∗ v =
G
G
Donc il faut vérifier s’il est permis de changer l’ordre de l’intégration. Pour i soit f3,i ∈ C[G]rep la
fonction définie par f3,i (x) = e∗i (x−1 · v). Alors
XZ Z
f1 ∗ (f2 ∗ v) =
f1 (y)f2 (y −1 x)f3,i (x−1 )dy dx ei
i
=
i
=
G
XZ
X
G
(f1 ∗ f2 )(x)f3,i (x−1 )dx ei
G
((f1 ∗ f2 ) ∗ f3,i ))(1G ) ei
i
=
X
((f1 ∗ (f2 ∗ f3,i ))(1G ) ei (par l’associativité de ∗)
i
=
XZ
i
=
G
XZ Z
i
=
f1 (y)(f2 ∗ f3,i )(y −1 )dy ei
G
G
XZ Z
i
G
f1 (y)f2 (x)f3,i (x−1 y −1 )dy dx ei
f1 (y)f2 (y −1 x)f3,i (x−1 )dy dx ei
G
= (f1 ∗ f2 ) ∗ v.
Et voilà.
1.10. Projections. Soit V un module admissible et Vλ un module simple admissible. Soit V (λ)
la somme de tous les sous-modules isomorphes à Vλ . Nous avons une projection pλ : V −
→ V sur
V (λ) par la formule
pλ (v) := eλ ∗ v,
où eλ (x) = dim Vλ i ρλ,ii (x−1 ) est un idempotent central. En particulier, la projection sur V G est
donnée par la formule
Z
v 7→
g · v dg .
P
G
12
Preuve. Il suffit de montrer que eλ ∗ ej = ej si ej est un vecteur de base dans Vλ et eλ ∗ ej = 0 si
ej un vecteur de base de Vµ , si µ 6= λ. On calcule
XZ
XZ
−1
eλ ∗ ej = dim Vλ
ρλ,ii (x )x · ej dx = dim Vλ
ρλ,ii (x−1 )ρµ,rj (x) dx er
= dim Vλ
i
G
X
(ρµ,rj ∗ ρλ,ii )(1G ) er = δµ,λ
i,r
X
G
ρλ,rj (1G )er = δµ,λ ej .
r
i,r
Inversement, chaque CGrep∗ -module de dimension finie vient d’un C[G]-module admissible. Chaque
P
v ∈ V s’écrit comme une somme finie λ vλ , où vλ = eλ ∗ v. Il existe seulement un nombre fini de
P
λ ∈ Λ, tel que vλ 6= 0. Puis définit vλ,i := dim Vλ ρλ,ii ∗vλ , alors vλ = i vλ,i . On définit maintenant
X
XX
g · v :=
g · vλ :=
g · vλ,j
λ∈Λ j
λ∈Λ
et
g · vλ,j :=
X
ρλ,ij (g)vλ,i .
i
Preuve.
g1 · (g2 · vλ,j ) = g1 ·
X
ρλ,ij (g2 )vλ,i =
i
X
ρλ,ij (g2 )ρλ,ri (g1 )vλ,r =
X
ρλ,rj (g1 g2 )vλ,r = (g1 g2 ) · vλ,j .
r
i,r
Soit V un module admissible, alors eλ ∗ V est la somme de tous les sous-modules isomorphes à
Vλ .
1.11. Caractères. Pour un G-module admissible (U, ρ) de dimension finie on définit son caractère
comme χU (g) := trρ(g) ∈ C[G]. Comme avant on aura χV ⊕U = χV +χW , etcetera. Nous définissons
pour deux G-modules admissibles V, W
Z
(χV , χW ) =
χV (x)χW (x−1 )dx = (χV ∗ χW )(1G ).
G
Si V est irréductible, alors (χV , χW ) est la multiplicité de V dans W .
Preuve. Supposons W = W1 ⊕. . .⊕Ws , où chaque Wi simple. Il suffit de montrer que (χV , χWi ) = 1
si V ' Wi , et 0 sinon. On calcule
X
(χV , χWi ) =
(ρV,ii ∗ ρW,rr )(1G ).
i,r
C’est égal à 0 si V 6= W par le lemme et égale à
Pn
1
i=1 n ρV,ii (1)
= 1 si V ' W .
On obtient le critère de simplicité, comme dans
Corollaire 1.4. Le module V admissible est simple si et seulement si (χV , χV ) = 1.
13
1.12. GL(n, C). La prochaine exercice décrit ”l’intégral algébrique” sur le groupe algébrique GL(n, C).
Exercice 1.3. Soit G le groupe GL(n, C). Chaque g ∈ G est une matrice complexe inversible
(gij )1≤i,j≤n . On définit la fonction xij par
xij : G −
→ C : g 7→ xij (g) = gij .
L’algèbre C[X] est l’algèbre de toutes les fonctions polynomiales dans les xij . Par exemple, le
1
déterminant det ∈ C[X], mais det
n’est pas un polynôme. On définit C[G] = C[X, det−1 ] comme
l’algèbre des fonctions rationnelles sur G dont le dénominateur est de la forme deti , pour un i ∈ Z≥0 .
Remarquer que ces fonctions sont définies partout sur G. Le but de l’exercice est de montrer que
les trois axiomes sont satisfaits.
(i) Montrer que C[G] satisfait axiomes (i) et (ii). [Indice: utiliser la formule de Cramer pour
décrire g 7→ xij (g −1 ).]
(ii) Montrer que si f ∈ C[G] a la propriété que
g · f = det(g)i f,
pour chaque g ∈ G, alors f = f (1G ) det−i .
(iii) Montrer que pour chaque f ∈ C[G], g ∈ G et 1 ≤ i, j ≤ n on a
X
n
∂f
∂(g −1 · f )
.
=
gri
g·
∂xij
∂xrj
r=1
(iv) S’inspirant sur la définition du déterminant définissons l’opérateur différentiel Ω par
X
∂n
Ω :=
sg(π)
∂x1π(1) . . . ∂xnπ(n)
π∈Sn
Montrer que pour chaque f ∈ C[G] et g ∈ G on a
g · Ω(g −1 · f ) = det(g)Ω(f ).
[Indice: utiliser l’analog de det M N = det M det N , où Ω est vu comme un ”déterminant”.]
(v) Montrer qu’il existe un constant cN tel que
ω(detN ) = cN detN −1 ,
et ensuite montrer que CN = NN+n−1!
−1! .
[Indice pour la deuxième partie. cN est le coefficient de (x11 . . . xnn )N −1 dans ω(detN ); cN est la
somme sur π ∈ Sn des coefficients de sg(π)(x11 . . . xnn )N −1 x1π(1) . . . xnπ(n) dans le produit


N
Y
X

sg(φi )x1φi (1) . . . xnφi (n)  ;
i=1
φi ∈Sn
cN est la somme sur π ∈ Sn des cardinalités des ensembles
{(φ1 , . . . , φN ) ∈ (Sn )N ; φ1 , . . . , φN disjoints et φ1 · · · φN = π};
cN est la cardinalité de l’ensemble
{(φ1 , . . . , φN ) ∈ (Sn )N ; φ1 , . . . , φN disjoints};
14
cN est
X
0≤λ1 ,...,λN ≤n;
P
i
λi =n
n
N + n − 1!
λ1 !λ2 ! . . . , λN ! =
.
λ1 , . . . , λ N
N − 1!
Fin de l’indice.]
(vi) Soit B le sous-module de C[G] engendré par l’ensemble
{g · f − f ; g ∈ G, f ∈ C[G]}.
Si C[G]/B 6= 0, choississons une application linéaire non-zéro φ : C[G]/B −
→ C. Montrer que
IG (f ) := φ(f + B)
défini une moyenne invariant à gauche sur C[G].
(vii) Pour montrer que les trois axiomes sont satisfaits, il suffit donc de montrer que 1 6= B.
Supposons que 1 ∈ B. Alors il existe fi ∈ C[G], gi ∈ G tels que :
X
1=
gi · fi − fi ;
i
alors ils existent des polynômes Fi ∈ C[X] et un N ≥ 0 tel que
X
detN =
(gi · Fi − (det gi )−N Fi ).
i
On peut supposer que les Fi sont homogènes de degré N n. Si N = 0 ça est impossible, parce que
si deg Fi = 0, alors Fi est constant, et donc gi · Fi = Fi et on obtient une équation 1 = 0. Donc on
suppose N > 0 est minimal. Mais applicant Ω on obtient une équation semblable, de degré N − 1.
Une contradiction avec la minimalité. Donner les détails de l’argument.
(viii) Montrer qu’il existe un nombre dénombrable de G-modules simples admissibles. Chaque
module admissible de dimension au maximum dénombrable est la somme directe de G-modules
simples.
15
1.13. Restriction et Induction. Fixons une classe de paires (G, C[G]) où G est un groupe et
où C[G] est une algèbre de fonctions sur G. Un morphisme φ : (G, C[G]) −
→ (K, C[K]) de paires
sera un homomorphisme de groupes φ : G −
→ K tel que pour chaque f ∈ C[K] la restriction
]
φ (f ) := f ◦ φ ∈ C[G].
Par exemple si on prend la classe des groupes continus avec l’algèbre des fonctions continues,
les morphismes sont les homomorphismes continus. Si on prend la classe des groupes algébriques
affines complexes avec l’algèbre des fonctions régulières, les morphismes sont exactement les homomorphismes des groupes algébriques.
Les algèbres C[G] ne satisfont pas nécessairement aux trois axiomes. Mais on peut définir la
notion de module admissible. Seulement les théorèmes de Maschke, etcetera ne resteront plus vrai
en général.
Lemme 1.5. Soient (H, C[H]) et (G, C[G]) et H < G. Supposons que pour chaque f ∈ C[G] la
restriction de f à H est une fonction dans C[H]. Alors en effet ResG
H V est un H-module admissible,
si V est un G-module admissible.
Preuve. Soit v ∈ V et ω ∈ V ∗ , alors g 7→ ω(g · v) est dans C[G]. Donc par l’hypothèse la restriction
h 7→ ω(h · v) est dans C[H]. Donc V est C[H]-admissible.
Si H < G est comme dans le lemme et U un H-module admissible, on voudrait induire U à un
G-module admissible.
Soit dim U < ∞. Une application F : G −
→ U sera appelé admissible, si pour chaque ω ∈ U ∗ la
fonction g 7→ ω(F (g)) est dans C[G]. On définit alors le module induit
IndG
→ U ; F est admissible, et ∀g ∈ G, h ∈ H : F (gh−1 ) = h · (F (g))}.
H U := {F : G −
Lemme 1.6. Si U est CH-admissible, alors IndG
H U est admissible pour C[G].
P
Preuve. Soit u1 , . . . , ud une base de U , avec la base duale u∗1 , . . . , u∗d . Alors F (g) = i u∗i (F (g))ui ,
rep )d , donc est admissible.
alors IndG
H U est un sous-module du module admissible (C[G]
Le théorème de Frobenius reste valide.
Exemple 1.4. Soit B < GL(n, C) le sous-groupe des matrices triangulaire supérieures, avec l’algèbre
C[B] := {f |B ; f ∈ C[GL(n, C)]}. Soit
Λ := {(λ1 , . . . , λn ) ∈ Zn ; λ1 ≥ λ2 ≥ . . . λn }
Pour chaque λ ∈ Λ on définit un B-module admissible Cλ de dimension un ou l’action de b =
(bij ) ∈ B est multiplication par le constant
bλ := bλ111 bλ222 . . . bλnnn .
∗
Définissons Vλ := IndG
B Cλ .
Let théorème de Borel-Weil dit que chaque Vλ est simple, Vλ ' Vµ si et seulement si λ = µ, et
si V est simple alors il existe un λ ∈ Λ et un isomorphisme V ' Vλ .
C’est une conséquence du théorème de point fixe de A. Borel: Soit V un GL(n, C)-module
simple admissible. Alors il existe un unique vecteur propre v ∈ V (à un scalaire près) pour tous
16
les opérateurs de B. (Ou, pour l’action de B sur l’espace projective P(V ) il existe un unique point
fixe si et seulement si V est simple pour GL(n, C)).
Donc
Vλ = {f ∈ C[GL(n, C)]; ∀g ∈ GL(n, C), b ∈ B : f (gb) = bλ f (g)}.
Si V = (Cn )∗ on écrit souvent S λ V = Vλ .
Le duale de Vλ est isomorphe à Vµ , où µ = (−λn , −λn−1 , . . . , −λ1 ). Par exemple si λ =
(1, 1, . . . , 1) alors Vλ = {c det; c ∈ C}, avec l’action g · det = det(g −1 ) det . Si λ = (1, 0, . . . , 0) alors
P
Vλ =< x11 , x21 , . . . , xn1 > avec l’action g · xj1 = i (g −1 )ji xi1 , donc isomorphe à (Cn )∗ . De même
V(m,0,...,0) ' S m (Cn )∗ , le module des fonctions polynomiales sur Cn , homogène de degré m.
Le G × G-module C[X]d des fonctions polyomiales de degré d sur G s’écrit comme
X
C[X]d =
SλV ⊗ SλV ∗,
λ`d
P
où la somme est sur les λ ∈ Λ où λn ≥ 0 et i λi = d (les partitions de n). (Cauchy)
Les classes de permutations de Sm sont aussi paramétrisées par les partitions de m. Le GL(n, C)×
Sm module sur M := V ⊗m est décomposable comme
X
V ⊗m =
S λ V ⊗ Uλ ,
λ`m
où {Uλ ; λ ` m} sont les CSn -modules simples. Soit A l’image de C GL(n, C)∗ dans End M , et B
l’image de CSm dans End M . Alors B = EndA = EndGL(n,C) M et A = EndB M = EndSm M .
(Schur)
Soit T le groupe des matrices diagonales dans GL(n, C). Le groupe Sn est isomorphe à NG T /T .
Donc pour V un GL(n, C)-module admissible, alors V T est un CSn -module. La collection {VλT ; λ `
n} est une collection de représentants de CSn -modules simples. (Kostant)
Considérons les coefficients des polynômess caractérsistique comme des fonctions centrales sur
GL(n, C). Plus précisement, définissons φ1 , . . . , φn par
det(t1 − g) = tn − φ1 (g)tn−1 + φ2 (g)tn−2 − . . . + (−1)n φn (g).
En particulier, φ1 (g) = tr(g) et φn (g) = det(g). Alors l’anneau des fonctions centrales de GL(n, C)
est
C[φ1 , φ2 , . . . , φn , φ−1
n ].
La restriction de GL(n, C) à U (n) induit un module continu Vλ pour U (n). Un théorème de
Weyl dit que les modules restent simples, non-isomorphes, et chaque module continu pour U (n) et
simple est isomorphe à un des Vλ . C’est une conséquence du fait que C[U (n)]rep ' C[GL(n, C)] (où
C[U (n)] sont les fonctions continues sur U (n) et C[GL(n, C] les fonctions régulières sur GL(n, C)
(”l’astuce unitaire de Weyl”).
L’isomorphisme C[U (n)]rep ' C[GL(n, C)] (avec les mêmes intégrales) donne qu’un U (n)-module
est admissible si et seulement si c’est un CU (n)rep,∗ -module si et seulement si c’est un C GL(n, C)rep,∗ module si et seulement si c’est un GL(n, C)-module admissible.
17
1.14. Frobenius et Schur.
Théorème 1.4 (Frobenius—Schur). Soit λ ∈ Λ. Alors
Z
χλ (g 2 )dg ∈ {−1, 0, 1}.
G
Vλ∗ ;
En fait, on obtient 0 ssi Vλ 6'
1 ssi Vλ admet une forme bilinéaire symétrique non-dégénérée
G-invariante; −1 ssi Vλ admet une forme bilinéaire anti-symétrique non-dégénérée G-invariante.
Preuve. Soit λ∗ ∈ Λ tel que Vλ∗ ' Vλ∗ . Fixons une base e1 , . . . , en de Vλ et la base duale e∗1 , . . . , e∗n
de Vλ∗ . On obtient
ρλ,ji (g) = ρλ∗ ,ij (g −1 ).
On obtient
Z
n Z
n Z
n Z
X
X
X
2
2
χλ (g )dg =
ρλ,ii (g )dg =
ρλ,ij (g)ρλ,ji (g)dg =
ρλ,ij (g)ρλ∗ ,ij (g −1 )dg =
G
i=1
G
i,j=1 G
=
n
X
i,j=1 G
(ρλ,ij ∗ ρλ∗ ,ij )(1G ).
i,j=1
Donc si λ 6= λ∗ on obtient 0.
Supposons λ = λ∗ , alors il existe un G-isomorphisme φ : Vλ ' Vλ∗ . Posons
(, ) : Vλ × Vλ −
→ C : (v1 , v2 ) := φ(v1 )(v2 ).
Alors (, ) est bilinéaire et non-dégénérée et G-invariante. Inversement, chaque forme bilinéaire,
non-dégénérée et G-invariante définit un G-isomorphisme Vλ ' Vλ∗ .
La décomposition Vλ ⊗ Vλ = S 2 Vλ ⊕ ∧2 Vλ et que la dimension de (Vλ ⊗ Vλ )G ' (Vλ∗ ⊗ Vλ )G '
EndG (Vλ ) est un par le lemme de Schur, il suit que soit dim S 2 Vλ = 1, ∧2 Vλ = 0 ou dim S 2 Vλ =
0, dim ∧2 Vλ = 1. Donc la forme (, ) est soit symétrique soit anti-symétrique.
Supposons la forme est symétrique, alors par l’algèbre linéaire il existe une base orthonormale
e1 , . . . , en tel que (ei , ej ) = δij . Sur cette base chaque g ∈ G est représenté par une matrice
orthogonale, donc ρλ,ji (g) = ρλ,ij (g −1 ) et obtient comme valeur
n Z
n
X
X
1
ρλ,ij (g)ρλ,ij (g −1 )dg =
ρλ,ii (1) = 1.
n
G
i,j=1
i=1
Supposons la forme est anti-symétrique alors par l’algèbre linéaire il suit que n = 2m est pair et
qu’il existe une base e1 , . . . , en telle que (ei , ej ) = 0 si i + j 6= n, (ei , en−i ) = −1 si 1 ≤ i ≤ m et
(ei , en−i ) = −1 si m + 1 ≤ i ≤ n.
On obtient
ρλ,ij (g) = ±(g · ej , en−i ) = ±(ej , g −1 · en−i ) = ±(g −1 · en−i , ej ) = ±ρλ,n−j,n−i (g −1 ).
Le signe est −1 ssi i ≤ m, j > m ou i < m, j ≤ m. On obtient comme valeur
n Z
n
X
X
1
ρλ,ij (g)(±ρλ,n−i,n−j (g −1 ))dg =
− ρλ,ii (1) = −1.
n
G
i,j=1
i=1
18
2. Exemple
Soit {Gi ; i ∈ Z≥0 } un système de groupes finis, et φi : Gi −
→ Gi−1 un système d’épimorphsimes,
pour i > 0. On définit le groupe
Y
G := {(gi )i≥0 ∈
Gi ; ∀i > 0 : φi (gi ) = gi−1 }
i
La multiplication est définie comme
(gi )i≥0 · (gi0 )i≥0 := (gi gi0 )i≥0 .
Pour chaque n ≥ 0 on a un homomorphisme de groupes
ψn : G −
→ Gn : (gi )i≥0 7→ gn .
On définit maintenant une algèbre de fonctions sur G par
C[G] := {f : G −
→ C; ∃n ≥ 0 : ∃fn : Gn −
→ C : f = fn ◦ ψn }.
On définit l’intégrale par
Z
Z
f (g)dg :=
G
fn (g)dg,
Gn
R
où n ≥ 0 et fn : C[Gn ] tels que f = fn ◦ ψn . Ici, G est la moyenne le groupe fini Gn . La définition
ne dépend pas du choix de n.
Les axiomes sont satisfaits.
Soit p un nombre premier. Prenons Gi := Z/(pi ) et φi la projection naturelle. Alors G est
l’anneau des entiers p-adiques. Soit n > 0 et η une pn -racine d’unité primitive de C. Alors
Z/pn −
→ C× : a + (pn ) 7→ η a
est une représentation de Z/(pn ), donc une représentation admissible de G = Zˆp . Tous les
représentations simple admissible de G sont de cette forme. Donc λ est l’ensemble des pn -th
racines d’unité primitives, pour chaque n ≥ 0.
3. Invariants
Soit V un module admissible de dimension finie. Nous considérons l’algèbre C[V ] des fonctions
polynomiales sur V . Si x1 , . . . , xn sont les fonctions coordonnées, alors C[V ] = C[x1 , . . . , xn ],
l’algèbre de polynômes en x1 , . . . , xn . L’action naturelle
(g · f )(v) := f (g −1 · v)
sur C[V ] est admissible, les fonctions homogènes de degré d est un sous-module admissible de
dimension finie isomorphe à S i V ∗ .
On considère le sous-algèbre C[V ]G des fonctions polynomiales invariantes
C[V ]G = {f ∈ C[V ]; ∀g ∈ G : f = g · f }.
Il est facile à voir que c’est en fait une algèbre. La question classique est si elle a un nombre fini
de générateurs. Sous la condition que V est admissible la réponse est oui.
19
Théorème 3.1 (Hilbert). Supposons que V est un G-module admissible de dimension finie. Alors
le sous-algèbre des invariants C[V ]G a un nombre fini de générateurs, disons F1 , . . . , FN :
C[V ]G = C[F1 , . . . , FN ].
Alors pour chaque invariant f ∈ C[V ]G il existe un polynôme en N variables Φ(T1 , . . . , TN ) ∈
C[T1 , . . . , TN ] tel que f = Φ(F1 , F2 , . . . , FN ). En gén’eral, Φ n’est pas unique.
Preuve. Hilbert a montré que chaque idéal de C[V ] est engendré par un nombre fini d’éléments.
En particulier l’idéal I engendré par les invariants homogènes non-constants. Alors il existent des
invariants homogènes de degrés positifs F1 , . . . , FN qui engendrent I comme idéal: chaque f ∈ I
s’écrit comme
f = f1 F1 + f2 F2 + . . . + fN FN ,
où f1 , . . . , fN ∈ C[V ].
Par induction sur le degré, on va montrer que chaque invariant homogène f est un polynôme en
F1 , . . . , FN . Si le degré est 0, alors f est une fonction constante. On a f ∈ I, donc f s’écrit comme
f = f1 F1 + f2 F2 + . . . + fN FN .
On peut supposer que les fi sont aussi homogène tels que deg fi + deg Fi = deg f , donc deg fi <
deg f .
C[V ] étant un module admissible, nous avons une G-projection pG sur les invariants. Donc
f = pG (f ) = pG (f1 F1 ) + pG (f2 F2 ) + . . . + pG (fN FN ).
On a
Z
Z
Z
x · (fi Fi )dx =
pG (fi Fi ) =
G
(x · fi )Fi dx =
G
(x · fi )dx Fi = pG (fi )Fi (Vérifier!)
G
Donc on obtient
f = pG (f1 )F1 + pG (f2 )F2 + . . . + pG (fN )FN ,
où pG (fi ) est invariant de degré deg fi < deg f , donc par induction un polynôme en F1 , . . . , FN .
Alors par induction f est aussi un polynôme en F1 , . . . , FN . Pour finir, on remarque que si f est
invariant aussi chaque composante homogène est invariante.
On définit la série de Hilbert H(C[V ]G ; t) de C[V ]G par
∞
X
H(C[V ]G ; t) :=
i
dim C[V ]G
i t .
i=0
Dans le cas spécial ou le groupe est trivial on a la formule
H(C[V ]; t) =
1
,
(1 − t)n
où n = dim V .
Théorème 3.2 (Molien). On a une formule
G
Z
H(C[V ] ; t) =
G
1
dg,
detV ∗ (1 − tg)
20
R
R
où pour f ∈ C[G] on définit G f (x)ti dx := G f (x)dx ti , et detV ∗ (1 − tg) = det(1 − tρV ∗ (g)), avec
ρV ∗ la représentation sur V ∗ .
En particulier, si le groupe est fini
1 X
1
H(C[V ]G ; t) =
.
|G|
detV ∗ (1 − tg)
g∈G
Exemple 3.1. S3 agit sur C3 par les matrices de permutation. Par exemple, pour la permutation
(12) on a


1 −t
0


detV ∗ (1 − t(12)) = det −t 1
0  = (1 − t2 )(1 − t).
0
0 1−t
On obtient
1
H(C[V ] ; t) =
6
G
1
3
2
+
+
(1 − t)3 (1 − t2 )(1 − t) (1 − t3 )
=
1
.
(1 − t)(1 − t2 )(1 − t3 )
4. Algèbre de Hopf et la complexification de G
Soit G un groupe avec une algèbre C[G] de fonctions satisfaisant aux axiomes. Nous avons vu
qu’on peut remplacer l’algèbre C[G] par A := C[G]rep sans changer la théorie des représentations
admissibles. Dans cette section nous allons montrer comment on peut enlargir le groupe G vers
un groupe GC (la complexification de G) sans changer l’algèbre et sans changer la théorie des
représentations. Chaque représentation admissible ρ : G −
→ GL(V ) a une unique extension vers
une représentation admissible de GC . La complexification de S 1 est par exemple C× . L’idée est la
suivante. Chaque g ∈ G induit un morphisme d’algèbres
evg : A −
→ C : f 7→ f (g).
Nous allons montrer que l’ensemble
GC := {φ : A −
→ C; φ est homomorphisme d’algèbres}
a une structure de groupe. Pour montrer qu’il y a une multiplication qui est associative, etcetera,
on va montrer que A a une co-multiplication, qui est co-associative, etcetera.
4.1. Hopf. Sur l’algèbre commutative A := C[G]rep on va mettre la structure d’une algèbre de
Hopf.
Soit V un G-module admissible de dimension finie, v ∈ V , ω ∈ V ∗ . Alors fω,v : g 7→ ω(g · v)
est une fonction représentative, et chaque fonction représentative est de cette forme. On peut
interpreter v ∈ V comme un élément de (V ∗ )∗ , donc fv,ω a aussi un sens. Soit fν,w une autre
fonction représentative, où w ∈ W , ν ∈ W ∗ . On a
fω,v fν,w = fω⊗ν,v⊗w .
Fixons une base e1 , . . . , en de V .
On définit maintenant la co-multiplication
∆:A−
→ A ⊗ A : fω,v 7→
X
j
fω,ej ⊗ fe∗j ,v ;
21
l’application co-unité
: A−
→ C : fω,v 7→ ω(v)
et l’antipode
S: A−
→ A : fω,v 7→ fv,ω .
Théorème 4.1. (i) ∆, et S sont des homomorphismes d’algèbres.
(ii) ∆ est co-associatif :
(∆ ⊗ 1A ) ◦ ∆ = (1A ⊗ ∆) ◦ ∆.
(iii) est un co-unité :
(1A ⊗ ) ◦ ∆ = ( ⊗ 1A ) ◦ ∆ = 1A .
(iv) Si µ : A ⊗ A −
→ A : f1 ⊗ f2 7→ f1 f2 est la multiplication de fonctions on a pour chaque
f ∈ A:
µ ((1A ⊗ S) ◦ ∆(f )) = µ ((S ⊗ 1A ) ◦ ∆(f )) = (f ) ∈ A.
Preuve. (i) Soient fω,v et fν,w deux fonctions représentatives, où v ∈ V et w ∈ W . Fixons une base
e1 , . . . , en de V et une base f1 , . . . , fm de W . On a
X
X
∆(fω,v )∆(fν,w ) =
(fω,ei ⊗ fe∗i ,v ) · (fν,fr ⊗ ffr∗ ,w ) =
fω,ei fν,fr ⊗ fe∗i ,v ffr∗ ,w .
i,r
i,r
Aussi ei ⊗ fj est une base de V ⊗ S, donc
X
X
∆(fω⊗ν,v⊗w ) =
fω⊗ν,ei ⊗fr ⊗ fe∗i ⊗fr∗ ,v⊗w =
fω,ei fν,fr ⊗ fe∗i ,v ffr∗ ,w .
i,r
i,r
Alors ∆ est un homomorphisme d’algèbres.
Puis
(fω,v )(fν,w ) = ω(v)ν(w) = (ω ⊗ ν)(v ⊗ w) = (fω⊗ν,v⊗w ) = (fω,v fν,w );
ce qui montre que est aussi un morphisme d’algèbres.
Finalement pour l’antipode :
S(fω,v fν,w ) = S(fω⊗ν,v⊗w ) = fv⊗w,ω⊗ν = fv,ω fw,ν = S(fω,v )S(fν,w ).
(ii)
(∆ ⊗ 1A ) ◦ ∆(fω,v ) =
X
(∆ ⊗ 1A )(fw,er ⊗ fe∗r ,v )
r
=
X
(fω,es ⊗ fe∗s ,er ) ⊗ fe∗r ,v
rs
=
X
fω,es ⊗ (fe∗s ,er ⊗ fe∗r ,v )
rs
=
X
(1A ⊗ ∆)(fω,es ⊗ fe∗s ,v )
s
= (1A ⊗ ∆) ◦ ∆(fω,v )
(iii)
(1A ⊗ ) ◦ ∆(fω,v ) =
X
r
(1A ⊗ )(fω,er ⊗ fe∗r ,v ) =
X
r
fω,er e∗r (v) = fω,v .
22
(iv) On a
g · ej =
X
[g]ij ei , et g −1 · e∗j =
X
i
[g]ji e∗i ,
i
donc
µ ((1A ⊗ S) ◦ ∆(fω,v )) (g) =
X
(fω,ej fv,e∗j )(g)
j
=
X
=
X
=
X
ω(g · ej )v(g · e∗j )
j
[g]rj ω(er )(g · e∗j )(v) =
X
X
ω(er )(g · ( [g]rj e∗j ))(v)
r
jr
j
ω(er )(g · g −1 · e∗r (v))
r
= ω(v)
= (fω,v ).
4.2. La multiplication de GC . Soit m1 , m2 ∈ GC alors
m1 · m2 ∈ GC
est défini par
m1 · m2 := (m1 ⊗ m2 ) ◦ ∆.
P
P
Où si ∆(f ) = i hi ⊗ ki alors (m1 · m2 )(f ) = i m1 (hi )m2 (ki ). Étant une composition de morphismes d’algèbres, m1 · m2 est aussi un morphisme d’algèbres, donc m1 · m2 ∈ GC .
Théorème 4.2. (i) La multiplication sur GC on vient de définir donne une structure de groupe
sur GC .
(ii) L’application
ev : G −
→ GC : g 7→ evg
est un homomorphisme de groupes, où
evg (f ) := f (g).
Preuve. (i) ∆ est co-associative, donc l’associativité de · :
(m1 · m2 ) · m3 = ((m1 · m2 ) ⊗ m3 ) ◦ ∆ = (m1 ⊗ m2 ⊗ m3 )(∆ ⊗ 1) ◦ ∆
= (m1 ⊗ m2 ⊗ m3 )(1 ⊗ ∆) ◦ ∆ = (m1 ⊗ (m2 · m3 )) ◦ ∆
= m1 · (m2 · m3 ).
Le neutre de GC est : A −
→ C. On vérifie :
m · = (m ⊗ ) ◦ ∆ = m ◦ (1A ⊗ ) ◦ ∆ = m.
23
L’inverse de m est m ◦ S :
(m · (m ◦ S))(fω,v ) = (m ⊗ m) ◦ (1 ⊗ S) ◦ ∆(fω,v )
X
=
m(fω,ej )m(fe∗j ,v )
j

= m

X
fω,ej fe∗j ,v 
j
= m (ω(v)1A )
= ω(v) (parce que m(1) = 1)
= (fω,v ).
Donc en effet, GC est un groupe.
(ii) Soient g1 , g2 ∈ G.
X
(evg1 · evg2 )(fω,v ) =
evg1 (fω,ej ) evg2 (fe∗j ,v )
j
=
X
=
X
=
X
ω(g1 · ej )e∗j (g2 · v)
j
[g1 ]rj ω(er )e∗j (g2 · v) =
X
X
ω(er )( [g1 ]rj e∗j )(g2 · v)
r
j,r
ω(er )(g1−1 · e∗r )(g2 · v) =
r
j
X
ω(er )e∗r (g1 g2 · v)
r
= ω(g1 g2 · v)
= evg1 g2 (fω,v ).
Alors ev est un homomorphisme de groupes.
4.3. Fonctions sur GC . On peut considérer chaque f ∈ A comme une fonction sur GC par la
formule
f (m) := m(f ),
où m ∈ GC . Les fonctions séparent les points de GC , dans le sens suivant. Si m1 6= m2 alors il
existe un f ∈ A telle que m1 (f ) 6= m2 (f ), donc
f (m1 ) 6= f (m2 ).
Aussi pour g ∈ G on a
f (evg ) = evg (f ) = f (g).
Proposition 4.1. (i) Si ρC : GC −
→ GL(V ) est une représentation admissible, alors la restriction
ρC ◦ ev : G −
→ GL(V ) est aussi admissible.
(ii) Soit ρ : G −
→ GL(V ) une représentation admissible. Alors il existe une unique extension
ρC : G C −
→ GL(V ) vers une représentation admissible, telle que ρ = ρC ◦ ev.
24
Preuve. (i) est clair. (ii) Soit v ∈ V . Il existe un sous-module W ⊂ V qui est de dimension finie et
v ∈ W . Soit e1 , . . . , en une base de W . Alors on définit pour m ∈ GC
X
m · v :=
m(fe∗i ,v )ei .
i
Si m = evg alors
evg ·v =
X
evg (fe∗i ,v )ei =
i
X
e∗i (g · v)ei = g · v.
i
Si m1 , m2 ∈ GC , alors
m1 · (m2 · v) = m1 ·
X
m2 (fe∗i ,v )ei =
X
i
m1 (fe∗j ,ei )m2 (fe∗i ,v )ej .
ij
De l’autre côté
(m1 · m2 ) · v =
X
(m1 · m2 )(fe∗j ,v )ej =
X
j
m1 (fe∗j ,ei )m2 (fe∗i ,v )ej .
ij
Ainsi on obtient une action linéaire de GC sur V , d’où une représentation ρC .
Alors les théories de la représentation pour G et GC sont égales. On prend la même intégrale
Z
Z
f (m)dm :=
f (x)dx.
GC
G
Et les axiomes sont satisfaites.
4.4. Co-modules. Les modules admissible correspondent aux co-modules pour l’algèbre de Hopf
C[GC ] = C[G]rep .
Un C[GC ]-comodule est un espace vectoriel V avec une application linéaire α : V −
→ C[GC ] ⊗ V
satisfaisant deux axiomes
(1)
( ⊗ 1) ◦ α = 1
(2)
(α ⊗ 1) ◦ α = ∆ ◦ α
Il est un peu surprenant que les comodules sont toujours localement de dimension finie.
Proposition 4.2. Soit (V, α) un C[GC ]-comodule et V1 ⊂ V2 un sous-espace linéaire de dimension
finie. Alors il existe un espace linéaire V1 ⊂ V2 ⊂ V tel que α(V2 ) ⊂ C[GC ] ⊗ V2 , i.e., un sous
comodule de V .
Preuve. Posons H := C[GC ], H ∗ := HomC (H, C) son espace dual et
<, >: H ∗ ⊗ H −
→ C : µ ⊗ f 7→ µ(f ).
Et définissons aussi
<, >: H ∗ ⊗ H ∗ ⊗ H ⊗ H −
→ C : µ1 ⊗ µ2 ⊗ f1 ⊗ f2 7→ µ1 (f1 )µ2 (f2 ).
Si γ ∈ H ∗ ⊗ H ∗ alors l’application
∆∗ γ : f 7→<, > (γ ⊗ ∆(f ))
est linéaire, donc ∆∗ γ ∈ H ∗ .
On définit maintenant l’application composée :
25
ω = (<, > ⊗1) ◦ (1 ⊗ α) : H ∗ ⊗ V1 −
→ H∗ ⊗ H ⊗ V −
→ V.
L’image de ω est V2 .
(a) dim V2 < ∞.
Soit e1 , . . . , en une base de V1 . Écrivons
α(ei ) :=
X
fij ⊗ vij ,
j
où fij ∈ H et vij ∈ V , et la somme est finie. Si µ ∈ H ∗ , alors
X
ω(µ ⊗ ei ) =
µ(fij )vij .
j
Donc V2 est dans le sous-espace de dimension finie engendré par les vij .
(b) V1 ⊂ V2 .
On a que ∈ H ∗ , donc pour chaque v ∈ V1 on a
ω( ⊗ v) = (<, > ⊗1)( ⊗ α(v) = ( ⊗ 1) ◦ α(v) = 1(v) = v,
par l’axiome (1) de α. Donc v ∈ V2 .
(c) α(V2 ) ⊂ H ⊗ V2 .
Soit v2 ∈ V2 , alors est de la forme
X
v2 = ω(
µi ⊗ v1i
i
H∗
où µi ∈
et v1i ∈ V1 . Pour montrer que α(v2 ) ∈ H⊗V2 il suffit donc de montrer que α(ω(µi ⊗v1i ) ∈
H ⊗ V2 . Donc supposons que v2 = ω(µ ⊗ v), où µ ∈ H ∗ , v ∈ V1 .
On a α(v2 ) ∈ H ⊗ V2 si et seulement si pour chaque µ0 ∈ H ∗ on a (<, > ⊗1)(µ0 ⊗ α(v2 )) ∈ V2 .
(Pour montrer ça il faut utiliser que si f1 , . . . , fm ∈ H sont linéairement indépendents, alors il existe
un µ0 ∈ H ∗ tel que µ0 (f1 ) = 1 et µ0 (fi ) = 0, i > 0.)
P
P
Soit α(v) = i fi ⊗ wi , α(wi ) = j hij ⊗ uij . On vérifie maintenant :
(µ0 ⊗ 1)(α(v2 )) = (µ0 ⊗ 1)(α((<, > ⊗1)(µ ⊗ α(v)))
X
= (µ0 ⊗ 1)(α((<, > ⊗1)(µ ⊗
fi ⊗ wi ))
i
=
X
=
X
=
X
0
µ(fi )(µ ⊗ 1)(α(wi ))
i
X
µ(fi )(µ0 ⊗ 1)(
hij ⊗ uij )
ij
j
µ(fi )µ0 (hij )uij
ij
= (<, > ⊗1)(µ ⊗ µ0 ⊗ (1 ⊗ α)α(v))
= (<, > ⊗1)(µ ⊗ µ0 ⊗ (∆ ⊗ 1)α(v)) par axiome (2)
= (∆∗ (µ ⊗ µ0 ) ⊗ 1)α(v)
= ω(∆∗ (µ ⊗ µ0 ) ⊗ v) ∈ V2 .
26
Alors ça finit la preuve.
27
Département de mathématiques et de statistique, Université de Montréal, C.P. 6128, succursale
Centre-ville, Montréal (Québec), Canada H3C 3J7
E-mail address: [email protected]