LES ENDOMORPHISMES k-FINIS DES MODULES DE WHITTAKER

Bull. Soc. math. France,
117, 1989, p. 451–477.
LES ENDOMORPHISMES k-FINIS DES
MODULES DE WHITTAKER
PAR
Aboubeker ZAHID (*)
R´
ESUM´ E.—Soitgune alg`ebre de Lie semi-simple complexe, Wh un mo-
dule de Whittaker simple. On donne une d´ecomposition de l’alg`ebre des endomor-
phismes k-finis, de Wh dans Wh, en somme directe de modules de Harish-Chandra
simples, suivant le groupe P(R)/Q(R). Ceci ´etant fait, pour un choix tr`es particulier
du caract`ere central du module de Whittaker, on peut par un principe de translation
par les ´el´ements de P(R), r´ecup´erer le r´esultat pour les autres caract`eres. On obtient
en particulier une famille de suralg`ebres k-finis de l’alg`ebre enveloppante de g.Ces
suralg`ebres semblent tr`es int´eressantes `a´etudier ; en effet on obtient dans le cas de
g=sl
2(C), soit l’alg`ebre de Weyl A1, soit en translatant, l’alg`ebre des op´erateurs dif-
f´erentiels sur une courbe singuli`ere. Dans le cas de g=sl
3(C), on obtient le quotient
de l’alg`ebre enveloppante de l’alg`ebre de Lie exceptionnelle de dimension 14, par un
id´eal primitif compl`etement premier.
ABSTRACT.—Letgbe a complex semisimple Lie algebra, and let Wh a simple
Whittaker module. We give a decomposition of the algebra of k-finite vectors of
EndC(Wh), as direct sum of Harish-chandra submodules. We then obtain a family of
over rings of certain primitives quotients of enveloping algebras. In the cases g=sl
2(C)
and g=sl
3(C) the structure of this rings is uniquely determined by their structure of
g-module.
Je ne veux pas manquer d’exprimer ici ma tr`es grande reconnaissance
`aA.J
OSEPH, qui a dirig´eetencourag´e mon travail avec beaucoup de
patience et d’attention.
Je remercie aussi C. MŒGLIN pour les discussions utiles que j’ai eu avec
elle.
Introduction
1.1.—Soientgune alg`ebre de Lie semi-simple complexe, hune sous-
alg`ebre de Cartan de g.SoientRun syst`eme de racines de (g,h)et
R+⊂Rl’ensemble des racines positives, B⊂R+l’ensemble des racines
(*) Texte re¸cu le 9 janvier ,r´evis´ele12mai.
A. ZAHID, 1 boulevard Jourdan, 75690 Paris Cedex 14, France.
BULLETINDELASOCI
´
ET´ EMATH
´
EMATIQUE DE FRANCE 0037-9484/1989/451/$ 5.00
c
Soci´et´emath´ematique de France

452 A. ZAHID
simples, ρla demi-somme des racines positives, Sα∈Aut(h∗)lar´eflexion
correspondante `alaracineα∈Ret Wle groupe (de Weyl) engendr´epar
les Sα,α∈B.
Soit Xαl’´el´ement de la base de Chevalley correspondant `alaracineα
et soient :
n+=
α∈R+
CXα,n−=
α∈R+
CX−α,b=h⊕n+.
On note X→ tXl’antiautomorphisme de Chevalley d´efini par les
conditions tXα=X−αpour α∈R.
1.2.—OnnoteQ(R)=ZR l’ensemble des poids radiciels de R,o`u
P(R) est l’ensemble des poids de R
P(R)=λ∈h∗:2
(λ, α)
(α, α)∈Z,∀α∈R·
Pour tout α∈R,onnoteˇα=2α/(α, α). On dit que λ∈h∗est r´egulier
(resp. dominant)si(λ, α)=0(resp.si(λ, ˇα)/∈{−1,−2,···}) pour tout
α∈R+.OnnoteP(R)+, l’ensemble des poids dominants de P(R). Pour
tout λ∈h∗,onposeRλ={α∈R:2(α, λ)/(α, α)∈Z}.SiB=
{α1,...,α
}d´esigne une base de R,onnotera{1,..., }, la base form´ee
par les poids fondamentaux correspondants. On a Q(R)⊂P(R)eton
consid`erera P(R)/Q(R) comme un groupe additif. Les repr´esentants dans
P(R)des´el´ements non nuls de P(R)/Q(R) seront toujours choisis parmi
les itels que 1 ≤i≤.
1.3. — Pour tout λ∈h∗,soitM(λ) le module de Verma de plus
haut poids λ−ρet L(λ) l’unique sous-quotient simple de M(λ). On
d´esigne par χλle caract`ere central de M(λ). Soit gl’ensemble des classes
d’´equivalence de g-modules simples de dimension finie. L’application qui,
`atoutλ∈P(R)+, associe la classe d’isomorphisme [L(λ+ρ)] des
g-modules simples de dimension finie et de plus haut poids λ, est une
bijection de P(R)+sur g.OnnoteE(λ)unrepr´esentant de [L(λ+ρ)].
Si Vest un g-module, on notera par Vµle sous-espace de poids µde V.
1.4.—SoitU(g) l’alg`ebre enveloppante de get soient Z(g) le centre
de U(g), Max Z(g) l’ensemble des id´eaux maximaux de Z(g).
Soit u→ˇul’antiautomorphisme principal de U(g). Si Met Nsont deux
g-modules alors HomC(M,N)estunU(g)⊗U(g)-module sous l’action
(a⊗b)·x(m)=ax(ˇ
bm)
TOME 117 — 1989 — No4

ENDOMORPHISMES K-FINIS DES MODULES DE WHITTAKER 453
pour tous aet bdans U(g), xdans HomC(M, N)etmdans M.
On identifie U(g)⊗U(g)avecU(g×g). Soit j:g→g×gd´efini par
j(X)=(X, X),∀X∈g.
On pose k=j(g), kest alors isomorphe `ag, et est donc semi-simple.
On d´efinit le module des vecteurs k-finis de HomC(M,N)par
L(M,N)=x∈HomC(M,N):dim
CU(k)x<∞·
On v´erifie facilement, que L(M,N)estunU(g)⊗U(g)-sous-module de
HomC(M,N).
1.5.—SoitVun U(g)⊗U(g)-module et soit Eun k-module simple de
dimension finie. On peut consid´erer Vcomme un k-module et on d´esignera
par [V:E]kla multiplicit´edeEdans une suite de Jordan-H¨older de V.
Comme kest semi-simple on a :
[V:E]k=dimHom
k(E,V ).
On dit que Vest un module de Harish-Chandra pour la paire (g⊗g,k)si:
(i) dimC(Z(g)⊗Z(g)/AnnZ(g)⊗Z(g)V)<∞;
(ii) dimCU(k)v<∞, pour tout v∈V.
Puisque kest semi-simple, ceci ´equivaut `adirequeVest somme directe
de U(k)-sous-modules simples de dimensions finies de Vet on impose :
(iii) [V:E]k<∞pour tout U(k)-module simple E.
On notera par H,lacat´egorie des modules de Harish-Chandra. Les
objets de Hsont de longueur finie (cf. [1, 5.7]). Lorsque Met Nsont
deux U(g)-modules de longueurs finies, alors L(M,N) est un module de
Harish-Chandra (cf. [1, 6.2]).
1.6.—Onidentifieget kgrˆace `a l’isomorphisme jde 1.4, on a alors
k=E(λ):λ∈P(R)+·
D’autre part, on peut ´ecrire kcomme r´eunion disjointe :
k=
γ∈P(R)/Q(R)
Cγ
:= 
γ∈P(R)/Q(R)E(λ):λ∈P(R)+∩(γ+Q(R)·
BULLETINDELASOCI
´
ET´ EMATH
´
EMATIQUE DE FRANCE

454 A. ZAHID
Pour chaque module de Harish-Chandra Vet pour tout ´el´ement
γ∈P(R)/Q(R), on d´efinit la composante Vγde Vcomme ´etant la
somme directe des U(k)-sous-modules simples de dimensions finies, de
type appartenant `aCγ.D’apr`es (cf. [10, 3.7]) Vγest un U(g)⊗U(g)-sous-
module de V; de plus il est clair que Vγest un module de Harish-Chandra.
En particulier, si Met Nsont deux U(g)-modules simples, on a la
d´ecomposition :
L(M,N)= 
γ∈P(R)/Q(R)
L(M,N)γ
en somme directe de U(g)-sous-bimodules.
2. Modules de Whittaker
2.1.—Soitη:n+→Cun homomorphisme d’alg`ebres de Lie tel
que η(Xα)= 0 pour tout α∈B. Cet homomorphisme se prolonge en
un homomorphisme, not´eencoreη,deU(n+)dansC.OnnoteKerηson
noyau dans U(n+). Soit Vun U(g)-module. Un vecteur w∈Vest appel´e
vecteur de Whittaker si
X·w=η(X)w, ∀X∈n+.
Un U(g)-module Vest appel´emodule de Whittaker s’il est engendr´e
par un vecteur de Whittaker w. On a alors :
V=U(g)·w.
Soit Iwl’annulateur de wdans U(g)ona:
VU(g)/Iw.
D’autre part il est clair que :
U(g)Ann
Z(g)V+U(g)Kerη⊂Iw.
D’apr`es [11, 3.1], on a en fait ´egalit´e et tout module de Whittaker est
alors d´etermin´e, `a isomorphisme pr`es, par son annulateur dans Z(g), d’o`u
une bijection entre l’ensemble des classes d’isomorphismes de modules de
Whittaker et l’ensemble des id´eaux de Z(g)(cf. [11, 3.2]). De plus, si V
est un module de Whittaker, il existe une bijection, entre les sous-modules
de V,etlesid´eaux de Z(g)contenantAnn
Z(g)V(cf. [11, 3.7]). Donc Vest
TOME 117 — 1989 — No4

ENDOMORPHISMES K-FINIS DES MODULES DE WHITTAKER 455
un module de Whittaker simple si et seulement si AnnZ(g)V∈Max Z(g)
(cf. [11, th´eor`eme 3.6.1]).
On d´esigne par Wh l’ensemble des classes d’isomorphismes des modules
de Whittaker simples. Pour chaque λ∈h∗,soit
λl’orbite de λsous l’action
de W.Onconsid`ere :
V=U(g)/U(g)Kerχλ+U(g)Kerη,
muni de la repr´esentation r´eguli`ere gauche ; il est clair que Vest un
module de Whittaker. D’autre part Vest simple, puisque Ker χλest un
id´eal maximal de Z(g). On note alors Wh( λ), la classe d’isomorphisme
de V. L’application de h∗/W dans Wh, qui `a
λassocie Wh( λ), est
alors une bijection; en effet ceci r´esulte de ce qui pr´ec`edeetdufaitque
λ→AnnZ(g)Wh(
λ)=Kerχλest une bijection de h∗/W sur Max Z(g)
(cf. [4, 7.4.7, 7.4.8]).
2.2.—SoitEun g-module simple de dimension finie n.Ond´esigne
par Ω(E), l’ensemble des poids de E. On a alors :
Th´ eor` eme (cf. [11, 4.6]).—Le g-module E⊗Wh( λ)poss`ede une suite
de Jordan-H¨older de longueur n, avec des quotients simples isomorphes `a
Wh((λ+ν)),o`uν∈Ω(E).
3. Quelques propri´et´es des racines d’une
alg`ebre de Lie semi-simple
(Pour toutes les notations, concernant ce paragraphe, voir (cf.[2]).)
3.1.—SoitHun sous-groupe de P(R)/Q(R), il existe un syst`eme
de repr´esentants not´eH, tel que les ´el´ements non nuls de Haient
pour repr´esentants des poids fondamentaux. Ce choix particulier sera
toujours adopt´eparlasuite.Ond´efinit alors, pour tout sous-groupe H
de P(R)/Q(R), l’´el´ement µHde h∗par :
µH=1
|H|
∈H
.
Proposition. — Il existe un homomorphisme de groupes
φ:P(R)/Q(R)−→ W
v´erifiant, pour tout sous-groupe Hde P(R)/Q(R), les propri´et´es sui-
vantes :
BULLETINDELASOCI
´
ET´ EMATH
´
EMATIQUE DE FRANCE