as a PDF

Front d'onde des representations des groupes classiques p -adiques
C Moeglin
American Journal of Mathematics, Volume 118, Number 6, December
1996, pp. 1313-1346 (Article)
Published by The Johns Hopkins University Press
DOI: 10.1353/ajm.1996.0051
For additional information about this article
http://muse.jhu.edu/journals/ajm/summary/v118/118.6moeglin.html
Access provided by Penn State Univ Libraries (18 Apr 2014 06:10 GMT)
FRONT D’ONDE DES REPRÉSENTATIONS DES GROUPES
CLASSIQUES p-ADIQUES
By C. MŒGLIN
Résumé. Dans cet article, on rappelle la définition algébrique du front d’onde d’une représentation
lisse d’un groupe p-adique, donnée par Kawanaka. On en donne quelques propriétés; en particulier
pour les groupes classiques p-adiques, on montre que ce front d’onde ne contient que des orbites
unipotentes spéciales. On termine en montrant que si ce front d’onde est induit, dans certains cas,
cela entraine que la représentation est elle aussi induite.
Soit G un groupe algébrique, sur un corps p-adique, F . Définissons d’abord
ce qu’est le front d’onde d’une représentation lisse de longueur finie. Comme
on le rappellera, cela peut en partie se définir avec le développement asymptotique du caractère de la représentation en l’élément neutre, mais nous suivons
ici Kawanaka [Ka] qui en a donné une définition algébrique plus riche. Soit U
une orbite unipotente de G. Soit u 2 U , on note CG (u) le centralisateur de u
dans G et u CG (u) le radical unipotent de ce groupe. La théorie des SL2 -triplets
(Kostant [Ko]) permet d’associer canoniquement à tout élément u 2 U une classe
de conjugaison sous u CG (u), de sous-groupe unipotent de G. Soit N dans cette
classe; la fonction u définie sur N par (tr est une forme bilinéaire non dégénérée
et équivariante sur g et est un caractère complexe, lisse, de F ):
8n 2 N ,
u (n) =
tr (log u)(log n)
soit est un caractère de N et on pose N 0 = N soit il existe un sous-groupe N 0 de
N , canoniquement défini tel que u restreinte à N 0 est un caractère stable par N
et le groupe:
Hu := N = KerN 0 u
est un groupe d’Heisenberg de centre N 0 = KerN 0 u . On note Su la representation
lisse irréductible de Hu de caractère central u . La distinction entre les deux cas,
dépend de l’orbite U et non de N dans sa classe. De plus, il existe un sous-groupe
N (u), de C (u) stabilisant N et donc et N 0 vérifiant:
réductif maximal, noté CG
G
u
N
CG (u) = CG
(u) u CG (u).
Manuscript received July 1, 1994; revised June 4, 1996.
American Journal of Mathematics 118 (1996), 1313–1346.
1313
1314
C. MŒGLIN
On pose:
A(u) = CG (u)= u CG (u)
N (u) et ainsi de faire opérer
et la propriété ci-dessus permet d’identifier A(u) et CG
0
A(u) sur N , N action stabilisant u et se relevant en une représentation projective
sur Su .
Soit ( , V ) une représentation lisse de G de longueur finie. On définit N0 u V
l’espace vectoriel engendré par l’ensemble des éléments (n)v u (n)v , où n
parcourt N 0 et v parcourt V . On pose:
Vu := V =N0 u V ,
si N 0 = N , i.e. si u est un caractère de N et
Vu := HomHu (Su , V =N0 u V ),
sinon. Remarquons que Vu ne dépend du choix de N qu’à conjugaison près par
les éléments de u CG (u). Alors Vu est une représentation de A(u) si N = N 0 et une
représentation projective de A(u) sinon, dont la classe d’isomorphie ne dépend
pas du choix de N .
On dit que U 2 NWh ( ) si Vu 6 = 0. On note NWh,max ( ) l’ensemble des
éléments maximaux de NWh ( ) pour la relation d’ordre induite par les inclusions
entre fermetures d’orbites.
En [M-W], on a interprété NWh,max ( ) à l’aide du dévelopement asymptotique
du caractère de à l’origine et on a montré que pour tout U 2 NWh,max ( ) et
u 2 U , la dimension de Vu est finie. On obtient le corollaire déroutant suivant: si
G est un groupe algébrique d’algèbre de Lie de type B, C ou D, alors les éléments
de NWh,max ( ) sont des orbites spéciales. En effet, supposons ici, pour simplifier,
que G lui-même est classique, pour U 2 NWh,max ( ), A(U ) est un produit de
groupe orthogonaux et de groupes symplectiques et la condition que Vu soit de
dimension finie entraine que A(u) doit opérer non projectivement sur Su ce qui
est une vraie condition sur les facteurs symplectiques et entraine l’assertion apr ès
un calcul explicite. Les autres orbites interviennent peut-être comme front d’onde
des revêtements non algébriques des groupes classiques; c’est le cas des orbites
antispéciales (cf. 3 ci-dessous) pour le type C, qui interviennent comme front
d’onde des représentations des groupes métaplectiques.
On veut définir une action de A(U ) sur Vu dans le cas qui nous intéresse
le plus, celui où U est spéciale. On le fait en supposant que G est un groupe
classique orthogonal ou symplectique; dans ce cas A(U ) est un produit de groupes
orthogonaux et de groupes symplectiques et sans faire d’hypothèses sur U , on
note Ã(U ) le revêtement de A(U ) obtenu en remplaçant les groupes symplectiques
par leur revêtement métaplectique; ces groupes métaplectiques opèrent sans aucune ambiguité sur Su et donc sur Vu ; remarquons que si Vu est de dimension
FRONT D’ONDE DES REPRÉSENTATIONS DES GROUPES p-ADIQUES
1315
finie cette action est nécessairement triviale. On fait opérer les groupes orthogonaux, facteurs de A(U ), en considérant leur action naturelle dans un modèle de
Schrödinger de Su obtenu à partir d’une polarisation stable par ces groupes orthogonaux (cf. 1.3 pour la construction de telles polarisations); comme un changement de modèle de Schrödinger se fait par une transformation de Fourier, cette
définition est indépendante du choix du modèle de Schrödinger choisi. Comme
les groupes orthogonaux ont des caractères, il me semble qu’il n’y a pas de
définition canonique possible. On a ainsi défini une action de Ã(U ) sur Vu ; si U
est spéciale cette action est une action de A(U ) lui-même (cf. 1.3).
On note FO( ) l’ensemble des couples (U , ) où U 2 NWh,max ( ) et est
la classe d’isomorphie d’une représentation irréductible de A(u) intervenant dans
Vu ; on compte ces couples avec la multiplicité de la représentation .
Expliquons maintenant les motivations pour l’étude de FO( ). On a déjà
vu ci-dessus que cette étude donne des résultats de non existence de certaines
représentations; on verra aussi (cf. ci-dessous) que si le front d’onde de contient
une orbite rencontrant un Levi et si G est classique alors ne peut être tempéree
et on a même des renseignements techniques mais utiles sur (cf. ci-dessous).
Plus fondamentalement, le guide de cette étude est la conjecture de Kawanaka
selon laquelle la classe d’isomorphie de doit être déterminée par son caractère
infinitésimal et son front d’onde. Le caractère infinitésimal est une notion qui
n’est pas défini pour les groupes p-adique mais en terme de paquets d’Arthur
(conjecturaux eux aussi et ayant le défaut que toute représentation n’est pas
nécessairment dans au moins un paquet) il peut se définir de la façon suivante
(sauf erreur de ma part). On suppose que est dans un paquet déterminé par un
homomorphisme:
Ψ: WF SL(2, C ) SL(2, C )
! L G,
alors le caractère infinitésimal associé à devrait être l’homomorphisme de WF
dans le groupe dual composé de Ψ avec:
id t t: WF
! WF SL(2, C ) SL(2, C ),
où t est:
8w 2 WF , t(w) =
jwj1=2
0
0
jwj 1=2
!
.
Cette suggestion suppose que cet homomorphisme est indépendant du paquet
contenant , ce qui reste à prouver. L’ennui majeur est que le front d’onde est
difficile à calculer. Toutefois on a montré en [M1] et [M2] que le front d’onde
seul détermine dans certains cas la représentation; c’est un outil puissant.
Il est un corollaire immédiat de [M-W] que si est une représentation cuspidale de G et si U 2 NWh,max ( ), alors U ne rencontre aucun sous-groupe de Levi
1316
C. MŒGLIN
propre de G. Dans cet article, on généralise cette propriété aux représentations
tempérées de G, sous l’hypothèse que G est un groupe classique de type B, C ou
D; le résultat est immédiat, à partir des classifications pour GL(n) et SL(n). On
obtient ce résultat comme corollaire du résultat technique suivant.
Soit U une orbite unipotente de G. On suppose que U rencontre un sousgroupe de Levi propre, M , de G et on fixe u 2 U \M . On fixe aussi un sous-groupe
parabolique P de G de Levi M . Alors il existe un caractère U,M de M \ A(u)
ne dépendant que de U et M (il s’interprete commodément à l’aide de l’orbite
duale de U ) tel que: soit , V une représentation lisse de G; on note VM le
1=2
module de Jacquet (normalisé par P ) relativement au radical unipotent de
P et on définit, pour u 2 U \ M , VM,u de façon analogue à Vu ; alors il existe
un morphisme surjectif de Vu sur VM,u équivariant pour l’action de M \ A(u)
à condition de tordre à droit par le caractere U,M . Ce morphisme est bijectif
si est irréductible et U 2 NWh,max ( ). Cela fournit des renseignements très
précis sur VM et ce résultat sera utilisé de façon déterminante dans l’étude des
représentations quadratiques unipotentes de G (cf. [M1] et [M2]).
Toutes les constructions de cet article se font avec l’algèbre de Lie de G, que
l’on note g; il est donc plus commode de travailler avec des orbites nilpotentes de
g plutôt que des orbites unipotentes de G; ces deux points de vue sont équivalents
puisque l’on est en caractéristique 0 et que dans ce cas l’application exponentielle
définie une bijection de l’ensemble des éléments nilpotents de g sur l’ensemble
des éléments unipotents de G; on note exp cette application et log son inverse.
1.1. Description del’algèbre de Lie de G. On suppose que g est classique,
i.e. qu’il existe un espace vectoriel X muni d’une forme bilinéaire symétrique ou
antisymétrique h, i non dégénérée telle que g soit l’algèbre de Lie des endomorphismes de cette forme. On identifie g à une sous-algèbre de End X. On pose
2 1 le scalaire tel que:
8v , w 2 X,
hv , wi = hw, v i.
On note ∆ l’unique application linéaire:
∆:
X
X
!
End X,
vérifiant:
8v , w, x 2 X,
∆(v w)(x) = v hw, xi
whx, v i.
On vérifie aisément:
8v , w, x, y 2 X, h∆(v w)(x), yi + hx, ∆(v w)( y)i
= hv , yihw, xi hw, yihx, v i + hx, v ihw, yi hx, wih y, v i = 0;
FRONT D’ONDE DES REPRÉSENTATIONS DES GROUPES p-ADIQUES
1317
ainsi ∆ est à valeurs dans g. On a aussi,
(1)
8v , w 2 X,
∆(v w) =
∆(w v ).
Et le noyau de ∆ est précisément l’espace vectoriel engendré par les éléments:
v w + w v .
De plus, g est en tant que sous-espace vectoriel de End X est l’image de ∆. On
vérifie les formules suivantes pour le crochet de Lie:
8u 2 g, 8x, y 2 X,
[u, ∆(x y)] = u(x) y + x u( y);
pour le prouver, on calcule pour tout v
[u, ∆(x y)](v ) = u(x)h y, v i
= u(x)h y, v i
2 X:
u( y)hv , xi
xh y, u(v )i + yhu(v ), xi
u( y)hv , xi + xhu( y), v i
yhv , u(x)i
et le résultat en groupant le premier et le quatrième terme d’une part et le
deuxième et le troisième d’autre part. On en déduit:
8v , w, v 0 , w0 2 X,
[∆(v w), ∆(v 0 w0 )] =
∆(v w0 )hw, v 0 i + ∆(w v 0 )hv , w0 i + ∆(v 0 v )hw, w0 i + ∆(w0 w)hv , v 0 i.
On pose pour tout u 2 g et tout v , w 2 X:
(2)
tr u∆(v w) = huv , wi,
et on prolonge tr en une forme bilinéaire sur g. On vérifie qu’elle est non
dégénérée et G-invariante; en fait tr vaut =2 fois la trace usuelle. On définit
u la fonction sur g par:
(3)
8X 2 g,
u (X )
= tr uX .
Fixons maintenant u un élément nilpotent de
de sl(2, F ) dans g tel que:
(4)
0 1
1 0
g et un homorphisme algébrique
!
= u.
En reprenant les notations de l’introduction, on sait qu’un tel est unique à
conjugaison près par un élément de u CG (u). On identifie le tore diagonal de
1318
C. MŒGLIN
sl(2, F ) à F par:
t2F
7!
t 0
0
t
!
.
La restriction de à ce tore, induit une graduation de
X par:
X = i2Z X[i],
où, pour i 2 Z :
X[i] = fv 2 X,
tel que 8t 2 F , (t)(v ) = i t v g.
Clairement:
8i, j, i 6 =
j 2 Z,
On écrit aussi la décomposition de
hX[i], X[ j]i = 0.
X sous l’action de sl(2, F) en
X = m2N Xm ,
où Xm est la somme des sous-représentations irréductibles de dimension m. Soit
m 2 N ; comme pour tout t 2 F , (t) laisse stable Xm , cet espace hérite de la
filtration de X; i.e. en posant pour tout i 2 Z , Xm [i] = Xm \ X[i],
Xm = i2Z Xm [i].
On verifie aisément que Xm [i] = 0 sauf si i 2 ] m, m[´et i est de la parité opposé
à celle de m et dans ce cas dim X` [i] = 1. La restriction de la forme de X à Xm
est non dégénérée.
Pour i 2 Z , on pose:
g[i] := fX 2 g,
tel que 8t 2 F , ad (t)(X ) = i t X g.
Clairement:
g = i2Z g[i];
g[i] =
X
2
j Z
∆
X[ j] X[
j + i] .
En particulier, g[1] est non nul si et seulement si il existe m et m0
2N
de parité
FRONT D’ONDE DES REPRÉSENTATIONS DES GROUPES p-ADIQUES
différente tels que
Xm et Xm0
1319
soient non nuls. De plus:
8i, j 2 Z,
g[i] X[ j]
u 2 g[
X[i + j];
2];
et plus précisément:
8m 2 N ,
(
u X [ i] =
m
Xm [i
0
2], si i 2 ]
sinon.
m + 1, m
1]
1.2. Description de CG (). On note CG () le commutant dans G de l’image
de , ici G agit par l’action adjointe dans son algèbre de Lie. On note A() le
commutant dans Aut X, h, i de l’image de . Il est clair que CG () contient le
centre, ZG de G alors que A() contient f1g le centre de Aut X, h, i et que l’on
a une inclusion naturelle:
CG ()=ZG
! A()= 1.
Décrivons A(). Soit m 2 N ; on suppose que i
bilinéaire sur Xm [i] définie par:
8x, y 2 Xm[i], hx, yim,i = (
0 et l’on note h, im,i la forme
1)[i=2] hui x, yi.
On suppose maintenant que i 2 ] m, 0] est de la parité opposé de m; on rappelle
que ui est une bijection de Xm [ i] sur Xm [i] et on définit donc u i comme la
bijection inverse de Xm [i] sur Xm [ i]. Et on définit h , im,i comme ci-dessus:
8x, y 2 Xm[i], hx, yim,i = (
1)[(
i+1)=2]
hui x, yi.
On remarque que h, im,i est non dégénéré et de même type (resp. de type opposé)
que h, i si i est pair (resp. impair), c’est à dire si m est impair (resp. pair). En
outre pour m 2 ] (m 1), (m 1)], u induit un isomorphisme de (Xm [i], h, im,i )
sur (Xm [i 2], h, im,i 2 ). On note Am () le sous-groupe diagonal du produit des
Q
groupes i2=] m,m[ Aut Xm [i], h, im,i . On vérifie que
A() =
Y
2
m N
Am ().
1.3. Le sous-groupe N et la représentation Su . On note N l’unique sousgroupe unipotent de G d’algèbre de Lie, i>0 g[i]. Ce groupe est isomorphe à
son algèbre de Lie via l’application exponentielle. Et on note N0 le sous-groupe
de N d’algèbre de Lie i>1 g[i]. Ainsi N = N0 si et seulement si g[1] = 0.
1320
C. MŒGLIN
La fonction u sur g définie par u (X ) = tr uX , pour tout X 2 g est nulle sur
g[i] pour tout i 6 = 2. Il est alors immédiat que la fonction u définie sur N0 par
u (n) = u (log n) est un caractère de N0 .
Supposons que g[1] 6 = 0 et décrivons Su . La fonction u induit une forme
bilinéaire, bu sur g[1]:
8X, Y ,
bu (X , Y ) := tr u([X , Y ]).
De façon usuelle, on vérifie qu’elle est non dégénérée et c’est elle qui définit
Hu . Elle prend ici une forme simple. En effet, rappelons que = 1 si h , i est
orthogonal et -1 sinon:
g[1] ' j pair X[ j] X[
et pour j, j0 pairs x 2 X[ j], x0
2 X[ j0], y 2 X[
[x y, x0 y0 ] =
j + 1]
j + 1] et y0
j0 + 1],
2 X[
(hx, x0 iy y0 + h y, y0 ix x0 ).
D’où:
bu (x y, x0 y0 ) =
(hx, x0 ihuy, y0 i + h y, y0 ihux, x0 i),
ce qui de façon concise, vaut encore:
h(u 1 + 1 u)(x y), x0 y0 i.
Pour construire des polarisations de bu , on décompose g[1] =
où m est pair et m0 impair et
gm,m0 [1] = i2Z Xm [
On remarque que
m0 6 = m01 .
gm,m0 [1]
m,m0 2N gm,m0 [1],
0
i] Xm [i + 1].
est orthogonal pour bu à
gm1 ,m01 [1]
si m 6 = m1 , où
LEMME. Fixons m, m0 comme ci-dessus, en particulier m est pair. Le sous-espace
Ym,m0 := i>0 Xm [
0
i] Xm [i + 1]
de gm,m0 [1] est totalement isotrope pour bu de dimension
1=2( dim gm,m0 [1]
0
dim Xm [m0 ] Xm [
m0 + 1]).
En particulier, cet espace est un polarisation pour la restriction de bu à gm,m0 [1] si
et seulement si m0 > m.
1321
FRONT D’ONDE DES REPRÉSENTATIONS DES GROUPES p-ADIQUES
0
Soit i > 0 et x y 2 Xm [ i] Xm [i + 1]. Alors (u 1 + 1 u)(x y) 2
Xm [ i 2] Xm0 [i + 1] + Xm [ i] Xm0 [i 1]. Et la nullité de bu sur Ym,m0
résulte alors de ce que hX[ i0 ], X[ j0 ]i = 0 pour tout i0 , j0 entiers strictement
positifs.
Calculons la dimension de Ym,m0 . Pour cela, on remarque que pour i, j 2 Z
0
0
les espaces Xm [ i] Xm [i + 1] et Xm [ j] Xm [ j + 1] ont même dimension
si ils sont tous deux non nuls. Supposons d’abord que m0 > m; alors:
gm,m0 [1] = i2f1,3,,m 1g Xm [
0
i] Xm [i + 1] i2f1,3,,m
0
m
m
g X [i] X [ i + 1]
1
et tous les espaces écrits sont non nuls. D’où dim Ym,m0 = 1=2 dim gm,m0 [1] ce qui
est le résultat annoncé puisque Xm [m0 ] = 0. Supposons maintenant que m > m0
(l’égalité n’est pas possible puisque la parité est différente). Alors:
i2f1,3,,m0 2gXm[ i] Xm0 [i + 1]
gm,m0 [1] = i2f1,3,,m0 gXm[i] Xm0 [ i + 1]
et tous les espaces écrits sont non nuls. D’où le résultat.
0
Comme ci-dessus, on montre que l’espace Xm,m0 := i3 Xm [i] Xm [ i + 1]
est totalement isotrope et il est facile de vérifier que si m > m0 , Xm,m0 et Ym,m0
sont en dualité pour bu .
Supposons que m > m0 et définissons le morphisme linéaire:
0
: Xm [1] Xm [0] ! gm,m0 [1]
par
:=
m=2 1
X
(
1)k u
k
uk ,
k=0
où u k , pour k 2 [0, m=2 1] est l’inverse de l’isomorphisme induit par uk de
X[1 + 2k] sur X[1]. Puisque uk est nul sur Xm0 [0] dès que 2k > m0 1, on peut
limiter la somme ci-dessus à k 2 [0, (m0 1)=2].
LEMME. défini ci-dessus est Am ()
orthogonale, pour bu , à Xm,m0 Ym,m0 .
Am0 ()-équivariant et son image est
L’équivariance de est claire. Calculons:
(u 1 + 1 u)
=u
1+(
0
1)(m
0
1)=2
(m0 1)=2
u
0
u(m0 +1)=2 = u 1.
Or (u 1)(Xm [1] Xm [0]) = Xm [ 1] Xm [0] est un espace orthogonal à
Xm [i] Xm0 [ j] pour tout j 2 Z sauf j = 0 et tout i 2 Z sauf i = 1. Ainsi
1322
C. MŒGLIN
l’image de est orthogonal pour bu à Xm,m0 Ym,m0 . Mais aussi, pour tout X , Y
Xm [1] Xm0 [0], (cf. début de 1.3)
(1)
bu ( X , Y ) =
2
hu 1(X ), Y >= < u 1(X ), Y i.
En d’autres termes l’image de bu par est le produit tensoriel de la forme h, im,1
0
par h, im0 ,0 , (h, im0 ,0 n’est autre que la restriction de h, i à Xm [0]).
0
Pour m, m0 2 N avec m pair et m0 impair, on définit Sum,m la représentation du
groupe d’Heisenberg associé à l’espace gm,m0 [1] muni de la forme bu . Il est clair
0
que Su est naturellement le produit tensoriel des différentes représentations Sum,m
et que cette décomposition en produit tensoriel est compatible à l’action de A().
0
Pour m, m0 comme ci-dessus, l’action de A() sur Sum,m se fait via son quotient
0
sur Am () Am ().
Supposons que m < m0 ; on a montré que Ym,m0 est une polarisation stable
0
0
sous Am () Am (); dans ce cas, la représentation projective de Am () Am ()
0
sur Sum,m est une “vraie” représentation.
0
Supposons maintenant que m > m0 ; on peut encore décomposer Sum,m en le
produit tensoriel de la représentation du groupe d’Heisenberg associé à l’espace
Xm,m0 Ym,m0 muni de bu avec celle du groupe d’Heisenberg associé à l’espace
0
Xm [1]
Xm [0], muni de bu . A isomorphisme près, compatible à l’action de A(),
on peut remplacer cette dernière représentation par celle du groupe d’Heisenberg
0
associé à l’espace Xm [1] Xm [0] muni du produit tensoriel des formes h, im,1 et
h, i. Ceci est précisément la représentation métaplectique pour la paire Am () 0
0
Am (). Ainsi la representation projective de A() dans Sum,m est une “vraie”
´
repré0
sentation si et seulement si le groupe orthogonal de la paire Am () Am () est
celui d’un espace orthogonal de dimension paire. Conformément à ce que l’on a
annoncé dans l’introduction, on va montrer comment construire dans ce cas aussi
une polarisation stable par le groupe orthogonal: si h , i est symplectique, c’est
0
Am () qui est orthogonal et on fixe une polarisation de Xm [0] qui est un espace
0
symplectique, notée Xm [0]+ et on considère la polarisation:
Xm,m0
(Xm[1] Xm0 [0]+,
qui a la forme simple suivante:
(2)
i3 Xm[i] Xm0 [
0
i + 1] Xm [1] Xm [0]+ .
0
Supposons maintenant que h i soit orthogonal, c’est alors Am () qui est le groupe
0
orthogonal. On construit une polarisation stable par Am () en fixant une polarisation Xm [1]+ de l’espace symplectique Xm [1] munit de h , im,1 et en prenant
comme polarisation l’analogue de (2) ci-dessus:
(3)
i3 Xm[i] Xm0 [
0
i + 1] Xm [1]+ Xm [0].
FRONT D’ONDE DES REPRÉSENTATIONS DES GROUPES p-ADIQUES
1323
1.4. THÉORÈME. (Sous l’hypothèse faite sur g) Soit , V une représentation
irréductible de G et soit U une orbite unipotente de G dans NWh,max ( ), alors U est
spéciale.
Soit U 2 NWh,max ( ) et supposons d’abord que U est telle que g[1] = 0,
alors U a tout ses blocs de Jordan de même parité et U est spéciale. Supposons
s () les points sur F du sous-groupe algébrique
donc que g[1] 6 = 0. Notons CG
irréductible de CG (u) dont l’algèbre de Lie est celle du groupe Πm Am () (cf. 1.2)
où m parcourt l’ensemble des entiers pairs (resp. impairs) si g est de type B ou D
s () est un quotient (algébrique) d’un produit de groupes
(resp. type C). Alors CG
s () sur S se fait via le revêtement métaplectique et
symplectiques. L’action de CG
u
donc aussi l’action sur Vu . Mais en [M-W], on a montré que Vu est de dimension
finie cette action ne peut donc pas être spécifique. La représentation de A() dans
Su doit donc être une vraie représentation (pas seulement projective). D’après ce
que l’on a vu ci-dessus cela se traduit de la façon suivante. On renvoit à [C] p.
435 et suivantes pour une définition combinatoire de la notion d’orbite spéciale,
cf. aussi [Ke].
Supposons d’abord que g est de type C. Reprenons les notations m, m0 cidessus en particulier m pair et m0 impair. Alors Am () est un groupe orthogonal
0
alors que Am () est symplectique. Il faut donc que pour tout m0 impair, taille d’un
bloc de Jordan d’un élément de U , dim m>m0 ,m pair Xm [0] soit pair. En d’autres
termes le nombre de blocs de Jordan de U de taille paire plus grand que m0 est
pair; c’est la condition pour que U soit spéciale.
Supposons maintenant que g est de type B ou D. Ici Am () est symplectique
0
alors que Am () est orthogonal et les conditions s’inversent en pour tout m pair
taille d’un bloc de Jordan de U , le nombre de bloc de Jordan de taille impaire
plus petite que m doit être pair; c’est encore la condition pour que U soit spéciale.
2.1. Intersection avec un Levi. A partir de maintenant G = Aut (h , i, F ).
Soit M un sous-groupe de Levi de G, dont on note m l’algebre de Lie. Soit
UM une orbite unipotente de M . On note U l’orbite de G engendrée par UM . Soit
u 2 UM ; et fixons un morphisme algébrique de SL2 (F ) dans m vérifiant:
0 1
1 0
!
= uM .
On définit AM () de façon analogue à A() en 1.2 en replaçant G par M . Il est
clair que:
A() \ M = AM ().
Rappelons que l’on a défini (cf. introduction) un revêtement de A(), noté Ã() et
une action de ce revêtement dans Su mais nous allons préciser cela ici; utilisons
Q
les notations de 1.2 qui décrivent A() sous forme de produit m2N Am (). On dit
1324
C. MŒGLIN
qu’un entier m est de la bonne parité s’il est pair si h , i symplectique et impair
si h , i est orthogonal. Montrons comment Am () (ou son revêtement) opère dans
Su ; rappelons la décomposition en produit tensoriel:
Su = m,m0 Sum,m
0
de 1.3, où m parcourt l’ensemble des entiers pairs et m0 l’ensemble des entiers
0
impairs. Pour m, m0 comme cela, il suffit de préciser l’action de Am () Am () sur
0
Sum,m . Notons mmp l’élément de l’ensemble (m, m0 ) qui est de la mauvaise parité et
mbp celui qui est de la bonne parité; alors Ambp () est un groupe orthogonal tandis
que Ammp () est un groupe symplectique dont on note Ãmmp () son revêtement
non trivial d’ordre 2. Le groupe orthogonal, Ambp (), opère naturellement dans
un modèle de Schrödinger obtenu grâce à une polarisation stable sous le groupe
orthogonal; par exemple avec la polarisation Ym,m0 si m0 > m et l’une des polarisations 1.3. (2) ou (3) si m0 < m. Toutefois remarquons que la définition de
l’action ne dépend pas du choix de la polaristion stable puisque un changement de
modèle de Schrödinger se fait par une intégrale invariante sous l’action du groupe
orthogonal. Si m < m0 , le groupe Ammp () opère (via son unique relèvement
dans un groupe métaplectique convenable) sur la représentation métaplectique associée à l’espace symplectique Xm,m0 Ym,m0 (notations de 1.3); d’où évidemment
une action de Ãmmp () triviale sur le noyau du revêtement. Si m > m0 et si
dim X mbp [i] est pair pour i de la mauvaise parité, il en est de même pour l’action
de Ammp () sur la représentation métaplectique associée à l’espace symplectique
Xm [1] Xm0 [0]; par contre si m > m0 et si dim X mbp [i] est impair pour i de la
mauvaise parité, c’est le revêtement Ãmmp () qui opère. Cela décrit totalement
l’action de Ambp () Ãmmp ().
On pose:
Ã() :=
Y
m de la bonne parité
Am ()
Y
Ãm ().
m de la mauvaise parité
On a décrit l’opération de ce groupe sur Su et il opère donc aussi sur Vu .
On va construire un groupe ÃM () qui opère à la fois dans Su,M (l’analogue
de Su pour M ) et dans Su . Le cas général est assez compliqué et sans grand
intérêt, on ne fera donc la construction que dans le cas où P est maximal (seul
cas qui nous intéresse et auquel on peut toujours se ramener). Décrivons AM ()
dans ce cas: sous cette hypothèse M est isomorphe a un produit:
GL(a, F ) Aut (h , i0 , F ),
où a 2 N et h , i0 est la forme de départ h , i à laquelle on a enlevé a plans
hyperboliques (ce qui suppose que a est inférieur ou égal à l’indice de Witt). On
écrit u sous la forme ua + u0 où ua 2 gl(a) et u0 2 End (h , i0 , F ). On va encore en
plus supposer que ua est un élément nilpotent régulier. La projection, 0 , de sur
FRONT D’ONDE DES REPRÉSENTATIONS DES GROUPES p-ADIQUES
1325
l’algèbre de Lie de Aut (h , i0 ) est un sl(2, F ) triplet pour u0 . L’hypothèse sur ua
assure que Su,M est, Su0 , l’analogue de Su quand on remplace G par Aut (h , i0 , F )
et u par u0 . On note A(0 ) et Ã(0 ) les analogues de A() et Ã(); on remarque
aisément que:
AM () = CentreGL(a) A(0 ).
En outre le centre de GL(a) est un sous-groupe de Aa () (notations de 1.2) et
on note C̃GL(a) l’image réciproque du centre de GL(a) dans Ãa () où Ãa () est
Aa () si ce groupe est orthogonal et en est son revêtement métaplectique sinon.
On pose:
ÃM () := C̃GL(a) Ã(0 ).
Il est aisé de vérifier que Ã(0 ) est naturellement un sous-groupe de Ã(), d’où
un morphisme naturel de ÃM () dans Ã().
Soit , V une représentation lisse de G. On fixe un sous-groupe parabolique
P de G de Levi M . On note, VM , le module de Jacquet de V , normalisé, i.e.
1=2
VM := V =u PV P , ou u P est le radical unipotent de P et P est la fonction
module. Dans l’introduction, on a défini Vu grâce à V , u et N = N . On définit
de même VM,u grâce à VM , u = uM et NM, := N \ M .
LEMME. Il existe un caractère u,M de ÃM () ne dépendant que de u et M et
avec les notations ci-dessus, un morphisme surjectif:
: Vu
!
VM,u
vérifiant pour tout a 2 AM ():
u,M (a) a = a .
Par une induction par étage, on se ramène au cas où P est maximal.
Fixons t un morphisme algébrique de F dans le centre de m de sorte que le
commutant, pour l’action adjointe, de t(F ) dans g soit précisément m. Soit k 2 N ;
on définit k : F ! g comme la somme de la restriction de M au tore diagonal
de SL2 (cf 1.1 (4)) par kt. On pose 0 = M . On a encore pour tout f 2 F et
tout k:
ad k ( f )(u) =
2f u,
puisque ad t(F )(u) = 0. Pour tout k la décomposition de g en espaces propres pour
ad k (F ) induit une graduation de g notée i2Z gk [i]. On note Nk l’unique sousgroupe de G d’algèbre de Lie i>0 gk [i]. L’action de t(F ) sur X se diagonalise;
1326
C. MŒGLIN
et avec l’hypothèse de maximalité, on peut imposer à t d’être tel que cette action
ne donne lieu qu’aux valeurs propres 1 et 0. Notons
X =: X+ X
X0
la décomposition en espaces propres. Avec ces notations
m = ∆(X+ X
) ∆(X0 X0 ).
t, on suppose que l’algèbre de Lie de u P est
Et quitte à changer t en
∆(X+ X+ ) ∆(X+ X0 ).
Pour tout i 2 Z et tout k 2 N
[ f0g:
8 P
∆(X+ [
>
>
>
2Z
>
< jP
gk [i] = m0 [i] > j2Z ∆(X
>
>
>
:
k + i] X + [ j
j
[
∆ (X+ [
j 2Z
k])
j + k + i] X [ j + k])
k + i] X [
j
j + k]) X0 [ j] .
En particulier, on remarque que pour tout k:
N k
\ M = N \ M = NM,,
0
c’est le groupe unipotent associé à dans M . Pour tout k grand,
Nk =
On note
pose
u
u
P NM, .
p l’algèbre de Lie du radical unipotent du parabolique opposé à P. On
gothg+ [1] := g0 [1] \
g [1] := g0 [1] \
u
u
p,
p.
D’où:
g0 [1] = m [1] g+ [1] g [1].
2.2. LEMME. Pour bu , les sous-espaces g+ [1] et g [1] de g[1] sont isotropes en
dualité et orthogonaux à m [1].
FRONT D’ONDE DES REPRÉSENTATIONS DES GROUPES p-ADIQUES
1327
La fonction u (cf. 1.2 (3)) est nulle sur u p et sur u p ce qui entraine que,
pour bu , g+ [1] (resp. g [1]) est orthogonal à m [1] g+ [1] (resp. g [1]). Le
fait que g+ [1] est en dualité avec g [1] résulte de ce qui précède et de ce que bu
est non dégénérée.
2.3. On note B le sous-groupe de Hu (le groupe d’Heisenberg associé à g[1]
et bu ) d’algèbre de Lie isomorphe à g+ [1]. On note HuM , SuM l’analogue de Hu , Su
pour M . On note Su0 la représentation lisse irréductible du groupe d’Heisenberg
associée à l’espace symplectique g+ [1] g [1], muni de bu . Il est clair, grâce
au lemme précedent, que Su s’identifie au produit tensoriel de Su0 SuM en tant
que HuM -module. Il est clair que B agit trivialement sur SuM et que Su0 =BSu0 est
isomorphe à C . Ainsi:
Su =BSu
' SuM ,
isomorphisme de HuM module. On remarque que AM () laisse stable la décomposition précédent 2.2. On peut aisément définir une action de ÃM () sur Su0 de
façon à ce que ÃM () laisse stable la décomposition en produit tensoriel de Su :
pour cela on remarque que ÃM () opère sur SuM et via son inclusion dans Ã()
sur Su . On considère alors l’action diagonale sur
Su0
' HomHuM (SuM , Su ).
Comme AM () laisse stable B, ÃM () opère par un caractère sur Su0 =BSu0 que nous
noterons u,P . On a alors montré le lemme:
LEMME. Le quotient Su =BSu est isomorphe comme HuM module à SuM et l’application naturelle de Su sur SuM qui s’en déduit entrelace les actions de ÃM () à
condition de tordre l’action sur SuM par le caractère u,P .
2.4. Preuve de 2.1. Pour k 2 N [f0g, posons g+k [1] := gk [1] \u p et Nk+ le
sous-groupe unipotent de G d’algèbre de Lie i2 gk [i] g+k [1]. Il est facile de
vérifier que Nk+ admet u comme caractère (u est défini dans l’introduction; il
vaut u log). On définit le module de Jacquet tordu V =(N + )u V de façon analogue
a V =Nu0 V . On a, pour k = 0, a les isomorphismes:
(1)
V =(N0+ )u V
' Vu Su =BSu ' Vu SuM ;
le centre de HuM opère sur V =(N0+ )u V par le caractère u et HuM opère trivialement
sur Vu et de façon irréductible sur SuM , on en déduit que Vu ' HomH M (SuM , V =
u
(N0+ )u V ) isomorphisme AM ()-équivariant à condition de tordre l’action naturelle
sur le terme de droite par le caractère de l’énoncé du lemme précédent. On pose
1328
C. MŒGLIN
0 := N + \ M et par définition son algebre de Lie est
NM
0
i2 m [i]. D’où
0 )u V ).
VM,u = HomH M (SuM , V =(u PNM
u
Et
(2)
0 )u V
V =(u PNM
' VM,u SuM .
0 )u V avec
On va construire un morphisme surjectif, 0 , de V =(N0+ )u V sur V =(u PNM
les bonnes propriétés d’entrelacement. On en déduit un morphisme de Vu dans
VM,u vérifiant dans les isomorphismes (1) et (2), 0 ' id. La surjectivité de
0 entraine alors celle de .
0 )u V n’est autre que V =N + V à condition que k soit très grand.
Or V =(u PNM
k,u
Il suffit donc de construire, pour tout k comme ci-dessus, un morphisme
surjectif:
k :
V =(Nk+ )u V
+
! V =(Nk+1
)u V ,
HuM -équivariant, entrelaçant les actions naturelles de ÃM () à un caractère près.
Toute la construction repose sur le lemme élémentaire et général suivant:
LEMME. Soit H un groupe d’Heisenberg décomposé en produit H = AA0 Z où A
0
et A sont abéliens ne coupant pas Z le centre. Soit , V une représentation de H
sur laquelle Z opère par un caractère . On note A et A0 des extensions de aux
groupes AZ et A0 Z respectivement. On a alors un isomorphisme naturel:
( )
i: V =(AZ )A V
' V =(A0Z )A0 V .
Soit M un groupe opérant (algébriquement) sur H et lissement sur V de façon
compatible et laissant stable A, A0 , Z , A , A0 . Alors M opère sur le membre de
gauche de (*) par une représentation notée et sur le membre de droite par une
représentation notée 0 et l’on a:
8m 2 M,
i (m) = j detA0 mj
1
0 ( m) i .
La preuve est laissée au lecteur.
Revenons à la construction de k . On note n+k l’algèbre de Lie de Nk+ et une
notation analogue en remplaçant k en k + 1. On va décrire ces algèbres de Lie.
Posons:
ck := n+k \ n+k+1 .
FRONT D’ONDE DES REPRÉSENTATIONS DES GROUPES p-ADIQUES
1329
Alors:
ck
=
j>3 gk [ j]
gk [3] \ ∆ (X+ X0 ) X
gk [2] \ ∆(X+ X) ∆(X0
X0 )
gk [1] \ ∆ X+ (X0 X+) ,
le dernier terme n’est autre que g+k [1]. Notons encore:
a20 :=
a10
(
gk [3] \ ∆(X
gk [2] \ ∆(X
X )
X0 );
X );
a2 := ggk [[0] \1]∆(\X∆(X
+ X
);X+ )
+
0
k
a1 := gk [0] \ ∆(X+ X+ );
:= gk [2] \ ∆(X
(
Avec ces définitions, on vérifie que:
n+k
n+k+1
Puisque ∆(X
X
), ∆(X
=
=
ck a01 a02 ,
ck a1 a2 .
(X X0 ))] = 0, on a les relations:
[a01 a02 , a10 a02 ] = [a02 , a02 ] gk [4];
on montre de même que:
[a1 a2 , a1 a2 ] = [a2 , a2 ] gk [0] \ ∆(X+ X+ ) a1 ;
[a1 , a01 ] gk [2] \ ∆(X+ X ) ck ;
et aussi [a1 , a02 ck ] ck . On note Ck , A01 , A02 , A1 , A2 les groupes dont l’algèbre
de Lie est écrite avec la lettre gothique correspondante; ces groupes sont unipotents et A1 , A01 sont commutatifs. Les relations précédentes montrent aisément
que Ck A02 A01 A1 = Nk+ A1 est un groupe; il contient comme sous-groupe normal
KerCk A02 u . Considérons la restriction de la forme bilinéaire bu à a01 a1 ; soit
X 2 a01 et supposons que bu (X , a1 ) = 0. Montrons que X = 0.
Comme X 2 ∆(X X ), certainement [X , ∆(X (X X0 ))] ∆(X 1330
(X
C. MŒGLIN
X0 )) et
bu (X , ∆(X (X
X0))) = 0.
L’hypothèse faite sur X , assure que bu (X , gk [0]\∆(X+ X+ )) = 0 i.e. bu (X , gk [0]) =
0. Pour des questions de filtration, on a certainement bu (X , gk [i]) = 0 pour tout
i 6 = 2. Ainsi X appartient au commutant de u; la théorie des SL(2) triplets, assure
que ce commutant se trouve dans i0 g [0]. Il ne reste plus qu’à remarquer, en
utilisant la description explicite donnée ci-dessus, que gk [2] \ ∆(X X ) g [2 + 2k]. D’où l’assertion X = 0.
Comme AM () est un groupe réductif, on fixe un sous-espace, ã1 , de a1
supplémentaire de (a01 )? \ a1 , l’orthogonal étant pris pour bu . On note Ã1 le
groupe correspondant et ainsi Nk+ Ã1 = Ck A02 A01 Ã1 est un groupe contenant comme
sous-groupe normal KerCk A02 u et le quotient est un groupe de Heisenberg de
centre Ck A02 = KerCk A02 u . Le lemme général donne un isomorphisme:
+
V =Nk,u
V
' V =(Ck A02Ã1)u V ,
isomorphisme entrelaçant l’action de AM () à condition de tordre l’action sur
l’espace de droite par le caractère j det ada01 j 1 . On compose ensuite cet isomorphisme par le morphisme surjectif naturel:
V =(Ck A02 Ã1 )u V
! V =(Ck A02 A1)uV .
D’où un morphisme surjectif:
+
V =Nk,u
V
! V =(Ck A02A1 )uV ,
morphisme entrelaçant l’action naturelle de AM () à condition de tordre par le
caractère j det ada01 j 1 .
+ A0 est aussi un groupe contenant
On vérifie ensuite que Ck A1 A02 A2 = Nk+1
2
comme sous-groupe normal KerCk A1 u . Montrons encore que si X 2 a02 est
orthogonal pour bu à tout élément de a2 alors X = 0.
Soit X vérifiant cette hypothèse d’orthogonalite et pour des raisons de filtration, on peut supposer que X est soit dans gk [3] \ ∆(X X ) soit dans
gk [2] \ ∆(X X0 ); le premier cas se traite exactement comme ci-dessus. Supposons donc que l’on est dans le deuxième cas; on a encore:
[∆(X
X0 ), ∆((X X)] ∆(X X0 ),
[∆(X
X0), ∆((X+ X+)] ∆(X+ X0),
[∆(X
X0 ), ∆(X0 X0] ∆(X X0);
FRONT D’ONDE DES REPRÉSENTATIONS DES GROUPES p-ADIQUES
1331
et u est nul sur les trois espaces écrits à droite. Ainsi bu (X , gk [0]) = 0 si et
seulement si bu (X , gk [0] \ ∆(X+ X0 ) = 0; on termine comme ci-dessus.
En procèdant encore comme ci-dessus, on obtient un morphisme surjectif:
V =(Ck A1 A02 )u V
+
! V =Nk+1,u
V,
morphisme entrelaçant l’action naturelle de AM () à condition de tordre par le
caractère j det ada02 j 1 . Cela termine la preuve de 2.1.
Récapitulons pour pouvoir calculer le caractère u,M de 2.1: pour tout k
+ V sur V =N +
comme ci-dessus, on a construit un morphisme surjectif de V =Nk,u
k+1,u V
entrelaçant les actions naturelles de AM () à condition de tordre l’action sur
+ V par le caractère:
V =Nk,u
deta0
1
a02,k ,
1,k
0 ce qui était noté dans la preuve ci-dessus
où l’on a noté ici, pour i = 1, 2, ai,k
D’où la construction d’un morphisme surjectif de:
ai0 .
0 )u V ,
V =BNu0 V ,! V =(u PNM
équivariant pour les actions naturelles de AM () à condition de tordre celle de
gauche par le caractère:
1
detP 0
0 .
a
a
k 1,k
2,k
(3)
Or:
(4)
X
a01,k a02,k = i2 g [i] \ ∆
X
(X X0).
k
Notons yu,P le caractère spécifie en (3). En revenant au début de 2.4,
´ on vient
donc de construire un morphisme surjectif:
Vu Su0 =BSu0 ,! VM,u
ÃM ()-équivariant à condition de torde l’action à gauche par le caractère de ÃM ()
trivial sur le noyau du revêtement et valant yu,P P 1=2 sur AM (), où P est la
fonction module (cf. début de 2.1). Rappelons que l’on avait noté en 2.3, u,P le
caractère de l’action de ÃM () sur Su0 =BSu0 . On a donc construit un morphisme
surjectif de Vu sur VM,u , ÃM ()-équivariant à condition de tordre l’action de
1=2
ÃM () sur Vu par le caractère u,M := u,P yu,P P . On n’a pas prouve que ce
caractère est indépendant de P mais cela sera fait par le calcul explicite de 2.5.
1332
C. MŒGLIN
2.5. Calcul du caractère. Comme ci-dessus, et bien que cela ne soit pas
indispensable, on suppose que G est précisément le groupe des automorphismes
de X respectant h, i. En procédant par étage, on se ramène aussi au cas où P
est maximal; avec les notations de 2.4, P est alors le stabilisateur de X+ et
M ' GL(a) G(n a) où a 2 N est la dimension de X+ tandis que G(n a)
est un groupe de même type que G mais de rang n a. Et on suppose aussi que
exp u s’identifie dans cet isomorphisme à ua u0 , où ua est un élément unipotent
régulier de GL(a) (ua = 1 si a = 1) et u0 un élément unipotent de G(n a). Pour
tout j 2 N , on note pU ( j) le nombre de blocs de Jordan de taille supérieure ou
égale à j et on pose:
(1)
xU,a = 1=2
X
2
pU ( j)
[(a + )=2],
j [1,a]
où vaut 0 si G est un groupe symplectique et vaut 1 si G est un groupe
orthogonal. On définit U,a 2 F =F 2 : si G est symplectique et a est pair ou si G
est orthogonal et a est impair, U,a vaut 1. Si G est symplectique et a est impair
U,a est le discriminant de la somme des formes orthogonales relatives aux blocs
de Jordan de taille paire supérieure à a, i.e. avec les notations de 1.2, de la forme
m pair,m>a h , im,1 . Si G est orthogonal et a est pair U,a est le discriminant de la
somme des formes orthogonales relatives aux blocs de Jordan de taille impaire
inférieur à a i.e. avec les notations de 1.2, de la forme m impair,m<a h , im,0 . On
note aussi U,a le caractère quadratique de F , défini par 8t 2 F U,a (t) = (t, U,a ),
où ( , ) est le symbole de Hilbert de F .
Revenons à la notation AM () de 2.1. Avec l’hypothèse faite, ce groupe est
égal au produit du centre de GL(a) avec A() \ G(n a). Grâce au choix de P,
c’est-à-dire de X+ l’espace isotrope stabilisé par P, on identifie F avec le centre
de GL(a) = GL(X+ ); F agit de façon naturelle. C’est précisément dans ce cas
que l’on a donné explicitement, en 2.1, la description de ÃM (). Rappelons les
notations (avec une variante évidente)
ÃM () := F̃ Ã(0 )
et F̃ = F si et seulement si a est de la bonne parité.
Avec ces hypothèses, et notations, on a le lemme:
LEMME. Le caractère, u,M , de 2.1 est trivial sur Ã(0 ). Si a est de la bonne
parité, u,M vaut j j xU,a sur F identifie au centre de GL(a), comme expliqué avant
´
l’énoncé. Si a est de la mauvaise parité, on identifie F̃ à F 1 (avec cocycle
bien entendu) et
8t 2 F, 2 1, u,M (t, ) = (,
, t)r U,a (t)jtj
xU , a
,
1333
FRONT D’ONDE DES REPRÉSENTATIONS DES GROUPES p-ADIQUES
où (, , t) vaut (t, 1) ( t ) ( ) où ( ) est l’invariant de Weil d’un caractère
de F et où r = 0 si Ãa () opère de façon non spécifique sur Su et vaut 1 sinon.
Avant de commencer les calculs, décrivons u,P . Pour cela on décrit g
[1]
en utilisant les notations de 1.1:
g [1] = m
de la parité opposée de a
i2Z X[i] Xm[
i + 1].
Remarquons encore que si Su0 est construit dans l’espace des fonctions localement constantes à support compact sur g [1], l’application Su0 ! Su0 =BSu0 est
0
l’évaluation en 0. En particulier Am () opère trivialement sur Su0 si m0 est de la
parité de a, sauf m0 = a où ceci n’est vrai que pour Aa (0 ). Quant à Am () pour m
de la parité opposée de a, il opère naturellement dans le modèle de Schrödinger
de Su0 obtenu grâce à la polarisation g+ [1] (qu’il laisse stable). La trivialité de
u,M sur Ã(0 ) est alors immédiate.
Supposons d’abord que a est de la bonne parité: dans ce cas, F opère naturellement dans le modèle de Schrödinger de Su0 obtenu grâce à la polarisation,
Z, somme sur m de parité opposée à a des espaces suivants: si a est pair
i>0 X+[
i] X [
i]
où Zm = 0 si m > a et Zm = X+ [1]
polarisation de Xm [0]; si a est impair
i>0 X+[i + 1] X
Xm[i + 1] Zm,
X
[i + 1]
[1]
Xm[0]+
Xm[
avec
Xm [0]+
une
i] Z m ,
où Zm = 0 si m < a et Zm = X+ [0] X [0] Xm [1]+ avec Xm [1]+ une
polarisation de Xm [1] muni de la forme h , im,1 .
Ainsi la restriction de u,P à F est le caractère qui intervient dans le changement de modèle de Schrödinger. Ce changement de modèle se fait par une
intégrale sur Z \ ∆(X X0 ). D’où, si a est de la bonne parité:
u,P (t) = jtj z ,
où
z := dim Z \ ∆(X
X0).
On vérifie aisément en utilisant les lemmes de 1.3 que:
z = 1=2 dim g [1] \ ∆(X
X0) = 1=2 dim g[1] \u p.
1334
C. MŒGLIN
En d’autres termes, sur F :
u,P = j det adg [1]\u p j1=2 .
(1)
Supposons maintenant que a est de la mauvaise parité: alors F̃ opère via son
˜ (2, F ) le revêtement de Aa () \ Aut (X+ X ). Pour calculer
inclusion dans SL
cette opèration sur Su0 on peut donc utiliser le modèle de Schrödinger obtenu grâce
à g+ [1]. Cette polarisation est stable par F et les formules standards assurent
alors que u,P est de la forme
8(t, ) 2 F̃, u,P (t, ) = (t)jtj1=2 dim g [1]0(,
+
, t),
où 0 (, , t) est une racine de l’unité et où est un caractère quadratique de F .
2.6. Calcul de la valeur absolue de U,M , notation de 2.1. Rappelons que
P est la fonction module de P, i.e. j det adu p j:
jU,M j = j det adup j
1=2
j det adg[1]\ up j1=2 j det adi g[i]\ u p j
2
1
.
On a:
g [1] \ u p ' i2Z X+ [i] X0 [
i + 1].
Posons Y := i2Z,k2 X [i] X0 [ i + k] et Z := ∆ i2Z,k2 X [i] X [
et jU,M j est trivial sur A() \ G(n a) et vaut sur F , j jx où
x :=
(1)
L’espace
i2Z
u
1=2 dimu p \ X+ X0
+1=2 dim g [1] \
u
i + k]
dimu p \ ∆(X+ X+ )
p + dim Y + 2 dim Z.
p est isomorphe à
X+ [i] X0 j2]
jij,jij[ X+ [i] X+ [ j] ∆(X+ [i] X+ [i])
i2N X+[
i] X+ [i].
En fait dans cette somme, comme dans celles définissant Y et Z, les seuls termes
non nuls correspondent à i 2 [ (a 1), a 1] de parité opposé à a.
On décompose X0 sous l’action de (sl(2, F )), comme en 1.2:
X0 := m2N Xm0 .
C’est la décomposition de Jordan de u0 définit au début de 2.5. Pour m 2 N , on
0
note pm := dim Xm
0 =m; c’est le nombre de blocs de Jordan de u de taille m. On
m
rappelle que pour m 2 N , X0 [i] = 0 sauf si i 2 ] m, m[ et i est de la parité
opposée de b et dans ce cas dim Xm
0 [i] = pm .
1335
FRONT D’ONDE DES REPRÉSENTATIONS DES GROUPES p-ADIQUES
Fixons d’abord i 2 ]0, a
pose:
1] de la parité opposée à celle de a et m 2 N . On
(i, m) = m pm = dim Xm0 ,
cela vaut aussi1=2 dim (X+ [i] Xm
0 X+ [
m( i , m) =
dim
i] Xm
0 ) et on pose aussi:
i + k] Xm
0 [i + k ]
k2 Xm0 [
+ 1=2 dim
i + 1] Xm
0 [i + 1] ;
Xm0 [
m
cela vaut dim (X [i] Xm
0 [ i + k]) + dim (X [ i] X0 [i + k]) + 1=2 dim (X [i] Xm0 [ i + 1]) + 1=2 dim (X [ i] Xm0 [i + 1]). Pour i = 0, si a est impair, on pose
encore:
(0, m) = pm m=2,
m(0, m) = dim
k2 Xm0 [k] + 1=2 dim Xm0 [1].
Ce qui s’interprète comme ci-dessus. Pour i
celle de a, on pose encore:
+ dim ∆ dim ∆
0 ( i) =
2]0, a
ij<i X+ [
i j i X + [ i]
m0 (i) = 2 dim ∆
2k2i X
= 2 dim ∆ i<ji X
1] de la parité opposée à
X + [ j] i] X + [ j] ;
[ i] X [
i + k]
[ i] X [ j] .
Et si a est impair:
0 (0) := dim ∆ X [0] X [0] .
On vérifie que
X
0 ( i)
x (cf(1) ci-dessus) vaut:
m0 ( i ) +
i
X
2
m N
( i , m)
m( i , m) +
X
2
m N
(0, m)
m(0, m) + 0 (0),
où la somme sur i porte sur les i 2 ]0, a 1] de parité opposée à a et la dernière
somme n’existe que si a est impair.
Calculons, pour i 2 ]0, a[ de parité opposée à a, 0 (i) m0 (i). Avec les
formules données, on vérifie que (on utilise le fait que dim X+ [i] = dim X+ [ i]):
0 (i) = 2 dim ∆
i<j i X+ [i]
X+[ j] + dim ∆(X+[i] X+[
i]).
1336
C. MŒGLIN
On peut encore changer X+ en X sans changer la dimension, d’où 0 (i) m0 (i) = 1.
Pour i = 0 et a impair 0 (i) m0 (i) = 1 si g est de type C et vaut 0 si g est de
type B ou D. En sommant les résultats obtenus, on obtient, en notant = 0 pour
P
le type C et 1 pour le type B, D, i2]0,a] 0 (i) m0 (i) + 0 (0) vaut a=2 si a est pair
et (a + 1)=2 si a est impair, c’est-à-dire [(a + 1)=2] ou encore
(2)
X
2
0 ( i)
m0 (i) + 0 (0) = a
[(a + )=2].
i ]0,a]
Fixons i 2 ]0, a 1] de parité opposée à a, m 2 N et calculons (i, m) m(i, m).
P
m
Si i m 1, Xm
i + k]
k2 X0 [
0 [i + k] = 0 pour tout k 1. Si i m + 1,
m
m
= X0 ; ainsi m(i, m) = dim X0 et donc:
( i , m)
m(i, m) = 0,
si i m + 1.
Si i = m,
X
Xm0 [
i + k] =
X
2
Xm0 [ j],
j ] (m 1),m 1]
k 2
et la dimension est (m 1)pm . Mais Xm
0 [ m +1] 6 = 0 d’où m(b, m) = pm (m 1+1=2)
et
( i , m)
m(i, m) = pm 1=2,
si i = m.
De façon analogue, on montre que m(b 1, m) = m(b 2, m) = (m 1)pm ;
montrons que pour tout i 2]0, m 3] (avec la condition de parité imposée),
m(i, m) = pm (m 1).
En effet, pour un tel i la dimension de k2 Xm
0 [i + k] est pm fois le nombre
d’entiers de la parité de m 1 compris dans [i + 2, m 1], i.e. vaut pm =2(m 1
(i + 2) + 2) si i est de la parité de m 1 et vaut pm =2(m 1 (i + 3) + 2) sinon.
De même la dimension de k2 Xm
i + k] est pm fois le nombre d’entiers de la
0[
parité de m 1 compris dans [ i + 2, m 1], i.e. vaut pm =2(m 1 ( i + 2) + 2)
i est de la parité de m 1 et vaut pm =2(m 1 ( i + 3) + 2) sinon. Si i
est de la parité opposée de (m 1), pour calculer m(i, m) il faut encore ajouter
m
1=2 dim Xm
i + 1], i.e. 1. Et on trouve le résultat annoncé, d’où:
0 [i + 1] X0 [
( i , m)
m(i, m) = pm ,
si 0 < i < m.
1)=2 si m est impair, d’où dans ce cas
Le cas de i = 0: dim k2 X m
0 [k] = pm (m
m(0, m) = pm (m 1)=2; si m est pair, la dimension ci-dessus vaut pm (m 2)=2
et pour calculer m(0, m) il faut encore ajouter 1=2 dim Xm
0 [1] = pm =2, d’où aussi
m(0, m) = (m 1)=2. Comme (0, m) = m pm =2, on tire:
(0, m)
m(0, m) = pm =2.
FRONT D’ONDE DES REPRÉSENTATIONS DES GROUPES p-ADIQUES
On somme maintenant sur m 2 N ; pour i fixé dans ]0, a
P
à celle de a, m2N (i, m) m(i, m) vaut
1=2
X
pm + 1=2
m i
X
m>i
1337
1] de la parité opposée
pm ;
si i = 0, ce qui nécessite a impair, cela vaut:
1 =2
X
2
pm .
m N
En sommant maintenant sur i, on trouve une quantité notée y valant 1/2 la somme
pour j entier dans [1, a] du nombre de bloc de Jordan de u0 de taille supérieure
ou égale à j. Réinterprétons (1): ua (cf. début de la preuve) fournit à u 2 blocs
de Jordan de taille a et donc l’ajout de a à y donne 1/2 la somme pour j entier
dans [1, a] du nombre de bloc de Jordan de u de taille supérieure ou égale à j; et
le résultat annoncé résulte de (1).
2.7. Calcul du caractère quadratique. Ici on suppose que a est de la
mauvaise parité et on veut calculer le caractère , ainsi que 0 (, , t) défini à la
fin de 2.6. Ce calcul demande une étude fine de Su0 . Fixons i 2 [0, a 1] de parité
opposée à a et fixons m 2 N tel que m soit de parité opposée à celle de a. Ainsi
X [i] Xm
i + 1] et non nul si et seulement si i + 1 2 [ (m 1), m 1];
0[
et un résultat analogue en changeant i en i. On définit l’opérateur
i
: X [i] Xm0 [
sa définition dépend du signe de a
i
i + 1] ! X Xm
0;
m. On pose:
X
:=
2
1)j u
(
1)j uj u j .
j [0,(a 1 i)=2]
j
uj,
(
si a > m et si m > a:
i
:=
X
2
j [0,(m 2+i)=2]
On calcule:
u 1 + 1 u i .
Cela vaut si a > m,
u
1+(
1)(a
1 i)=2
u
(a 1 i)=2
u(a
1 i)=2+1
1338
C. MŒGLIN
et si m > a,
1
u+(
1)(m
2+i)=2 (m 2+i)=2+1
u
u
(m 2+i)=2
.
Dans le premier cas cela vaut u 1 et 1 u dans le second. Ainsi pour i comme
0
ci-dessus, i (X+ [i] Xm
i + 1] est orthogonal pour bu à tout X [ j] Xm
0[
0[j]
sauf X [ i + 2] Xm
1], si a > m, et X [ i] Xm
0 [i
0 [i + 2], si m > a. Et
un résultat analogue en échangeant X+ et X . Supposons a > b; on décompose
alors i2Z (X+ [i] X [i]) Xm
i + 1] en la somme directe sur i 2 [2, m 1]
0[
de la parité opposée à celle de a:
(1)
i
(X+ [i] Xm0 [
i + 1]) X [
i + 2] Xm
0 [i
1]
et
(2)
i + 2] Xm
0 [i
X+ [
1] i (X [i] Xm
0[
i + 1])
et si a est pair il faut encore ajouter
(3)
1
X+ [1] Xm0 [0]
1
X [1] Xm0 [0] .
Cette decomposition est une décomposition
´
orthogonale pour bu et la polarisation choisie est la somme des espaces ci-dessus en ne conservant que la
partie faisant intervenir X+ . On cherche à calculer le caractère quadratique qui
intervient dans la représentation métaplectique pour le groupe linéaire de cette
polarisation, où plus précisément sa restriction à F identifie à AM () \ GL(X+ ).
Or, on a une décomposition de la représentation du groupe d’Heisenberg en produit tensoriel en fonction de la décomposition ci-dessus. Les espaces (1)i et (2)i
donnent lieu a des espaces symplectiques du type Z S Z S , où Z , S sont des
espaces vectoriels et où Z , S sont les duaux. Dans ce cas, avec la polarisation
choisie (Z S) GL(Z ) GL(S) opère naturellement à torsion près par le caractère
j det j1=2 dim S j det j1=2 dim Z et le caractère quadratique cherché est trivial; il ne
reste que celui relatif à (3), qui n’intervient que si a est pair, ce qui nécessite que
X est orthogonal et, rappelons a > m; ici l’espace symplectique est isomorphe à
(X+ [1] X [1]) Xm
0 [0]
muni du produit tensoriel de la forme h i1 avec la restriction à Xm
0 [0] de la forme
[0].
Ainsi
le caractère
de X(cf. 1.3 (1)) et la polarisation choisie, est X+ [1] Xm
0
de F̃ est le produit du caractère de F associé au discriminant de la forme
r0m (cf. notations de l’énoncé de 2.5), où rm
orthogonale de Xm
0 [0] avec (, , t)
0
est 0 si pm est pair et 1 sinon.
Supposons maintenant que a < m; un raisonnement analogue montre que le
caractère est trivial si a est pair et, dans le cas opposé, est celui intervenant dans
FRONT D’ONDE DES REPRÉSENTATIONS DES GROUPES p-ADIQUES
1339
la représentation associé à l’espace:
(X+ [0] X [0]) Xm
0 [1],
muni du produit tensoriel de la restriction de la forme de X à X+ [0] X [0] avec la
m
restriction de h i1 à Xm
0 [1]. La polarisation choisie est X+ [0] X0 [1]; le caractère
de F̃ est le produit du caractère quadratique de F associé au discriminant de la
r0m où ici rm dépend de la parité
forme orthogonal h , im,1 de Xm
0 [1] avec (, , t)
0
de la dimension de Xm
[1]
=
p
.
m
0
En sommant sur m 2 N , on trouve le résultat annoncé en 2.5.
2.8. On suppose que G est un groupe classique. Soit M un sous-groupe
de Levi de G isomorphe à GL(a) G(n a) où a 2 N (cf. ci-dessus). Soit
UM une orbite nilpotente de M de la forme Ureg U 0 où Ureg est l’orbite des
éléments nilpotents réguliers de GL(a) et U 0 est une orbite d’éléments nilpotents
de G(n a). Comme ci-dessus, on considère un sl(2)-triplet, relatif à un élément
de U , dont l’image est dans M et AM () = Za A() \ G(n a), où Za est le centre
de GL(a). Remarquons d’abord qu’avec la notation Aa () de 1.2, Za Aa () et
Aa () est un groupe qui n’est pas anisotrope. En particulier toute représentation
irréductible de dimension finie de Aa () est un caractère, sauf pour O(2) qui n’a
pas d’unipotents. Considérons le cas de O(2): soit une représentation irréductible
de dimension finie de O(2) alors soit est un caractère soit est de dimension 2
étant l’induite d’un caractère du groupe spécial orthogonal, i.e. la restriction de
à la composante neutre est la somme d’un caractère et de son inverse.
Soit une représentation de dimension finie irréductible de A() ' A(U ); on
note M la restriction de à AM () tordu par le caractère U,M de 2.1. D’après ce
que l’on vient de voir M est une représentation irréductible de dimension finie
de AM () sauf dans le cas très particulier où Aa () = 0(2); dans ce cas on notera
Q
M la restriction de U,M à m6 =a Am () comptée sans multiplicité (c’est une
représentation irréductible intervenant en fait avec multiplicité 1 ou 2). On note
U, la restriction de M à Za ; c’en est un caractère ou dans le cas où Aa () = 0(2)
est la somme d’un caractère et de son inverse (ou est un caractère).
Soit , V une représentation lisse irréductible de G. On fixe P un sous-groupe
parabolique de G de Levi M et on note encore VM le module de Jacquet normalisé
de V relativement au radical unipotent de P. Avec U comme ci-dessus, on note
VM,U, l’espace poids généralisé pour l’action de Za sur VP correspondant au
caractère U, , si Aa () 6 = O(2) et sinon correspondant à l’un des caractères
inclus dans U, (choix libre).
PROPOSITION. On reprend les notations précédentes. On rappelle que l’on a
défini FO( ) dans l’introduction. On suppose que (U , ) 2 FO( ).
(i) Le morphisme de 2.1 est un isomorphisme. D’où VM,U, 6 = 0 et il existe
une représentation irréductible de M, M , surlaquelle Za opère par U, (ou si
1340
C. MŒGLIN
Aa () = 0(2) par l’un des deux caractères inclus dans U, , le choix est libre) telle
que:
! indGP M .
(ii) (UM , M ) 2 FO(VM,U, ).
0 , 0 ) 2 FO(VM ), alors il existe U1 2 Ntr,max ( )
(iii) Réciproquement, soit (UM
M
0 U1 . Supposons que l’on ait l’égalité et U 0 “contient” les éléments
tel que G.UM
M
0 , il existe 0 une représentation
réguliers de GL(a). Alors, notant U := G.UM
irréductible de dimension finie de A(U ) telle que (U , 0 ) 2 FO( ) et M = M0 .
(i) Comme on l’a vu dans la preuve de 2.1 (construction de k , pour k
grand), le terme de droite de 2.1 est un modèle de Whittaker dégénéré tel que
ceux considérés en [M-W]. Il resulte alors de [M-W] que VM,u a même dimension
que Vu ; ainsi 2.1 est un isomorphisme. La fin de (i) en résulte, ainsi que (ii).
0 ; le terme de droite de 2.1 est
(iii) Posons comme dans l’énoncé U := G.UM
0 2 NWh,max (VM ). Il en est donc de même
non nul grâce à l’hypothèse que UM
du terme de gauche et l’existence de U1 avec les propriétés de l’énoncé résulte
encore de [M-W]. La fin de (iii), quand U1 = U , résulte de ce que 2.1 est alors
un isomorphisme.
COROLLAIRE. Soit G un groupe classique et soit , V une représentation lisse
irréductible tempérée de G et soit (U , ) 2 FO( ). Alors U ne rencontre aucun
sous-groupe de Levi propre de G.
Raisonnons par l’absurde et supposons qu’il existe une orbite U 2 NWh,max ( )
rencontrant un sous-groupe de Levi M . Quitte à augmenter M , on peut supposer
que M est maximal, i.e. de la forme GL(a) G(n a) avec a 2 N . On peut
aussi supposer que a est minimal avec cette propriété, ce qui assure que U est la
G-orbite engendrée par une orbite du type Ureg U 0 où Ureg est l’orbite régulière
de GL(a). On applique (i) de la proposition ci-dessus, en reprenant la notation
M de cet énoncé. On écrit M sous la forme a 0 où a est une représentation
irréductible de GL(a) et 0 une représentation irréductible de G(n a). On fixe
s 2 N et pour i 2 [1, n] des entiers ai , des représentations cuspidales unitaires de
P
GL(ai ) et des réels i tels que a = i2[1,s] et a soit un sous-module de l’induite
i2[1,s] ij det ji (ce qui sous-entend que l’on a fixé un sous-groupe parabolique
Pa de GL(a) de Levi i2[1,s] GL(ai )). Montrons que la condition tempérée assure
que:
X
2
ai i
0.
i [1,s]
On note Q le sous-groupe parabolique de G, inclus dans P, contenant Pa et de
Levi i2[1,s] GL(ai ) G(n a).
Supposons a 6 = n; les “racines” simples réduites pour Q sont de la forme
FRONT D’ONDE DES REPRÉSENTATIONS DES GROUPES p-ADIQUES
i
1341
i+1 pour i 2 [1, s[ et s ; chaque i pour i 2 [1, s] sera vu comme un élément
du réseau des poids (en fait ici est une racine). D’après les constructions faites:
:=
X
2
ai i i ,
i [1,s]
est un exposant de . Il doit être dans la chambre de Weyl obtuse positive,
c’est-à-dire, il existe des réels, yi , i 2 [1, s], positifs ou nuls tels que:
(1)
=
X
2
yi (i
i+1 ) + ys s .
i [1,s[
D’où, a1 1 = y1 et pour tout i 2 ]1, s],
ai i = yi
(2)
yi
1.
En sommant, on trouve:
X
(3)
2
ai i = ys
0,
i [1,s]
Le résultat annoncé.
Supposons que a = n; il n’y pas de changement dans le cas des groupes
orthogonaux impairs, pour les groupes symplectiques la dernière racine est 2s et
dans (1), (2),(3) ys est changé en 2ys ce qui ne change pas le résultat. Si G est
un groupe orthogonal pair, la dernière racine est s 1 + s . Dans (1), on change
s en s 1 + s et (2) reste vrai pour i 2 ]1, s 2] et on a aussi:
as
1 s 1
= ys
as s = ys
1
ys
ys
2
+ ys ,
1.
En sommant, on obtient encore (3), à condition de changer ys en 2ys , ce qui ne
change pas
P la conclusion.
a
Or j j i2[1,s] i i est la valeur absolue du caractère central de a . C’est-à-dire
jU, j. Mais restreint à Aa() (notation de 1.2) est un caractère d’un groupe
orthogonal ou symplectique (avec toujours l’exception de O(2)), en particulier
unitaire (ou contient un caractère de valeur absolue négative), d’où:
jU, j = jU,M j,
1342
C. MŒGLIN
ou est plus négatif. Cela a été calculé en 2.5 et vaut
X
2
ai i =
jj
xU , M ,
i.e.:
xU,M .
i [1,s]
Ce nombre est négatif strictement puisque U n’est pas une orbite régulière (cela
peut se voir sur la définition donnée, mais le plus simple est de se reporter à 3.4,
ci-dessous qui montre que xU,M 0 avec égalité si et seulement si l’orbite duale
de U est l’orbite triviale, ce qui est équivalent à U formée d’éléments réguliers.)
3. Interprétation en terme de l’orbite duale.
3.1. Rappel sur la dualité entre orbites nilpotentes. Ces constructions
nous servirons pour interpréter xU,P défini ci-dessous.
Tout ce qui suit est inspiré du livre de N. Spaltenstein [N] et des formulations combinatoires de G. Kempken [Ke]. Ici et ici seulement les groupes sont
considérés sur un corps algébriquement clos, par exemple une clôture algébrique
de F ou plutôt C lui-même.
Rappelons, que les orbites nilpotentes d’un groupe classique sur un corps
algébriquement clos, sont classifiees par la taille de leurs blocs de Jordan.
´
Définissons d’abord le groupe dual: si G est un groupe orthogonal O(m), on
note G le groupe Sp(m 1) si m est impair et O(m) lui-même si m est pair.
Si G est le groupe symplectique, on définit 2 groupes duaux G := O(2n + 1) et
G̃ := Sp(2n) lui-même; en fait G̃ doit être considéré comme le groupe dual du
revêtement métaplectique et non de Sp(2n), cette dichotomie reviendra ci-dessous
et est inspirée de la correspondance de Howe.
Soit U une orbite nilpotente de G. On va définir l’orbite duale dans G ou
G̃ . Il me semble plus claire de le faire cas par cas. Dans tous les cas, si U 0 est
une orbite nilpotente d’un groupe linéaire, on note (U 0 )D l’orbite duale usuelle,
i.e. correspondant à la partition duale.
Soit d’abord G = Sp(2n); on plonge Sp(2n) dans GL(2n + 1) en le faisant
agir trivialement sur le “vecteur supplémentaire” et on considère U1 l’orbite de
GL(2n + 1) engendrée par U ; elle est obtenue en ajoutant un bloc de Jordan de
taille 1. Le groupe O(2n + 1) s’envoit naturellement dans GL(2n + 1). En utilisant
[Ke], 2.2, on vérifie qu’il existe une unique orbite nilpotente de O(2n + 1), notée
U telle que
D
U = U1
\ O(2n + 1).
De même, on vérifie qu’il existe une unique orbite de Sp(2n), notée Ũ , telle que
Ũ = U 1
D
\ Sp(2n).
Supposons maintenant que G = O(2n); on plonge O(2n) dans GL(2n) et U est
FRONT D’ONDE DES REPRÉSENTATIONS DES GROUPES p-ADIQUES
1343
définie par:
U =U
D
\ O(2n).
Supposons maintenant que G = O(2n + 1); on plonge Sp(2n) dans GL(2n + 1)
comme ci-dessus et on définit l’orbite U de Sp(2n) par:
U =U
D
\ Sp(2n).
On dit qu’une orbite est spéciale si (U ) = U et si G est un groupe symplectique,
on dit que U est anti-spéciale si (Ũ˜ ) = U . Le type même d’orbite anti-spéciale
non spéciale est l’orbite minimale de Sp(2n). Ces définitions se traduisent de la
façon combinatoire suivante; soit U comme ci-dessus; on écrit 0 < p1 pi pt , (où t 2 N ) l’ensemble des tailles de ses blocs de Jordan: supposons
que G est un groupe symplectique. Alors U est spéciale (resp. anti-spéciale) si
pour tout i 2 [1, t] tel que pi est impaire, l’ensemble fj 2 [1, t] tel que pj > pi g
est de cardinal pair (resp. impair).
Supposons que G est un groupe orthogonal. Alors U est spéciale si pour tout
i 2 [1, t] tel que pi est paire, l’ensemble fj 2 [1, t] tel que pj < pi g est de cardinal
pair. Remarquons que la condition est équivalente à pour tout i 2 [1, t] tel que pi
est paire, la parité du cardinal de l’ensemble fj 2 [1, t] tel que pj < pi g est celle
de m, où G = O(m).
3.2. Définition de l’opération U 7! U . Soit U une orbite nilpotente de
G. On note 0 < p1 pi pt , (où t 2 N ) l’ensemble des tailles de
ses blocs de Jordan.
Supposons d’abord que G est un groupe orthogonal de la forme O(m) (m 2
N ), t est nécessairement de la parité de m et G est le groupe Sp(m
t); on
pose alors U l’orbite nilpotente de G dont les blocs de Jordan ont pour taille
p1 1 pi 1 pt 1.
Supposons maintenant que G est le groupe symplectique Sp(2n); on définit
alors G et G̃ qui sont des groupes othogonaux pairs et impairs respectivement
par: si t est pair G = O(2n t) et G̃ = O(2n t + 1); si t est impair G =
O(2n t + 1) et G̃ = O(2n t). On pose U l’orbite nilpotente de G dont
les blocs de Jordan sont p1 1 pi 1 pt 1 si t est pair
alors que si t est impair on ajoute un bloc de Jordan de taille 1 (en fait cette
définition, quand t est impair n’a d’intérêt que si p1 > 1 ce qui est nécessairement
le cas si U est spéciale). On pose Ũ celle de G̃ dont les blocs de Jordan sont
p1 1 pi 1 pt 1 si t est impair alors que si t est pair on
ajoute un bloc de Jordan de taille 1 (en fait cette définition, quand t est pair n’a
d’intérêt que si p1 > 1 ce qui est nécessairement le cas si U est antispéciale,
notion définie ci-dessus).
1344
C. MŒGLIN
3.3. On va relier ces constructions avec la dualité de façon à pouvoir faire
des démonstrations par récurrence.
LEMME. Soit U une orbite nilpotente de G dont on note 0 < p1 pi pt , (où t 2 N ) l’ensemble des tailles des blocs de Jordan. On reprend les
définitions ci-dessus. Notons P1 Ps l’ensemble des tailles des blocs de
Jordan de (U ) ; on met des˜ pour (Ũ ) si G = O(2n) les blocs de Jordan de U sont: si p1 = 1, P1 Ps Ps+1 := t 1; si p1 > 1, P1 Ps 1 Ps 1 Ps+1 := t (nécessairement Ps = t + 1).
si G = O(2n + 1) les blocs de Jordan de U sont: si p1 = 1, P̃1 P̃s Ps+1 := t 1; si p1 > 1, P1 Ps 1 Ps 1 Ps+1 := t (nécessairement
P̃s = t + 1).
si G = Sp(2n) les blocs de Jordan de U se déduisent de ceux de U en en
ajoutant un de taille t + 1 si t est pair et t si t est impair; les blocs de Jordan de Ũ s’obtiennent à partir de ceux de (Ũ ) en ajoutant un bloc de taille t + 1 si t est
impair et t si t est pair.
On ne va pas donner la démonstration de ce lemme qui se fait en calculant
la partition duale mais on va donner un exemple: soit G = Sp(10), U correspondant à la partition 1, 1, 2, 3, 3, i.e., avec les notations de l’énoncé t = 5. On
définit U1 comme ci-dessus; c’est l’orbite de GL(11) correspondant à la partition
1, 1, 1, 2, 3, 3. La partition duale est 6, 3, 2. Ainsi U est l’orbite de O(11) correspondant à la partition 5, 3, 3 L’orbite U est l’orbite de O(6) correspondant à
la partition 1, 1, 2, 2; la partition duale est 4, 2 et l’orbite duale de U est celle
de O(6) correspondant à la partition 3, 3; on a donc bien ajouté t qui ici vaut
5. Calculons Ũ ; c’est l’orbite de Sp(10) correspondant à 6, 2, 2. L’orbite Ũ est
l’orbite de Sp(10) correspondant à la partition 6, 2, 2. L’orbite Ũ est l’orbite de
O(5) correspondant à la partition 1, 2, 2; la partition duale est 3, 2 ce qui montre que l’orbite (Ũ ) est l’orbite de Sp(4) correspondant à la partition 2, 2. On
obtient bien 6, 2, 2 en ajoutant 6 = t + 1.
COROLLAIRE. Soit U une orbite nilpotente de G; on suppose d’abord que U est
spéciale, alors U est spéciale si G n’est pas un groupe orthogonal sur un espace
de dimension impaire et U est antispéciale dans ce dernier cas. On suppose
maintenant que G est symplectique et que U est antispéciale, alors Ũ est spéciale.
Cela résulte des caractérisations combinatoires données ci-dessus; mais on
peut aussi retrouver le résultat grâce au lemme précédent.
3.4. PROPOSITION. Soit U une orbite nilpotente de G Pour tout j 2 N , on note
pU,j le nombre de blocs de Jordan de U de taille supérieure ou égale à j. On suppose
que U est spéciale (ou U est anti-spéciale, ce qui nécéssite que G soit symplectique)
et on note P1 Ps (ou P̃1 P̃s ) les tailles des blocs de Jordan de U FRONT D’ONDE DES REPRÉSENTATIONS DES GROUPES p-ADIQUES
1345
(ou de Ũ ). Soit a 2 N , on pose:
X
xU,a := 1=2
pU,j
2
[(a + )=2],
j [1,a]
où = 0 si G est symplectique et vaut 1 si G est orthogonal. On suppose que U a
au moins 2 blocs de Jordan de taille a, alors:
xU,a =
X
2
(Pi
1)=2,
(P̃i
1)=2,
i [1,a]
si U est spéciale et
xU,a =
X
2
i [1,a]
si U est anti-spéciale.
Il faut d’abord traiter le cas où a = 1: reprenons la notation 0 < p1 pt
pour l’ensemble des tailles des blocs de Jordan de U . Par hypothèse p1 = p2 = 1 et
xU,1 = t=2 (où est défini dans l’énoncé). Il faut démontrer, avec les notations
de l’énoncé que (P1 1)=2 = t=2 . Si G est un groupe orthogonal P1 = t 1
(cf. le lemme précédent), ce qui donne le résultat. Si G est symplectique et si U
est spéciale, t est nécessairement pair et P1 = t + 1; d’où encore le résultat. Si U
est antispéciale, t est nécessairement impair et P̃1 = t + 1 et le résultat.
Supposons maintenant que a est plus grand que 1 et on prouve le résultat
par récurrence. Supposons que G est un groupe orthogonal; supposons d’abord
que p1 > 1; alors d’après le lemme 3.3, P1 = t et (P1 1)=2 = pU,1 =2 1=2.
En utilisant encore le lemme 3.3 on rappelle que P2 + 1, P3 , : : : , Ps sont les blocs
de Jordan de (U ) si G est O(2n) et ceux de (U˜ ) si G = O(2n + 1). Tenant
compte du corollaire 3.3, on peut appliquer l’hypothèse de récurrence à U et
obtenir:
1=2 + (P2
(1)
1)=2 = 1=2
X
2
pU
,j 1
[(a
1)=2].
j [2,a]
Or pU
,j 1
= pU,j si j > 1 et on obtient:
X
2
j [1,a]
(Pj
1)=2 =
1+
X
2
pU,j
[(a
1)=2].
j [1,a]
Le résultat résulte de ce que 1 + [(a 1)=2] = [(a + 1)=2]. On suppose maintenant
que p1 = 1; alors P1 = t 1 et (P1 1)=2 = pU,1 =2 1 et on conclut comme
ci-dessus le 1/2 n’apparaissant pas dans (1).
Le cas du groupe symplectique est analogue.
1346
C. MŒGLIN
UNIVERSITÉ DE PARIS 7, F 75251 PARIS CEDEX 05, PARIS,
Electronic mail:
FRANCE
[email protected]
REFERENCES
[C]
[Ka]
[Ke]
[Ko]
[M-W]
[M1]
[M2]
[S]
R. W. Carter, Finite Groups of Lie Type: Conjugacy Classes and Complex Characters, Wiley, New
York,1985.
N. Kawanaka, Shintani lifting and Gelfand-Graev representations, Proc. Sympos. Pure Math., vol. 47,
Amer. Math. Soc., Providence, RI, 1987, pp. 147–163
G. Kemken, Induced conjugacy classes in classical Lie-algebre, Ab. Math. Sem. Univ. Hamburg
(1982), 54–83.
B. Kostant, The principal three-dimensional subgroup and the Betti numbers of a complex simple
Lie group, Amer. J. Math. 81 (1959), 973–1032
C. Mœglin and J.-L. Waldspurger, modèles de Whittaker dégénérés pour des groupes p-adiques,
Math. Z. 196 (1987), 427–452.
C. Mœglin, front d’onde et correspondance de Howe, Adv. Math. (à paraı̂tre).
, représentations quadratiques unipotentes des groupes classiques p-adiques, Duke Math.
J. (à paraı̂tre).
N. Spaltenstein, Classes unipotentes et sous-groupes de Borel, Lecture Notes in Math., vol. 946,
Springer-Verlag, New York, 1982.