le cas des groupes unitaires. - IMJ-PRG

Stabilité pour les représentations elliptiques de
réduction unipotente; le cas des groupes unitaires.
Moeglin, Colette
CNRS, Institut de mathématiques de JUSSIEU
[email protected]
1
Introduction
Soit F un corps local p-adique et soit E/F une extension non ramifiée de degré 2. Soit encore V un E-espace
vectoriel de dimension n. Il y a 2 classes de formes hermitiennes sur un tel espace qui sont distinguées par la
parité de la valuation du déterminant de la forme; si cette valuation est paire, on note < , > iso une forme de
cette classe et si cette valuation est impaire on la note < , >an . On note G] le groupe d’une telle forme, où
] = iso ou an suivant le contexte. On vérifie que la multiplication de la forme par une uniformisante entraı̂ne
que Giso est isomorphe à Gan dans le cas où n est impaire; par contre ces groupes sont formes intérieures l’un
de l’autre si n est paire, Giso est quasi-déployé. On note suivant la coutume OE l’anneau des entiers de E et
$E une uniformisante de E. Soit L un réseau de V ; pour ] = iso ou an, on note L∗] le dual de L pour la forme
< , >] . On suppose que L est presque autodual c’est-à-dire que $E L∗] ⊂ L ⊂ L∗] et on pose:
`0 := L/$E L∗] ; d0 := dimFq2 `0
`00 := L∗] /L; d00 := dimFq2 `00 .
Alors si ] = iso d00 est pair tandis que si ] = an, d00 est impair. C’est le moyen que nous prenons de distinguer
les 2 formes.
Une représentation de niveau 0 est une représentation ayant des invariant pour l’action du radical pro-punipotent d’un sous-groupe parahorique stabilisant un réseau presque autodual au sens ci-dessus. Comme en
[10], on dit qu’une représentation de niveau 0 est de réduction unipotente si quand on regarde l’action du
groupe parahorique dans l’espace des invariants évoqué ci-dessus, cette actions se fait par des représentations
unipotentes (au sens de Lusztig) (c’est un produit de 2 groupes unitaires sur un corps fini qui opère).
Dans cet article, on s’intéresse essentiellement aux séries discrètes de niveau 0 et de réduction unipotente
pour les groupes unitaires. Le résultat que nous avons en vue est plutôt technique; il s’agit de calculer en termes
de faisceaux caractères la représentation des sous-groupes parahoriques dans l’espace des invariants pour leur
radical pro-p-unipotent. On a besoin de ce résultat pour compléter [9] qui décrit les distributions tempérées
stables de niveau 0 pour les groupes orthogonaux impairs. Ce résultat se trouve ci-dessous en 7; il est amusant
car il fait intervenir une sorte de transformation de Fourier (cf 6) qui intervenait naturellement dans [10] comme
un analogue p-adique de la transformation, définie par Lusztig sur les groupes finis et permettant de calculer
les faisceaux caractères en terme de représentations irréductibles. Pour les groupes unitaires et sur les groupes
finis, le faisceau caractère associé à une représentation irréductible du groupe symétrique est déjà (au signe
près) le caractère d’une représentation irréductible du groupe unitaire sur le corps fini. Il n’était donc pas clair
qu’une telle transformation ait un rôle à jouer, bien que pour les groupes p-adiques, il n’y ait pas beaucoup de
différence dans la description des paramètres des représentations que ce soit pour un groupe unitaire, un groupe
symplectique ou un groupe orthogonal. Il est donc rassurant de voir qu’une telle transformation intervient aussi.
On aimerait évidemment en avoir d’autres applications qu’uniquement la formule technique de 7 puisque cette
application est moralement un passage de la géométrie à la théorie des représentations.
Une fois le résultat technique démontré, il est facile d’obtenir la description des combinaisons linéaires stables
de séries discrètes de niveau 0 ainsi que leur transfert (pour n pair) entre la forme anisotrope et la forme isotrope;
toutefois ici on utilise des résultats d’analyse harmonique qui supposent que p est grand, hypothèse que nous
faisons donc. La description des distributions stables à support les représentations tempérées de réduction
unipotente est faite en 8.1 mais la démonstration est, en plus simple, celle de [10]. Le résultat est aussi simple
qu’en [10], c’est-à-dire que c’est la somme des représentations discrètes dans un paquet qui engendre l’espace
des distritutions stables combinaisons linéaires de caractères de représentations elliptiques.
Toutefois, il apparait ici un phénomène qui n’apparaissait pas en [10] mais qui était prévu par Arthur;
considérons l’ensemble des représentations duales des représentations discrètes de niveau zéro, duales par la
1
dualité qui généralise celle d’Iwahori et Matsumoto. Cette dualité a été définie entre autre par Aubert ([2]) et
Schneider-Sthuler ([12]); par exemple dans [2] elle est calculée complètement explicitement en terme d’induction
restriction, il est donc clair qu’une telle transformation conserve la propriété de stabilité pour les caractères
des représentations, mais elle introduit un signe. Précisément, à tout couple formé d’un morphisme ψ : W F ×
SL(2, C) dans le L-groupe GL(n, C) o WE/F de U (n, E/F ) qui ne se factorise par aucun Levi et d’un caractère,
, du centralisateur de ce morphisme, Lusztig associe une représentation de U (n, E/F ) (la forme du groupe
est déterminée par ) qui est la duale (au sens de la dualité ci-dessus) d’une série discrète; la série discrète, on
la note π(ψ, ) et sa duale πunip (ψ, ). Encore plus précisément, notons sZ l’élément non trivial du centre du
L-groupe de U (n, E/F ); si (sZ ) = +1, alors π(ψ, ) et πunip (ψ, ) sont des représentations de U (n, E/F )iso et
sinon sont des représentations de U (n, E/F )an . On écrit (sZ ) = ] si (sZ ) = +1 quand ] = iso et −1 sinon.
Avec ces notations et en fixant le morphisme ψ, on montre donc ici qu’il existe un signe (que l’on interprète
ci-dessous) δ(ψ,
pour ] = iso ou an:
P), tel que les combinaisons linéaires,
P
Π(], ψ) := ;(sZ )=] π(ψ, ) et Πunip (], ψ) ;(sZ )=] δ(ψ, )πunip (ψ, ) sont stables. Si n est pair, le transfert
de Π(iso, ψ) à U (n, E/F )an est −Π(an, ψ) (idem pour Πunip ). De plus l’ensemble des distributions Π(], ψ)
quand ψ varie, engendre l’espace des distributions stables combinaisons linéaires de caractères de représentations
elliptiques (au sens d’Arthur).
Expliquons le signe δ(ψ, ). Le groupe dual de U (n, E/F ) n’est pas linéaire mais il se plonge naturellement
dans GL(2n, C); En composant ψ avec ce plongement, on construit une représentation de W F × SL(2, C) qui
est symplectique si n est pair et orthogonale si n est impair. On peut facilement décomposer le morphisme
ψ|WF en la somme d’une représentation orthogonale et d’une représentation symplectique (ici on utilise le fait
que le morphisme est discret); notons morth et msymp la dimension de l’espace de ces représentations, d’où
2n = mortho + msymp . Alors ψ (composé avec l’inclusion) se factorise en un morphisme de WF × SL(2, C)
dans GL(mortho , C) × GL(msymp , C). Cela induit une décomposition de ψ en ψortho ⊕ ψsymp ; attention, la
notation prête à confusion car ψsymp n’est pas orthogonale c’est seulement sa restriction à WF qui l’est, avec
la même remarque pour ψortho . La représentation ψsymp restreinte à SL(2, C) est orthogonale si n est pair et
symplectique si n est impair. On note ssymp l’élément non trivial du centre de GL(nsymp , C) invariant sous
WF . On peut évaluer (ssymp ) et c’est le signe cherché. C’est-à-dire que δ(ψ, ) = (ssymp ).
Pour terminer cette introduction, je voudrais remercier Anne-Marie Aubert et Jean-Loup Waldspurger pour les
discussions que nous avons eues autour de ce travail.
Convention: Soit d ∈ N, la notation ] = (−1)d signifie par convention ] = iso si d est pair et ] = an si d est
impair et réciproquement, si ] est connu c’est la parité de d qui est fixée par cette notation et ] d = 1 si ] = iso
et (−1)d si ] = an.
2
2.1
Paramètres discrets unipotents
Définition
Par définition, un paramètre discret unipotent est la donnée d’un morphisme
ψ : WF /IF × SL2 (C) → GL(n, C) o WF /IF ,
où WF est le groupe de Weil de F et IF son groupe de ramification et d’un caractère : CentGL(n,C)ψ 7→ {±1},
soumis à un nombre certain de propriétés. On impose d’abord les propriétés habituelles à savoir que le diagramme complété par les projections sur WF /IF est commutatif, que la restriction de ψ à SL(2, C) est un
morphisme algébrique (nécessairement à valeurs dans GL(n, C)) et que la restriction de ψ à W F /IF composée
avec la projection sur GL(n, C) se factorise par un quotient fini. On revient sur la définition du produit semidirect ci-dessous; pour cela on note F rE/F un Frobenius pour l’extension E de F et on note w l’élément de
GL(n, C) défini par:


0
··· ··· 1

0
· · · −1 0


w=
.. 
..
..
..

.
.
.
.
n+1
(−1)
···
0 0
Alors l’action de WF /IF sur GL(n, C) se factorise par le quotient Gal(E/F ) qui est un groupe à 2 éléments,
l’élément non trivial s’identifiant à F rE/F et on a:
∀g ∈ GL(n, C), F rE/F .g = w−1 t g −1 w.
2
Le fait que l’on ait mis discret dans la définition se traduit par le fait que l’image de ψ ne doit pas être
incluse dans le L-groupe d’un sous groupe de Levi de U (n, E/F )] (cela ne dépend pas de ]) et on impose en
plus que la restriction de à l’élément diagonal de GL(n, C) formé uniquement de (−1) vaille +1 si ] = iso et
−1 si ] = an. Quand cette condition est réalisée, on dit que |Z = ].
Pour pouvoir classifier aisément de tels paramètres le mieux est de définir l’application
inc : GL(n, C) o WF /WE 7→ GL(2n, C)
en posant
∀g ∈ GL(n, C), inc(g) =
g
0
0
0
t −1 , inc(F rE/F ) =
w−1
g
w
0
On remarque alors que l’on peut voir ψ comme un morphisme de WF /WE × SL(2, C) dans GL(2n, C) qui se
factorise par l’application inc.
2.2
Classification
Soit O une orbite unipotente de GL(n, C); on note Jord(O) l’ensemble de ses blocs de Jordan, ensemble
considéré avec multiplicités, éventuellement. Une application de Jord(O) dans {±1} est une application qui à
α ∈ Jord(O) associe soit +1 soit −1 indépendamment de la multiplicité de α dans Jord(O); on dit évidemment
que Jord(O) est sans multiplicité si toutes les multiplicités sont 1.
Proposition: l’ensemble des paramètres discrets unipotents pour U (n, E/F )] vu à conjugaison près, est en
bijection avec l’ensemble des couples (O, ) où O est une orbite unipotenteQde GL(n, C) telle que Jord(O) soit
sans multiplicité et est une application de Jord(O) dans {±1} telle que α∈Jord(O) (α) = ].
Soit (ψ, ) un paramètre discret unipotent. On commence par considérer la restriction de ψ à SL(2, C); comme
on travaille à conjugaison près, c’est la même chose que de se donner une orbite unipotente O de GL(n, C). On
vérifie que si Jord(O) n’est pas sans multiplicité, le paramètre n’est pas discret. Supposons donc que Jord(O)
soit sans multiplicité. On factorise inc ◦ ψ|SL(2,C) par un produit de groupes ×α∈Jord(O) GL(2α, C) (ici, on voit
α ∈ Jord(O) comme
un nombre); dans une telle factorisation, quitte à conjuguer,
on peut s’arranger pour
0
w
0
J
α
que la matrice
provienne du produit ×α∈Jord(O) J˜α où J˜α =
où Jα est une matrice
w−1 0
Jα−1 0
symétrique si α est impair et antisymétrique sinon, non dégénérée. Et à conjugaison près on peut prendre
n’importe quelle matrice vérifiant ces conditions; la conjugaison dont il est ici question est celle qui se fait sous
GL(n, C) plongé dans GL(2n, C) comme expliqué ci-dessus, c’est-à-dire est g • t g. On utilise maintenant le fait
qu’une représentation irréductible de SL(2, C) de dimension paire est symplectique et qu’une représentation
irréductible de dimension impaire est orthogonale. On peut donc supposer comme nous le ferons
que l’image
de
Q
γ
0
α
ψ(SL(2, C)) commute avec α∈Jord(O) J˜α et on peut écrire ψ(F rE/F ) sous la forme ×α∈Jord(O)
J˜ .
0 t γα−1 α
On vérifie que la condition de commutation avec l’image de SL(2, C) est équivalent à ce que chaque γ α soit
scalaire.
Pour terminer la preuve de la proposition, il faut encore calculer le commutant de l’image de ψ dans GL(n, C).
On calcule d’abord le commutant de l’image de SL(2, C) par ψ dans GL(n, C) et on trouve que c’est un produit
de C∗ indexé par chaque élément de Jord(O) interprété comme le centre de chaque GL(α, C). Quand on plonge
dans ×α GL(2α, C), ce commutant s’écrit sous la forme d’un élément diagonal, (tα , t−1
α )α∈Jord(O) , où tα est une
matrice scalaire de taille α. Quand on impose la commutation à la matrice ×α∈Jord(O) J˜α comme ci-dessus on
trouve la condition pour tout α, tα t tα = 1 c’est-à-dire tα = ±1. Ainsi le commutant l’image de ψ dans GL(n, C)
est un produit de groupes {±1} indexés par les éléments de Jord(O). Cela termine la preuve.
2.3
Le cas tempéré, versus elliptique
On aura parfois besoin de travailler avec des paramètres unipotents tempérés et pas seulement discrets. On
enlève la condition que l’image n’est pas incluse dans un Levi mais on garde le fait que ψ vu comme morphisme de
WF /IF ×SL(2, C) dans GL(n, C)oGal(E/F ) se factorise par le quotient Gal(E/F )×SL(2, C). Toutefois, ainsi
on a trop de paramètres car les seules représentations qui nous intéressent sont les représentations elliptiques
au sens d’Arthur; ce sont des représentations virtuelles basées sur des représentations tempérées particulières.
Sur les paramètres, la condition se traduit par le fait que la représentation inc ◦ ψ de Gal(E/F ) × SL(2, C)
3
est une somme de représentations irréductibles toutes orthogonales. On appelle ces paramètres des paramètres
tempérés unipotents, versus elliptiques. On a dans ce cadre une généralisation immédiate de la proposition
précédente:
Remarque: L’ensemble des paramètres tempérés unipotents, versus elliptiques, est en bijection avec l’ensemble
des couples (O, ) où O est une orbite unipotente de GL(n, C) et où est une application de Jord(O) dans
{±1}.
On reprend la démonstration précédente; la restriction de ψ à SL(2, C) est, à conjugaison près, la donnée d’une
orbite unipotente O de GL(n, C). Quand on calcule le commutant de ψ(SL(2, C)) on considère J α comme dans
cette démonstration mais il faut tenir compte de la multiplicité de α comme bloc de Jordan, c’est-à-dire que
α+1 t
Jα est dans GL(multα (Jord(O))α,
C).
Jα .
On peut encore supposer (et nous le ferons) que Jα = (−1)
0
J
α
On définit ensuite J˜α :=
. Le commutant de ψ(SL(2, C) dans inc(GL(n, C) est isomorphe au
Jα−1 0
produit semi-direct GL(multα (Jord(O)), C) n {1, J˜α }; pour montrer que l’orbite de ψ(F rE/F ) est uniquement
déterminée dans ce commutant, il faut utiliser l’hypothèse qu’elle a un représentant de la forme γ α Jα avec γα
symétrique. L’orbite de γα par h • t h est alors uniquement déterminée puisque γα est de rang maximum. Pour
ce qui suit, on suppose, comme on en a le droit que γα = 1 pour tout α.
Pour interpréter le caractère , il faut calculer le commutant dans GL(n, C) de l’image de ψ. Un élément du commutant est nécessairement de la forme ×α∈Jord(O) gα avec pour tout α ∈ Jord(O), gα ∈ GL(multα (Jord(O)), C)
et la commutation avec ψ(F rE/F ) se traduit par gα t gα = 1. Ceci indique que gα décrit un groupe orthogonal,
le groupe des composantes est donc encore {±1}. Ainsi s’interprète encore comme une application de Jord(O)
dans {±1}. La condition de restriction au centre est maintenant ×α∈Jord(O) (α)multα (Jord(O)) = ].
Remarque: cette notation, ”versus elliptique” n’a pas vocation à entrer dans les annales. En fait, elle n’est pas
bonne, car dans les constructions de représentations elliptiques telles que faites par Arthur, les représentations
tempérées qui interviennent sont celles qui sont versus elliptique comme ci-dessus mais où en plus les multiplicités
sont inférieures ou égales à 2.
2.4
Le cas tempéré
On ne va quand même pas laisser en suspens la classification des paramètres de Langlands tempérés de réduction
unipotente. D’abord, il faut regarder la restriction à WF ; elle fait intervenir des caractères non ramifiés. On
sépare les 2 caractères quadratiques des autres. Les ”autres” font intervenir une induction irréductible sans
mytère donc on s’intéresse aux caractères quadratiques. On appelle ces paramètres, autoduaux pour des raisons
évidentes.
Lemme: L’ensemble des paramètres de Langlands tempérés de réduction unipotente autoduaux, est en bijection
avec les données, nsymp , north ∈ N, avec n = nsymp + north , Osymp une orbite unipotente de Sp(nsymp , C) et
Oorth une orbite unipotente de O(north , C), et des applications symp , orth de Jord(Osymp ) et Jord(Oorth ) dans
{±1} soumises à la condition que δ (α) = 1 si δ = symp et α est impair ou si δ = orth et α est pair. Ceci se
traduit plus simplement en disant que δ pour δ = symp et orth est un morphisme du groupe des composantes
du centralisateur d’un point de Oδ dans {±1}.
Ici on retrouve la classification générale pour les groupes classiques, c’est-à-dire la donnée d’un ensemble
de couples {(Oρ , ρ )}, où ρ parcourt un ensemble des représentations irréductibles autoduales de W F , Oρ est
une orbite unipotente soit d’un groupe symplectique soit d’un groupe orthogonal (ceci étant déterminé par
ρ) et ρ est un morphisme du groupe des composantes du centralisateur d’un point de l’orbite dans {±1}.
Avec un groupe unitaire, la notion de représentation de WF est un peu plus compliquée car ce que l’on a est un
morphisme de WF dans GL(n, C) n WF et que c’est lui qui par décomposition donne les représentations ρ. C’est
l’intérêt de passer à GL(2n, C) pour faire cette décomposition comme expliqué dans les preuves précédentes. Ce
qui diffère ici par rapport à la preuve de 2.3 est, avec les notations de cette preuve, que l’on n’a pas que γ α est
symétrique. Il faut donc décomposer γα en la somme d’une matrice symétrique et d’une matrice antisymétrique;
c’est le rang de chacune des matrices de cette décomposition qui est l’invariant suppémentaire pour la classe de
conjugaison. Ensuite la démonstration se termine de la même façon.
4
3
3.1
Construction de fonctions
Faisceaux caractères
00
On note D(n) := {(d0 , d00 ); n = d0 + d00 }. Fixons (d0 , d00 ) ∈ D(n) et pour ] = (−1)d (cf la convention de
l’introduction) on fixe un réseau presque autodual L := Ld0 ,d00 de U (n, E/F )] tel que `0 := L/$E L∗] soit de
dimension (sur Fq2 ) d0 et `00 := L∗] /L soit de dimension d00 . Les espaces `0 et `00 héritent d’une forme unitaire,
et on a donc des groupes unitaires, U (`0 , Fq ) et U (`00 , Fq ) sur le corps fini Fq relatifs à l’extension Fq2 /Fq .
On note Sd0 et Sd00 les groupes symétriques sur d0 et d00 éléments respectivement. Grâce à Lusztig, on
sait associer à une représentation de, disons Sd0 , une fonction invariante par conjugaison sur U (`0 , Fq ) (cf. par
exemple [4]). La propriété clé des faisceaux caractères pour les groupes unitaires est qu’à une représentation
irréductible de Sd0 correspond une fonction invariante sur U (`0 , Fq ) qui est la trace, à un signe près que l’on explicitera, d’une représentation irréductible de ce dernier groupe. On note Ŝd0 l’ensemble des classes d’isomorphie
de représentations irréductibles de Sd0 . D’où, en appliquant les mêmes constructions à 00 , une application:
C[Ŝd0 ] ⊗ C[Ŝd00 ] → C[U (`0 , Fq )] ⊗ C[U (`00 , Fq )].
On note Kd0 ,d00 le sous-groupe de U (n, E/F )] qui stabilise le réseau Ld0 ,d00 ; c’est un sous-groupe parahorique dont
la réduction modulo le radical pro-p-unipotent est précisément U (`0 , Fq ) × U (`00 , Fq ). On peut donc remonter les
fonctions sur ce dernier groupe en des fonctions sur Kd0 ,d00 de façon invariante par le radical pro-p-unipotent.
On obtient ainsi une application de C[Ŝd0 ] ⊗ C[Ŝd00 ] dans l’ensemble des fonctions sur Kd0 ,d00 , invariantes par
conjugaison sous le groupe et par translation sous son radical pro-p-unipotent. On identifie ces fonctions, via
la trace, à des représentations semi-simples de Kd0 ,d00 triviales sur le radical pro-p-unipotent.
Notation: On pose C[ŜD(n) ] := ⊗(d0 ,d00 )∈D(n) C[Ŝd0 ] ⊗ C[Ŝd00 ]. En sommant les constructions précédentes, on
vient donc de définir une application notée k de C[ŜD(n) ] dans la somme sur les couples (d0 , d00 ) ∈ D(n) des
ensembles de fonctions sur Kd0 ,d00 définies ci-dessus.
3.2
Formules explicites
Les formules ci-dessous ont été tirées de [3]. Soit d ∈ N et U (d, Fq ) un groupe unitaire pour l’extension de degré
2 du corps Fq . Les représentations irréductibles unipotentes d’un tel groupe sont en bijection avec la donnée
d’un entier k tel que d − k(k + 1)/2 ∈ 2N et d’une représentation, ρ, irréductible, du groupe de Weyl de type C
de rang 1/2(d − k(k + 1)/2), noté W1/2(d−k(k+1)/2) ; en fait à l’entier k, on associe une représentation cuspidale
du groupe U (k(k + 1)/2, Fq ) et l’algèbre d’entrelacement de l’induite de cette représentation cuspidale et du
caractère trivial d’un tore convenable est l’algèbre de Hecke de W1/2(d−k(k+1)/2) . Une représentation ρ comme
ci-dessus est donnée par un couple
P de partition (α1 ≥ · · · ≥ αt ≥ 0; β1 ≥ · · · ≥ βt ≥ 0) (t est ici un entier
arbitrairement grand) vérifiant i∈[1,t] αi +βi = 1/2(d−k(k +1)/2). La bijection entre les couples (k, ρ) comme
ci-dessus et les représentations irréductibles de Sd , c’est-à-dire les partitions de d se fait ainsi:
on fixe une partition µ := (a1 ≥ · · · a` ≥ 0) de d; on suppose que ` est à la fois grand et impair et on note
P := {ai + ` − i; (−1)ai −i = −1} et I := {ai + ` − i; (−1)ai −i = +1}. On pose encore k̃ := |]P − ]I|; ce nombre
est impair. On distingue encore (ce qui définit l’entier k) k̃ = k − 1 si ]P − ]I > 0 et k̃ = k sinon. Maintenant
que l’on a défini k à partir de µ, il reste à définir ρ, c’est à dire les partitions (α i ; i ∈ [1, t0 ]) et (βi ; i ∈ [1, t0 ]) ce
qui est donné par:
{αi } = {(aj − j)/2 + j̃ + (−1)k+1 /2k̃; aj + ` − j ∈ P};
{βi } = {(aj − j − 1)/2 + j̃ − (−1)k+1 /2k̃; aj + ` − j ∈ I},
0
où dans les 2 cas j̃ est le cardinal de {j 0 ≤ j; (−1)aj0 −j = (−1)aj −j }.
On a expliqué que la correspondance entre faisceaux caractères et représentations
introduisait un signe; pour µ
P
comme ci-dessus, on le note σµ et d’après [4] 9.6, σµ = (−1)n(n−1)/2+ i∈[1,`] ai (ai −1)/2 .
3.3
Filtration
Soit (d0 , d00 ) ∈ D(n) comme en 3.1 et soit ρ0 , ρ00 des représentations irréductibles de Sd0 et Sd00 correspondant à
des partitions µ0 et µ00 de d0 et d00 respectivement. On définit la partition µ := µ0 + µ00 de n, en faisant la somme
terme à terme, c’est-à-dire µ = (a01 + a001 ), · · · , (a0t + a00t ) en ayant choisi t suffisamment grand et en écrivant les
partitions comme un ensemble de nombres décroissants. A une telle partition correspond une orbite unipotente
de GL(n, C) que l’on note Oµ0 ,µ00 .
5
Pour une orbite unipotente O de GL(n, C) et pour (d0 , d00 ) ∈ D(n), on définit C[Ŝd0 ] ⊗ C[Ŝd00 ] ≥O comme
l’ensemble des combinaisons linéaires de représentations irréductibles correspondant à des couples de partitions
(µ0 , µ00 ) (comme ci-dessus) avec O ⊂ O µ0 ,µ00 . Les termes correspondants à O seront alors dits les termes de plus
bas degré.
On reprend la notation C[ŜD(n) ] de 3.1 et pour O une orbite unipotente de GL(n, C), on peut encore définir
C[ŜD(n) ]≥O en faisant la somme sur les éléments de D(n) des espaces définis ci-dessus.
3.4
Avec en plus un caractère
On revient à la situation de 3.3, où (d0 , d00 ) ∈ D(n) et les partitions µ0 , µ00 sont fixées. On a déjà associé dans
ce paragraphe à µ0 et µ00 une orbite unipotente Oµ0 ,µ00 de GL(n, C) et on lui associe maintenant en plus une
application µ0 ,µ00 : Jord(Oµ0 ,µ00 ) → {±1} en posant pour tout i ∈ [1, t],
(
00
(−1)ai ı̌<,opp , si a0i + a00i est pair,
0
00
µ0 ,µ00 (ai + ai ) =
00
(−1)ai ı̌>,opp , si a0i + a00i est impair.
0
00
0
00
où ı̌<,opp (resp. >,opp ) := |{j; 0 < a0j + a00j < (resp. >) a0i + a00i et (−1)ai +ai 6= (−1)aj +aj }|. Le lecteur est en
droit de se demander pourquoi une formule si compliquée; de toute façon, il y a une part d’arbitraire d’autres
choix sont sans doute possibles mais il y a 2 contraintes pour nos choix. On identifie ] à ±1, en posant iso = +1
et an = −1.
P
00
La première vient de ce que µ00 est une partition de d00 d’où (−1) i µi = ] et que l’on veut que
Y
µ0 ,µ00 (α) = ].
α∈Jord(Oµ0 ,µ00 )
Vérifions que cela est satisfait avec nos choix, plus exactement, nous allons vérifier que
Y
P 00
(−1) i ai =
µ0 ,µ00 (α).
α∈Jord(Oµ0 ,µ00 )
Q
Q
Q
00 Q
En effet, on a α∈Jord(Oµ0 ,µ00 ) µ0 ,µ00 (α) = i (−1)ai i|a0 +a00 ≡0 (−1)ı̌<,opp i|a0 +a00 ≡1 (−1)ı̌>,opp . Mais on remari
i
i
i
Q
Q
que que i|a0 +a00 ≡1 (−1)ı̌>,opp = i|a0 +a00 ≡0 (−1)ı̌<,opp d’où l’assertion cherchée.
i
i
i
i
La deuxième contrainte concerne le cas cuspidal que l’on va détailler ci-dessous; c’est le cas où µ 0 , µ00 correspondent à des représentations cuspidales des groupes unitaires, parce que dans ce cas là, on sait ce que l’on veut:
µ0 , µ00 correspond (à un signe près) à un “type” et (Oµ0 ,µ00 , µ0 ,µ00 ) doit être le paramétrage de la représentation
cuspidale de U (n, E/F ) induite par ce “type”.
Notation: Soit O une orbite unipotente de GL(n, C) dont on écrit Jord(O) l’ensemble des blocs de Jordan.
Pour α ∈ Jord(O), on pose Jord<α,opp (O) := |{β ∈ Jord(O); 0 < β < α et (−1)β 6= (−1)α }| et on définit
de même Jord>α,opp ; cela
( remplacera la notation peu explicite ci-dessus, ı̌<,opp et ı̌>,opp . On utilisera aussi la
= Jord<α,opp si α est pair
.
notation Jord?α,opp (O)
= Jord>α,opp si α est impair.
Soient (d0 , d00 ) ∈ D(n) et µ0 , µ00 des partitions de d0 et d00 telles que O = Oµ0 ,µ00 . La notation la plus commode
sera en générale d’écrire µ0 := {µ0 (α); α ∈ Jord(O)} et µ00 := {µ00 (α); α ∈ Jord(O)} avec pour tout α ∈ Jord(O),
00
µ0 (α) + µ00 (α) = α et alors µ0 ,µ00 (α) = (−1)µ (α) (−1)|Jord?α,opp(O)| .
Dans la notation ci-dessus, ce que l’on a utilisé implicitement est que pour α ∈ Jord(O), le couple µ 0 (α), µ00 (α)
est bien déterminé; il intervient dans le produit µ0 , µ00 avec la même multiplicité que α dans Jord(O). Cela
vient du fait que les partitions sont un ensemble de nombres rangés par ordre, ici décroissant.
3.5
Exemple, le cas cuspidal
Soient donc (d0 , d00 ) ∈ D(n) et µ0 , µ00 des partitions correspondant à des représentations cuspidales de U (d0 , Fq ) et
U (d00 , Fq ) (Rappelons que le passage d’une partition à une représentation introduit un signe mais il n’intervient
6
pas ici). Cela entraı̂ne que d0 et d00 sont des nombres triangulaires c’est-à-dire qu’il existe k 0 et k 00 des nombres
entiers (éventuellement nuls) tel que d0 = k 0 (k 0 + 1)/2 et d00 = k 00 (k 00 + 1)/2. Avec ces hypothèses, la partition
µ := µ0 + µ00 a la forme suivante:
k 0 + k 00 , k 0 + k 00 − 2, · · · , |k 0 − k 00 | + 2, |k 0 − k 00 |, |k 0 − k 00 | − 1, · · · 1, 0.
0
00
En d’autre termes Jord(Oµ0 ,µ00 ) contient d’une part des éléments de la forme 2i pour i ≤ |(k 0 + (−1)k +k k 00 )|/2
0
00
et d’autre part des éléments de la forme 2j + 1 pour j ≤ (|k 0 + (−1)k +k +1 k 00 | − 1)/2. On note ζ le signe de
k 0 − k 00 (si k 0 = k 00 ce signe n’intervient pas, donc le mieux est de ne pas le définir). On note O := Oµ0 ,µ00 et
Jord(O)pair l’ensemble des blocs de Jordan de O de taille paire.
Remarque: Avec la définition donnée de µ0 ,µ00 on obtient:
µ0 ,µ00 (2i) = (−1)i ; µ0 ,µ00 (2j + 1) = (−1)j ζ(−1)|Jordpair (O)| .
On regarde d’abord la valeur de µ0 ,µ00 sur les blocs de Jordan de taille paire de Oµ0 ,µ00 . Soit 2i l’un de ces
blocs. Ou bien il existe t ∈ [0, inf (k 0 , k 00 )[ tel que 2i = k 0 + k 00 − 2t ou bien il existe s ∈ [0, |k 0 − k 00 |] tel que
2i = |k 0 − k 00 | − s. Dans tous les cas, on écrit 2i = µ0 (2i) + µ00 (2i) où µ0 (2i), µ00 (2i) est de la forme µ0? , µ00? pour
? convenable. On remarque que pour 2i ≤ |k 0 − k 00 |, µ00 (2i) = 0 si k 00 ≤ k 0 et µ00 (2i) = 2i si k 00 ≥ k 0 . De plus le
nombre d’éléments impairs plus petits que 2i dans la partition µ0 + µ00 est exactement i. D’où la remarque dans
ce cas. Supposons maintenant que 2i > |k 0 − k 00 |; cette possibilité n’est effective que si k 0 + k 00 est pair et, alors,
avec les notations ci-dessus, µ00 (2i) = k 00 − t avec i = (k 0 + k 00 )/2 − t; c’est-à-dire que µ00 (2i) = (k 00 − k 0 )/2 + i. Le
nombre d’éléments impairs de la partition µ0 + µ00 plus petits que 2i est |k 0 − k 00 |/2. Donc, d’après la définition
00
0
0
00
µ0 ,µ00 = (−1)i+(k −k )/2+(k −k )/2 = (−1)i comme annoncé.
Regardons maintenant le cas des blocs de Jordan de taille impaire, c’est-à-dire 2j + 1. Comme ci-dessus soit
2j + 1 ≤ |k 0 − k 00 | avec µ00 (2j + 1) = 0 si k 00 ≤ k 0 et µ00 (2j + 1) = 2j + 1 si k 00 ≥ k 0 , soit 2j + 1 > |k 0 − k 00 | avec
l’existence d’un entier t (éventuellement 0) tel que µ0 (2j + 1) = k 0 − t, µ00 (2j + 1) = k 00 − t et 2j + 1 = k 0 + k 00 − 2t.
Cette dernière possibilité ne peut se produire que si k 0 + k 00 est impair. Revenons au cas où 2j + 1 ≤ |k 0 − k 00 |;
le nombre d’éléments de la partition µ0 + µ00 qui sont pairs et plus petits que 2j + 1 est exactement j; et
00
(−1)µ (2j+1) = ζ d’après la définition de ζ. D’où µ0 ,µ00 = ζ(−1)j+|Jordpair (O) . Considérons maintenant le cas
où k 0 + k 00 est impair et 2j + 1 > |k 0 − k 00 |. On a µ00 (2j + 1) = k 00 − (k 0 + k 00 − 1)/2 + j = (k 00 − k 0 + 1)/2 + j et le
00
0
nombre d’éléments de µ0 + µ00 pairs et plus grands que 2j + 1 est ici 0. D’où µ0 ,µ00 (2j + 1) = (−1)j+(k −k +1)/2 =
00
0
ζ(−1)j+(|k −k |−1)/2 (on a ici utilisé le fait que k 0 − k 00 est impair). De plus |Jordpair (O)| = (|(k 0 − k 00 )| − 1)/2
et on trouve le résultat annoncé.
3.6
Restriction au parahorique
Soit π une représentation irréductible (lisse) de U (n, E/F )] de niveau 0 et de réduction unipotente (cf. l’introduction). Pour (d0 , d00 ) ∈ D(n), on fixe un réseau presque autodual Ld0 ,d00 , d’où un parahorique et on note respar
d0 ,d00
la représentation de U (d0 , Fq ) × U (d00 , Fq ) dans l’espace des invariants de π sous le radical pro-p-unipotent. Et
on pose:
respar π := ⊕(d0 ,d00 )∈D(n) respar
d0 ,d00 π.
C’est une somme (formelle) de représentations unipotentes; grâce aux faisceaux caractères, on peut voir cette
représentation comme un élément de C[ŜD(n) ]. Le but (qui ne sera atteint que plus loin) est de caractériser
les éléments de C[SD(n) ] ainsi obtenus, au moins quand on suppose que π est tempérée versus elliptique. La
propriété clé est la suivante, où ] n’est pas fixé (comme on le voit ci-dessus, en ajoutant 2x on ne change pas la
parité de d00 et ] n’est pas intervenu):
par
pour tout (d0 , d00 ) ∈ D(n) pour tout x ≤ [d0 /2], les représentations respar
d0 ,d00 (π) et resd0 −2x,d00 +2x (π), vues comme
représentations des groupes U (d0 , Fq ) × U (d00 , Fq ) d’une part et U (d0 − 2x, Fq ) × U (d00 + 2x, Fq ) d’autre part,
ont même module de Jacquet pour le groupe GL(x, Fq2 ) × U (d0 − 2x, Fq ) × U (d00 , Fq ).
Une telle propriété est claire par construction, c’est la transitivité des restrictions. Mais elle justifie la définition
suivante:
Définition: un élément de C[ŜD(n) ] que l’on écrit sous la forme ⊕(d0 ,d00 )∈D(n) πd0 ,d00 (où πd0 ,d00 est une représentation
du groupe U (d0 , Fq ) × U (d00 , Fq ) pour tout (d0 , d00 ) ∈ D(n)), est dit de nature globale si pour tout (d0 , d00 ) ∈ D(n)
7
et pour tout x ≤ [d0 /2], les représentations πd0 ,d00 et πd0 −2x,d00 +2x ont des modules de Jacquet isomorphes pour
les sous-groupes paraboliques de Levi GL(x, Fq2 )×U (d0 −2x, Fq )×U (d00 , Fq ). On note C[ŜD(n) ]global l’ensemble
de ces éléments.
3.7
3.7.1
Description des éléments de nature globale
Calcul de la dimension
Proposition: la dimension de C[ŜD(n) ]global est le coefficient de xn dans la série
Q
i∈N (1
+ xi )/(1 − xi ).
Pour H un groupe réductif sur Fq , on note U nipH
Ell l’espace des caractères (i.e. fonctions H-invariantes sur
H) qui s’annulent hors des éléments elliptiques et qui s’expriment comme trace de représentations unipotentes. Et on rappelle que si H est un groupe général linéaire alors U nipH
Ell est de dimension 1. Pour H
de nouveau un groupe réductif arbitraire, on obtient une base du groupe de Grothendieck des représentations
unipotentes en prenant les caractères induits à partir d’une base de U nipM
Ell quand M parcourt l’ensemble
des sous-groupes de Levi de paraboliques de H pris à conjugaison près . En appliquant cela à chaque H :=
U (d0 , Fq ) × U (d00 , Fq ) pour (d0 , d00 ) ∈ D(n), on en déduit une description de C[ŜD(n) ]global ; on induit les carHn
≥···≥n ;n0 ,n00
k
actères
de chaque U nipEll1
où n = 2(n1 + · · · + nk ) + n0 + n00 et où Hn1 ≥···≥nk ;n0 ,n00 est le groupe
Q
0
00
i∈[1,k] GL(ni , Fq 2 ) × U (n , Fq ) × U (n , Fq ). On connait la dimension de l’espace des traces de représentations
unipotentes pour un groupe unitaire (de type U (n0 , Fq )); c’est la dimension de l’espace des représentations de
Q
0
Sn0 , c’est-à-dire le coefficient de xn dans la série génératrice i∈N (1 − xi )−1 . Avec le même argument, on en
0
Q
0
U (n ,F )
déduit que la dimension de U nipEll q est le coefficient de xn dans la série i∈N (1 − x2i )/(1 − xi ) c’est-à-dire
Q
dans i∈N (1 + xi ). Finalement la dimension de C[ŜD(n) ]global est le coefficient de xn dans la série:
Y
Y
(1 − x2i )−1 (1 + xi )2 =
(1 + xi )/(1 − xi )
i∈N
i∈N
comme annoncé.
3.7.2
Une construction d’éléments de nature globale
Comme les caractères des représentations unipotentes se décrivent aisément avec les faisceaux caractères, on va
faire de même pour l’espace des caractères de nature globale décrit ci-dessus. Fixons (d 00 , d000 ) ∈ D(n) et π00 , π000
des représentations de Sd00 et Sd000 respectivement. On définit l’application Ind ◦ Res de C[Ŝd00 ] ⊗ C[Ŝd000 ] dans
C[ŜD(n) ], en posant:
Ind ◦ Res π00 ⊗ π000
S
0 ,0
00 ,0
indSd0 ,0 +d
×S
d
×Sd0 ,00 +d00 ,00
00 0
d ,
×Sd0 ,00 ×Sd00 ,00
◦ ResSd0 ,0 ×Sd0 ,00 ×Sd00 ,0 ×Sd00 ,0
:=
P
(−1)
(d0 ,0 ,d0 ,00 )∈D(d00 );(d00 ,0 ,d00 ,00 )∈D(d00
0)
d
00 ,00
π00 ⊗ π000 .
On voit cet élément comme un élément de C[ŜD(n) ]. Cette définition à l’air surprenante; c’est une sorte de
globalisation mais où on a caché le Frobenius. Cette définition est la même que celle de [10] 3.1 et 3.2 (du
moins quand on se limite aux éléments elliptiques ce que nous ferons le moment venu) mais présentée un peu
différemment.
Proposition: L’élément Ind ◦ Res π00 ⊗ π000 construit ci-dessus est dans C[ŜD(n) ]global .
Il faut traduire le module de Jacquet pour un faisceau caractère comme une restriction à un sous-groupe.
Précisément fixons d ∈ N et x ≤ [d/2]; soit π une représentation de U (d, Fq ) correspondant à une représention,
encore notée π de Sd . Le module de Jacquet de π pour le parabolique de Levi GL(x, Fq2 ) × U (d − 2x, Fq ) est
une représentation de ce dernier groupe dont la trace est le faisceau caractère associé à la restriction de π au
sous-ensemble Sx × Sd−2x où Sx × Sd−2x s’envoie dans Sd par


0 0 1
σ × w ∈ Sx × Sd−2x 7→  0 w 0 ∈ Sd .
σ 0 0
Cette application n’est pas une application de groupes mais respecte les classes de conjugaison. Si σ × w est
comme ci-dessus, la classe de conjugaison de l’image contient l’élément σ 0 × w où σ 0 est une permutation dans
S2x dont les cycles sont le double des cycles de σ.
8
Il faut écrire pour (d0 , d00 ) ∈ D(n) fixé et pour x ≤ [d0 /2],
ResSx ×Sd0 −2x ×Sd00
S ×Sd00
indSd00 ,0 ×S
ResSd0 ,0 ×Sd0 ,00 ×Sd00 ,0 ×Sd00 ,00 .
00 0 ×S 0 ,00 ×S 00 ,00
d
d ,
d
d
P
0 ,0
(d0 ,0 ,d0 ,00 )∈D(d00 );(d00 ,0 ,d00 ,00 )∈D(d00
+d00 ,0 =d0
0 );d
Par la théorie de Mackey (c’est assez facile de le redémontrer), on peut commuter la dernière restriction avec
l’induction, pour cela il faut faire une double somme; fixons di,j pour i, j ∈ {0 ,00 }. On regarde les décompositions,
0
0
0
0 0
00 0
pour i ∈ {0 ,00 }, di, = 2di, ,lin + di, ,u ; d , ,lin + d , ,lin = x. Et le module de Jacquet ci-dessus s’obtient pour de
bonnes applications comme la somme sur toutes les décompositions des opérations:
Sx ×Sd0 −2x ×Sd00
×Sd00 ,0 ,lin ×Sd0 ,0 ,u ×Sd00 ,0 ,u ×Sd0 ,00 ×Sd00 ,00 ResSd0 ,0 ,lin ×Sd0 ,0 ,u ×Sd0 ,00 ×Sd00 ,0 ,lin ×Sd00 ,0 ,u ×Sd00 ,00
0 0
d , ,lin
indS
00 ,00
Il faut tenir compte du signe mis dans la définition de Ind ◦ Res qui est (−1)d . On a une formule du même
type quand on remplace d0 par d0 − 2x et d00 par d00 + 2x. Et on somme exactement sur les mêmes nombres en
0 0
00 0
0 0
00 0
0 00
00 00
utilisant le fait que ci-dessus d , ,u + d , ,u = d0 − 2x et 2d , ,lin + 2d , ,lin + d , + d , = d00 + 2x le point est
0 0
0 0
0 00
00 0
00 0
00 00
que ci-dessus on fait la somme sur les décompositions: 2d , ,lin + d , ,u + d , = d00 ; 2d , ,lin + d , ,u + d , = d000 .
00 ,00
00 ,0 ,lin
00 ,00
Mais le signe est ici (−1)d +2d
qui est aussi (−1)d
comme ci-dessus. Cela termine la preuve.
3.7.3
Variante
Pour π une représentation irréductible d’un groupe symétrique, correspondant donc à une partition, on note π ∗
la représentation irréductible qui correspond à la partition duale. Sur les caractères, le changement se fait par
la multiplication par (−1)l(σ) où l(σ) est la longueur de l’élément σ. Cette dualité se généralise à un produit
de groupes symétriques (elle se fait terme à terme)
Corollaire: Soient (d00 , d000 ) ∈ D(n) et π00 ⊗ π000 une représentation irréductible de U (d00 , Fq ) × U (d000 , Fq ). Alors
∗
Ind ◦ Res π00 ⊗ π000 est de nature globale.
Cela résulte de ce qui précède.
3.7.4
Calcul du gradué
Soient encore (d00 , d000 ) ∈ D(n) et soient µ00 , µ000 des partitions de d00 et d000 ; ci-dessous on utilisera la notation
µ00 ∪ µ00O pour la partition de d00 + d000 dont l’ensemble des termes est la réunion des termes de µ00 et de µ000 ,
avec multiplicité évidemment. On les voit comme des représentations de groupes symétriques convenables; on
utilisera en fait les représentations associées aux partitions duales, (µ00 )∗ et (µ000 )∗ . On note O(µ00 ∪ µ000 ) l’orbite
unipotente de Gl(n, C) correspondant à la partition µ00 ∪ µ000 et on note µ00 ∪µ000 l’application de Jord(O(µ00 ∪ µ000 ))
00
dans {±1} définie par µ00 ∪µ000 (α) = (−1)multα (µ0 ) pour tout α ∈ µ00 ∪ µ000 . On rappelle qu’en 3.3 et suivant on
a associé une orbite, Oµ0 ,µ00 , à un couple de partitions µ0 , µ00 de d0 et d00 respectivement, avec (d0 , d00 ) ∈ D(n)
ainsi qu’une application, µ0 ,µ00 de Jord(Oµ0 ,µ00 ) dans {±1}. Pour µ0 , µ00 tel que Oµ0 ,µ00 = Oµ00 ∪µ000 , on pose:
Q
< µ0 ,µ00 , µ00 ∪µ000 >:= α∈Jord(Oµ0 ,µ00 );µ0 ,µ00 (α)=−1 µ00 ∪µ000 (α)
Q
σµ00 ∪µ000 := α∈Jord(O 0 00 ); 0 00 =−1 (−1)|Jord?α,opp| , .
µ ∪µ
0
0
µ ∪µ
0
0
où ? =< si α est pair et ? => si α est impair
Remarque: < µ0 ,µ00 , µ00 ∪µ000 >= σµ00 ∪µ000
Q
(−1)
α∈µ00 ∪µ00
0
µ00 (α)multα (µ00
0)
.
On pose O := Oµ0 ,µ00 = Oµ00 ∪µ000 . On revient à la définition de 3.4 pour calculer
Y
00
Y
(−1)multα (µ0 ) µ00 (α) =
(−1)µ
00
α∈Jord(O);(−1)multα (µ0 ) =−1
α∈Jord(O)
Y
µ0 ,µ00 (α)(−1)|Jord?α,opp | ,
α∈Jord(O);µ0 ∪µ00 (α)=−1
0
0
où ? est comme dans ce qui précède la remarque. D’où la remarque.
9
00
(α)
=
Dans l’énoncé ci-dessous, la notation
comme expliqué dans 3.7.3.
∗
représente la représentation correspondant aux partitions duales
...
Proposition: Avec les notations précédentes,
Ind ◦
Res(µ00 )∗
⊗
(µ000 )∗
∗
∈
C[Ŝd0 ] ⊗ C[Ŝd00 ]
plus précisément dans cette filtration le terme de plus bas degré est
X
σµ00 ∪µ000 < µ00 ∪µ000 , µ0 ,µ00 > µ0 ⊗ µ00 .
et même
≥O
µ0 ,µ00 |Oµ0 ,µ00 =O(µ00 ∪µ00
0)
Soit (d0 , d00 ) ∈ D(n) et β 0 , β 00 des partitions de d0 et d00 respectivement. On cherche à calculer quand la
représentation associée à β 0 , β 00 (notée abusivement β 0 ⊗ β 00 ) intervient dans la représentation Ind ◦ Res(µ00 )∗ ⊗
(µ000 )∗ ; c’est un problème de théorie de Mackey et il est étudié dans [13] XII.6 (précisément pages 422 à 425). Il
y est montré que la multiplicité est non nulle seulement si
β 0 ∪ β 00 ≤ (µ00 )∗ + (µ000 )∗ .
Si l’inégalité est une égalité, alors le coefficient est calculé en loc.cite; ce qui nous intéresse est la formule qui
suit (11) dans la démonstration; cela n’a pas d’intérêt de l’écrire ici car les notations sont vraiment différentes et
00 ,00
le plus simple est de refaire le calcul dans ce cas précis; ce que l’on cherche à calculer est le signe (−1) d . On
note O∗ l’orbite unipotente duale de Oµ00 ∪µ000 . Pour α ∈ Jord(Oµ00 ∪µ000 ), on note α∗ := |{β ∈ Jord(Oµ00 ∪µ000 )); β ≥
α} où les multiplicités sont prises en compte. On remarque aisément que Jord(O ∗ ) est l’ensemble des α∗
précédemment définis avec comme multiplicité α−α− où α− est l’élément de Jord(Oµ0O ∪µ000 ) strictement inférieur
à α (éventuellement 0). Pour tout α comme ci-dessus, on écrit (µ00 )∗ (α∗ ) et (µ000 )∗ (α∗ ) les termes de la partition
(µ00 )∗ et (µ000 )∗ respectivement, tels que α∗ = (µ00 )∗ (α∗ ) + (µ000 )∗ (α∗ ); ceci est bien défini. Et on trouve que le
signe est
Y
00
00 ∗
∗
(−1)multα∗ (β )(µ0 ) (α ) .
α∈Jord(Oµ0 ∪µ00 )
0
0
0
00
Pour le résultat cherché, il faut dualiser β et β et la condition trouvée s’écrit donc:
(β 0 )∗ + (β 00 )∗ ≥ µ00 ∪ µ000 ;
on a simplement utilisé le fait que la dualité renverse somme et union et inverse l’ordre. On pose maintenant µ0 = (β 0 )∗ et µ00 = (β 00 )∗ pour retrouver les notations de l’énoncé et il reste à calculer le signe en
terme de µ0 , µ00 , µ00 , µ000 dans le cas où l’inégalité est une égalité et on va vérifier que ceci n’est autre que
Q
00
multα (µ00
0 )µ (α) .
En effet, on reprend les notations α∗ et α− introduites ci-dessus et on
α∈Jord(Oµ0 ∪µ00 ) (−1)
0
0
P
vérifie que (µ000 )∗ (α∗ ) = β≥α multβ (µ000 ) et multα∗ (β 00 ) = µ00 (α) − µ00 (α− ). En remplaçant, on obtient:
Q
=
∗
∗
multα∗ (β 00 )(µ00
0 ) (α )
multα∗ (β 00 )
multβ (µ00
α≤β (−1)
0 ) =−1
β|(−1)
0
0
Q
Q
Q
00
µ00 (α)−µ00 (α− )
00
= β|(−1)multβ (µ000 ) =−1 (−1)µ (β) .
α≤β (−1)
β|(−1)multβ (µ0 ) =−1
α∈Jord(Oµ0 ∪µ00 ) (−1)
=
Q
Q
Ceci est bien la formule cherchée. La proposition résulte alors de la remarque qui précède.
3.7.5
Remarque sur les signes
Il faut maintenant tenir compte du signe qui relie partition et représentation; précisément, pour µ 0 une partition
de d0 , on note π(µ0 ) la représentation irréductible de U (d0 , Fq ) qui lui correspond au signe près et on note σµ0
ce signe. Pour (d0 , d00 ) ∈ D(n), et pour µ0 , µ00 des partitions de d0 et d00 respectivement, on définit donc σµ0 et
σµ00 . On pose:
σOµ0 ,µ00
|{α ∈ Jord(Oµ0 ,µ00 ); α impair}| 2
:= (−1)
Y
(−1)|Jord(Oµ0 ,µ00 )>α,opp |
α∈Jord(Oµ0 ,µ00 );α impair
0 ,µ00 ) est considéré avec multiplicité. Toujours en considérant cet ensemble avec multiplicité,
L’ensemble Jord(OµQ
on pose: σ µ0 ,µ00 := α∈Jord(Oµ0 ,µ00 );α≡n+1[2] µ0 ,µ00 (α).
10
Remarque: Soient (d0 , d00 ) ∈ D(n) et µ0 , µ00 des partitions de d0 et d00 respectivement. Alors σµ0 σµ00 =
σOµ0 ,µ00 σ µ0 ,µ00 .
C’est un calcul sans mystère qui ne fait qu’utiliser le fait que pour tout α ∈ Jord(O µ0 ,µ00 ), µ0 (α) + µ00 (α) = α
avec les notations de 3.4. On a donc
Y
0
0
00
00
0
0
00
00
σµ0 σµ00 = (−1)d (d −1)/2)+d (d −1)/2)
(−1)µ (α)(µ (α)−1)/2+µ (α)(µ (α)−1)/2 .
α∈Jord(Oµ0 ,µ00 )
On remplace partout µ0 (α) par α − µ00 (α) et on trouve que le signe vaut
0
0
(−1)d (d −1)/2+d
00
(d00 −1)/2+
P
α
α(α−1)/2+
P
α
µ00 (α)α+µ00 (α)2
.
On remplace encore d0Ppar n − d00 et on utilise le fait qu’un P
nombre et son P
carré ont même parité. On trouve
00
00
00
00
α (α(α−1)/2+µ (α)(α+1) . De plus n =
α
et
d
=
(−1)n(n−1)/2+d (n+1)+
α µ (α). En remplaçant le signe
α
P
P
P
00
αβ+
µ
(α)(n+α)
αβ
N
(N
−1)/2
i
i
α
cherché est (−1) α6=β
. Or (−1) α6=β
= (−1)
, oùPNi est le nombre de blocs de
P
00
µ00 (α)(n+α)
α
0
00
Jordan de taille impaire de Jord(Oµ ,µ ) tandis que (−1)
= (−1) α;α≡n+1[2] µ (α) . On remplace
00
encore, pour α un bloc de Jordan de Oµ0 ,µ00 tel que α ≡ n + 1[2], (−1)µ (α) = µ0 ,µ00 (α)(−1)|Jord?α,opp | où ? est
< si n est impair et ? => si n est pair. Mais on remarque que
Y
Y
(−1)|Jord>α,opp| .
(−1)|Jord<α,opp| =
α∈Jord(Oµ0 ,µ00 );α pair
α∈Jord(Oµ0 ,µ00 );α impair
Cela termine le calcul.
3.7.6
Description complète
Corollaire: L’espace vectoriel engendré par les représentations Ind ◦ Res µ 00 ⊗ µ000 où µ00 , µ000 parcourt l’ensemble
des partitions des éléments de D(n) coı̈ncide avec l’espace C[ŜD(n) ]global .
Il suffit de démontrer que la dimension de l’espace engendré par les représentations Ind ◦ Resµ 00 ⊗ µ000 où µ00 , µ000
est supérieure ou égale à la dimension de C[ŜD(n) ]global . Grâce au calcul du gradué fait dans 3.7.4 et une
inversion de Fourier simple, on voit que cette dimension est supérieure ou égale au cardinal de l’ensemble
{(O, )} où O est une orbite unipotente de GL(n, C) et est Q
une application
de Jord(O) dans {±1}. Le
P
cardinal de cet ensemble est le coefficient de xn dans la série i∈N (1 + k>0 2xki ). Or pour tout i ∈ N,
Q
P
P
(1 + xi )(1 + k>0 xk ) = 1 + k>0 2xki d’où la série s’écrit aussi i∈N (1 + xi )/(1 − xi ). C’est le résultat cherché
grâce à 3.7.1.
4
4.1
Induction endoscopique
Définition de l’induction endoscopique
Dans [13] toute une combinatoire est développée de façon à calculer le transfert endoscopique de distributions stables à support unipotent. On a remarqué dans [10] que cette combinatoire se retrouve quand on
calcule les ”K”-types des représentations de niveau 0, c’est-à-dire quand on décrit l’espace des invariants de
la représentation sous le radical pro-p-unipotent des parahoriques comme représentation ”du” parahorique en
réduction. Cela se confirme ici et c’est d’ailleurs plus simple (comme on peut s’y attendre a priori) que dans le
cas des groupes orthogonaux impairs traités en [10]. Voici la combinatoire dont nous allons avoir besoin.
côté symplectique: soit Op une orbite unipotente d’un groupe symplectique
et p un caractère du groupe des
P
composantes du centralisateur d’un de ses éléments. On pose np := α∈Jord(Op ) α. Suivant la construction
de la représentation de Springer généralisée par Lusztig, on a déjà associé à (O p , p ) un entier kp et par la
représentation de Springer une représentation irréductible ρ du groupe de Weyl de type C et de rang N p :=
1/2(np −kp (kp +1)). Suivant Lusztig on associe aussi à (Op , p ) un symbole de rang np et de défaut ±(2[kp /2]+1);
le symbole qui est ici, peut être vu comme 2 collections d’entiers tous distincts avec des conditions et en
particulier dans chaque collection la différence entre 2 entiers distincts est au moins 2; cela permet aussi de
l’écrire comme un ensemble de couples (λ, δλ ) avec λ ∈ N et δλ = 0 ou 1, les éléments λ de la première ligne
étant exactement les couples (λ, +1). On va préciser les signes dans le cas qui nous intéresse c’est-à-dire celui
˜
où Jord(Op ) n’a que des entiers pairs. Sous cette hypothèse, on pose Jord(O
p ) := Jord(Op ) si cet ensemble a
11
˜
un nombre impair d’éléments et Jord(Op ) ∪ {0} sinon. On considère Jord(O
p ) comme un ensemble de nombres
croissants et donc comme un ensemble totalement ordonné, pour p donné comme ci-dessus, on prolonge p à
˜
˜
Jord(O
p ) si nécessaire en posant p (0) = +1. Le symbole associé à (Op , p ) est alors {(1/2α+|Jord(Op )<α |, δα )},
˜
δα
|Jord(O
p )<α |
où (−1) = (α)(−1)
.
Soit maintenant Np0 , Np00 un couple d’entiers tel que Np0 + Np00 = Np := 1/2(np − kp (kp + 1)) et soit ρ0p , ρ00p des
représentations des groupes WNp0 et WNp00 respectivement; on note (λ0p , µ0p ) et (λ00p , µ00p ) les partitions correspondant à ces représentations, c’est-à-dire que λ0p = {λ0p,1 ≥ · · · λ0p,t ≥ 0}, où t peut être choisi grand comme on le
souhaite et de même pour les autres partitions (où on prend le même t). On dit que l’induite endoscopique de
ρ0p , ρ00p est (Op , p ) si l’on a les égalités λp = λ0p + λ00p et µp = µ0p + µ00p , la somme est la somme des partitions.
Une variante utile consiste à remplacer ρ0p et ρ00p par des symboles (au sens ordinaire) de défaut impair (positif
ou négatif) et à demander que la somme des symboles soit le symbole associé à (O p , p ). On décrit précisément
la situation dans le cas qui nous est utile où Op n’a que des blocs de Jordan de taille paire. La condition
pour que ρ0p , ρ00p ait (Op , p ) pour induite endoscopique se traduit par l’égalité des ensembles (avec les notations
précédentes) à des termes nuls près:
˜ <α | − 2|{β ∈ Jord
˜ <α ; δβ = 0}|; δα = 0};
{λ0p,i + λ00p,i ; i ∈ [1, t]} = {1/2α + |Jord
˜ <α | − 2|{β ∈ Jord
˜ <α ; δβ = 1}|; δα = 1}.
{µ0p,i + µ00p,i ; i ∈ [1, t]} = {1/2α + 1 + |Jord
En fait, un entier n sera fixé pour nous (c’est le n du groupe unitaire) et l’induction endoscopique pour le
côté symplectique que nous utiliserons n’est l’opération décrite ci-dessus que si n est pair; sinon, c’est-à-dire
quand n est impair, on demande que la somme des symboles associés à ρ0p et ρ00p soit le symbole associé à
Op , −p , c’est-à-dire que l’on échange les 2 lignes du symbole associé à (Op , p ). On parlera donc d’induction
n-endoscopique.
côté orthogonal: soit ici Oi , i une orbite unipotente d’un groupe orthogonal et un caractère du groupe des
composantes de cette orbite. On a encore l’entier ki mais ici le fait que Ni := 1/2(ni − ki2 ) soit entier résulte
de la construction de la représentation de Springer généralisée. On note encore ρ i la représentation irréductible
associée à (Oi , i ) et on reprend les notations du cas symplectique en mettant simplement i en indice au lieu de p.
On dit ici que (Oi , i ) est l’induite endoscopique de ρ0i , ρ00i si les relations suivantes sont satisfaites: λ00i + µ0i = λi
et µ00i + λ0i = µi , où λi , µi est la représentation de Springer généralisée associée à (O i , i ). En terme de symbole
cela revient à dire que le symbole associé à (Oi , i ) est la somme du symbole associé à ρ0i et de celui associé à
ρ00i après avoir échangé les 2 collections d’entiers (c’est-à-dire dans la forme classique échanger les 2 lignes) dans
le symbole de ρ0i . On a des formules comme dans le cas symplectique.
induction endoscopique faible: ici on se donne une orbite unipotente O de GL(n, C) et une application de
Jord(O) dans {±1}. On note Op l’orbite unipotente dont les blocs de Jordan sont les blocs de Jordan pairs de O
et Oi l’orbite dont les blocs de Jordan sont ceux qui sont impairs; on définit par restriction de , les applications
i et p . Un K-type irréductible est la donnée de d0 , d00 ∈ D(n) et d’un couple de représentations irréductibles
de U (d0 , Fq ) et U (d00 , Fq ). Et comme on l’a déjà expliqué en 3.4, se donner ces représentations irréductibles
revient à se donner des entiers k 0 , k 00 et des représentations irréductibles, ρ0 , ρ00 , des groupes de Weil de type C,
W1/2(d0 −1/2(k0 (k0 +1)) et W1/2(d00 −1/2(k00 (k00 +1)) . On dit que l’induite endoscopique de ρ0 , ρ00 est (Oi ∪ Op , i ∪ p )
si en notant (λ0 ; µ0 ) et (λ00 ; µ00 ) les partitions paramétrant ρ0 et ρ00 :
il existe des partitions λ0i , λ0p , µ0i , µ0p telles que λ0 = λ0i ∪ λ0p et µ0 = µ0i ∪ µ0p ainsi que des partitions analogues
avec 0 remplacé par 00 . Et l’induite n-endoscopique de (λ0p ; µ0p ) et (λ00p ; µ00p ) est (Op , p ) tandis que l’induite
endoscopique de (λ0i ; µ0i ) et (λ00i ; µ00i ) est (Oi , i ).
Quand on identifie ρ0 et ρ00 à des partitions (au signe près), ν 0 , ν 00 , et quand les conditions ci-dessus sont
satisfaites on dira simplement que ν 0 , ν 00 est dans l’induite endoscopique faible de (Op ∪ Oi , p ∪ i ). On ne peut
pas le dire dans l’autre sens car il n’y a pas unicité (en général) de Op , Oi , p , i qui vérifient cette condition
quand ν 0 , ν 00 sont fixés.
Induction endoscopique: soient ρ0 , ρ00 et ν 0 , ν 00 comme ci-dessus, on dit que ρ0 , ρ00 ou, suivant le point de vue,
ν 0 , ν 00 , sont dans l’induite endocopique d’un couple (O, ) où O est une orbite unipotente de GL(n, C) et est
une application de Jord(O) dans {±1}, si O = Oν 0 ,ν 00 et = ν 0 ,ν 00 .
4.2
Caractérisation de l’induction endoscopique
Pour la proposition ci-dessous, on fixe O une orbite unipotente de GL(n, C) et un morphisme de Jord(O)
dans {±1}. On définit Op et Oi ainsi que p et i à partir de O et comme cela a été fait en 4.1. On note alors
O = Op ∪ Oi et = p ∪ i .
12
Proposition: Avec les notations ci-dessus. Pour d0 , d00 ∈ D(n) et pour ν 0 , ν 00 des partitions de d0 et d00 .
(i) On suppose que ν 0 , ν 00 est dans l’induite endoscopique faible de (Op , p )∪(Oi , i ) alors Oν 0 ,ν 00 ⊃ (Op ∪ Oi ).
De plus s’il y a égalité, alors ν 0 ,ν 00 = p ∪ i .
(ii) On suppose que Oν 0 ,ν 00 = Op ∪ Oi et que ν 0 ,ν 00 = p ∪ i . Alors ν 0 , ν 00 est dans l’induite endoscopique
faible de (Op , p ) ∪ (Oi , i ).
Fixons d0 ∈ N, on a déjà dit qu’il existe une bijection entre l’ensemble des couples (k 0 , ρ0 ) où k 0 ∈ N, vérifie
d0 − k 0 (k 0 + 1)/2 est un nombre positif et pair et ρ0 est une représentation irréductible du groupe de Weyl de
type C et de rang 1/2(d0 − k 0 (k 0 + 1)/2). On a déjà écrit cette bijection en 3.2 mais on la récrit ici sous la forme
qui nous intéresse. Précisément, on pose k˜0 = k 0 si k 0 est impair et k 0 + 1 si k 0 est pair. On fixe aussi t0 grand
(qui ne joue absolument aucun rôle) et on note Ẽ 0 := {ẽ0 } un ensemble de couples (e0 , δe0 0 ) où e0 est un entier
positif ou nul, δe0 0 ∈ {0, 1} et vérifiant, avec la notation, pour δ = 0 ou 1, Ẽδ0 := {(e0 , δe0 ) ∈ Ẽ 0 ; δe0 = δ}:
|Ẽ 0 | = 2t + k̃ 0 ,
|Ẽ00 | − |Ẽ10 | = k̃ 0 si k̃ 0 = k 0 et −k˜0 sinon
et ρ0 est paramétré par le couple de partition {e0 |(e0 , 0) ∈ Ẽ 0 }; {e0 |(e0 , 1) ∈ Ẽ 0 };
l’ensemble Ẽ 0 peut avoir de la multiplicité et cette multiplicité se retrouve alors dans les partitions que l’on vient
de définir. On remarque que l’on peut toujours ajouter des 0 aux partitions définissant ρ 0 de façon à ce que les
conditions précédentes soient satisfaites. Mais évidemment l’ensemble Ẽ 0 n’est pas uniquement défini (à cause
d’un ajout de 0 possible). On ordonne totalement les ensembles Ẽδ0 pour δ = 0 ou 1 de sorte que (e0 , δ) > (f 0 , δ)
entraı̂ne que e0 ≥ f 0 . On ordonne ensuite totalement l’ensemble Ẽ 0 lui-même de la façon suivante:
(e0 , δe0 ) > (f 0 , δf 0 ) ⇔ 2e0 + δe0 + 2|{(ẽ ∈ Ẽδ0 e0 ; ẽ < (e0 , δe0 )}| > 2f 0 + δf 0 + 2|{(f˜ ∈ Ẽδ0 f 0 ; f˜ < (f 0 , δf 0 )}|.
0
; ẽ < (e0 , δe0 )}|; (e0 , δe0 ) ∈ Ẽ 0 }. L’ordre total
Alors ν 0 = {2e0 + δe0 + |{(ẽ ∈ Ẽδ0 e0 ; ẽ < (e0 , δe0 )}| − |{(ẽ ∈ E˜1−δ
e0
sur Ẽ 0 induit un ordre total sur ν 0 qui est compatible avec l’ordre usuel. On définit aussi l’application de ν 0
(comme ensemble ordonné) dans {±1} en posant 0 (α0 ) = (−1)δe0 si α0 est le terme correspondant à (e0 , δe0 )
l’ordre compte ici (sinon ceci ne serait pas défini) car E 0 n’a pas de raison d’être sans multiplicité. On voit donc
ν 0 comme un ensemble de couple (α0 , 0α0 ) avec 0α0 ∈ {±1}.
Supposons maintenant que (d0 , d00 ) ∈ D(n) soit donné avec un U (d0 , Fq ) × U (d00 , Fq )-type, c’est à dire 2 couples
(k 0 , ρ0 ) et (k 00 , ρ00 ) comme ci-dessus. On suppose que 2t0 + k̃ 0 = 2t00 + k̃ 00 (il suffit de faire des choix convenables).
On reprend les notations précédentes en mettant des 00 chaque fois qu’il le faut. On a donc les ensembles
totalement ordonnés Ẽ 0 et Ẽ 00 qui permettent de calculer les partitions ν 0 et ν 00 . On définit une application δ de
δ 0 +δ 00
Ẽ 0 ∪ E˜00 dans {±1}, en écrivant δ(ẽ0j ) = δ(ẽ00j ) = (−1) ej ej pour tout j ∈ [2t0 + k̃ 0 ] et où ẽ0j sont les éléments
de Ẽ 0 ordonnés de façon décroissante et de même pour ẽ00j . On pose alors
0
Ẽpair
:= {ẽ0 ∈ Ẽ 0 ; δ(ẽ0 ) = +}
00
Ẽpair
:= {ẽ00 ∈ Ẽ 00 ; δ(ẽ00 ) = +}
0
Ẽimpair
:= {ẽ0 ∈ Ẽ 0 ; δ(ẽ0 ) = −}
00
Ẽimpair
:= {ẽ00 ∈ Ẽ 00 ; δ(ẽ00 ) = −}.
0
et on définit de même ρ0impair ,
En revenant à ρ0 et ρ00 , on définit ρ0pair à l’aide des 2 partitions issues de Ẽpair
0
0
0
0
ρ00pair et ρ00impair ; on pose aussi kpair := |Ẽpair
∩ Ẽ10 |.
∩ E˜00 | − |Ẽpair
∩ Ẽ10 | et kimpair := |Ẽimpair
∩ E˜00 | − |Ẽimpair
Ces nombres ne sont pas nécessairement positifs mais on a déjà dit que pour nous les symboles n’avaient pas
forcément de défaut positif. Le point clé est le suivant; pour ẽ0 ∈ Ẽ 0 , on pose:
νẽ0 0 ,parite := 2e0 + δe0 + |{f˜0 ∈ Ẽ 0 ; f˜0 < ẽ0 ; δf 0 = δe0 ; δ(f˜0 ) = δ(ẽ0 )}| − |{f˜0 ∈ Ẽ 0 ; f˜0 < ẽ0 ; δf 0 = −δe0 ; δ(f˜0 ) = δ(ẽ0 )}|.
0
On définit de même νẽ0000 ,parite . On définit alors la partition νpair
en regardant la collection des νẽ0 0 ,parite pour ẽ0
00
0
00
0
.
tel que δ(ẽ ) = +. Et on définit de même les partitions νpair , νimpair pour laquelle δẽ0 = − puis νimpair
0
00
0
00
La partition somme ν 0 + ν 00 est la réunion des 2 partitions νpair
+ νpair
et νimpair
+ νimpair
.
Cela résulte de l’égalité pour tout couple ẽ0j , ẽ00j (notations déjà introduites ci-dessus):
|{f˜0 ∈ E˜0 ; f˜0 < ẽ0j ; δf 0 = δe0j ; δ(f˜0 ) = δ(ẽ0 )j }| − |{f˜0 ∈ Ẽ 0 ; f˜0 < ẽ0j ; δf 0 = −δe0j ; δ(f˜0 ) = δ(ẽ0 )j }|
+|{f˜00 ∈ Ẽ 00 ; f˜00 < ẽ00j ; δf 00 = δe00j ; δ(f˜00 ) = δ(ẽ00j )}| − |{f˜00 ∈ Ẽ 00 ; f˜00 < ẽ00j ; δf 00 = −δe00j ; δ(f˜00 ) = δ(ẽ00j )}|
13
= |{f˜0 ∈ Ẽ 0 ; f˜0 < ẽ0j ; δf 0 = δe0j }| − |{f˜0 ∈ Ẽ 0 ; f˜0 < ẽ0j ; δf 0 = δe0j }|
+|{f˜00 ∈ Ẽ 00 ; f˜00 < ẽ00j ; δf 00 = δe00j }| − |{f˜00 ∈ Ẽ 00 ; f˜00 < ẽ00j ; δf 00 = −δe00j }|
On pose O = Oν 0 ,ν 00 et Opair l’orbite définie par les blocs de Jordan de taille paire ainsi que Oimpair celle
définie par les blocs de Jordan de taille impaire. Avec cela il n’est pas difficile de démontrer que ρ 0pair , ρ00pair
est dans l’induite endoscopique de Opair , pair et le même résultat avec pair remplacé par impair; on a écrit
les formules qu’il fallait dans la définition de l’induite endoscopique. On va plutôt montrer que pair , impair
s’obtient à partir de ν 0 ,ν 00 comme expliqué avant l’énoncé. Pour cela, on a besoin de la partition ν 00 ; elle est
indexée par les éléments de Ẽ 00 et on rappelle que ce dernier ensemble a par hypothèse un nombre impair de
termes et le même nombre de terme que Ẽ 0 . Pour calculer Oν 0 ,ν 00 , on fait la somme terme à terme ν 0 + ν 00 . Ainsi
on trouve les blocs de Jordan de Oν 0 ,ν 00 , dont certains peuvent être nuls car par définition on en a un nombre
˜
impair. On note Jord(O)
l’ensemble des blocs de Jordan trouvé; quitte à diminuer t0 et t00 , on peut s’arranger
˜
˜
pour que Jord(O)
ait au plus un terme nul et à ce moment là, on a pour tout α ∈ Jord(O)
qui correspond,
δe0 +δe00
00
α
0
˜
par définition, à 2 éléments ẽ j , ẽj (même j), (−1) = (−1) j j . On reprend les notations Jord(O)
<α,opp
˜
analogues à celles de 3.4 et on introduit de façon similaire Jord(O)<α,parite . Avec les notations, α, ẽ00j qui
viennent d’être introduites, on a:
00
ν 00 (α) = 2e00j + δe00j + 2|{f˜00 ∈ Ẽ 00 ; f˜00 < ẽ00j ; δf 00 = δe00j }| − |Ẽ<ẽ
00 |.
j
00
|−|Ẽ<ẽ00 |
00
δ 00
00
˜
j .
On a donc (−1)ν (α) = (−1) ej (−1)
On remplace | − |Ẽ<ẽ
Et on décompose
00 | par |Jord(O)<α |.
j
˜
˜
˜
|Jord(O)<α | = |Jord(O)<α,parite | + |Jord(O)<α,opp |. On écrit donc:
(−1)ν
00
(α)
˜
(−1)Jord(O)<α,opp = (−1)
δe00
j
˜
(−1)Jord(O)<α,parite .
˜
On a besoin de remarquer que Jord(O)
impair = Jord(O)impair et que le cardinal de cet ensemble a la parité de
n. Par contre
(
Jord(O)pair si Jord(O)pair 6≡ n[2] ,
˜
Jord(O)
pair =
Jord(O)pair ∪ {0} sinon
˜
et que dans tous les cas la parité de |Jord(O)|
est l’opposée de celle de n. Il s’en suit que pour α pair
˜
˜
Jord(O)
=
Jord(O)
et
que
pour
α impair |Jord(O)
<α,opp
<α,opp (
<α,opp | ≡ |Jord(O)>α,opp | + n + 1. D’où:
ν 0 ,ν 00 (α) si α est pair
00
˜
De plus par
(−1)ν (α) (−1)|Jord(O)
<α,opp | =
˜
ν 0 ,ν 00 (α)(−1)|Jord(O)pair | = ν 0 ,ν 00 (α)(−1)n+1 si α est impair.
définition par définition de l’induction endocopique:
(
(−1)n+1 impair (α) si α est impair,
δe00
˜
Jord(O)
<α,parite =
(−1) j (−1)
pair (α) si α est pair;
pour l’égalité dans le cas α pair, il y a un (−1)n qui vient de notre définition et(un autre (−1)n qui vient du
impair (α) si α est impair
˜
fait que le cardinal de Jord(O)
pair est de la parité de n + 1. D’où ν 0 ,ν 00 (α) =
pair (α) si α est pair.
Maintenant pour démontrer le lemme, on part d’une partition de ρ0 et ρ00 en pair et impair et on fait les
0
constructions en sens inverse; on a donc Ẽpair
.... qui donne des partitions de E˜0 .... La seule chose qui diffère est
0
0
que l’ordre sur Ẽ tel qu’on l’a défini n’est pas nécessairement compatible avec les ordres sur Ẽpair
.... Il n’est
même compatible que quand on a la partition spéciale définie ci-dessus. Et en remontant les calculs, on voit
que quand les ordres ne sont pas compatibles alors Oν 0 ,ν 00 est strictement plus grande que la réunion de l’orbite
paire et impaire définies par la décomposition. Cela termine la preuve.
5
5.1
Construction de représentations
Lien avec les constructions de Lusztig
La construction donnée par Lusztig des représentations de réduction unipotentes des groupes unitaires fait
partie du cadre général [7]. On revient à la classification de Langlands 2.2. Cette classification se fait à l’aide
14
des couples (O, ) où OPest une orbite unipotente de GL(n,
P C) et où est une application de Jord(O) dans
{±1}; on pose np :=
α
et
n
:=
α
i
α∈Jord(O);(−1) =+1
α∈Jord(O);(−1)α =−1 α. On note aussi Op et Oi les
orbites unipotentes de GL(np , C) et GL(ni , C) dont les blocs de Jordan sont respectivement les blocs de Jordan
de O de taille paire et ceux de taille impaire. On note p et i les restrictions de à Jord(Op ) et Jord(Oi )
respectivement. Pour m ∈ N, on note Wm le groupe de Weyl de type C et de rang m et H(Wm ) l’algèbre de
Hecke affine associée à ce groupe de Weyl. La représentation de Springer généralisée, associe à (O p , p ) (resp.
(Oi , i )) un entier kp (ki tel que ni −ki2 est pair) et une représentation non irréductible de W(np −kp (kp +1))/2 (resp.
W(ni −ki2 )/2 ); c’est la représentation dans la cohomologie de la variété de Springer généralisée. On utilisera plus
tard ces représentations. Pour le moment on n’utilise que ki et kp ; on note ζ le signe de 2(ki − kp ) − 1 et on pose
A := 2(ki +kp )+1 et B := ζ(2(ki −kp )−1). On pose aussi N := (n−ki2 −kp (kp +1))/2. On forme alors l’algèbre
de Hecke HN,A,B (cf. [14] 1.4). On pose encore Cp := A − ζB et Ci := A + ζB; avec ces nombres on forme les
algèbres de Hecke graduées, H(M, C? ) pour tout M ∈ N. Pour un couple d’entiers N 0 , N 00 tels que N = N 0 +N 00 ,
Lusztig a construit une équivalence de catégorie entre la catégorie des classes d’isomorphie de représentations
de HN,A,B avec un caractère central fixé par N 0 , N 00 et les classes d’isomorphie de représentations de l’algèbre
HN 0 ,A,B ⊗ HN 00 ,A,B pour un caractère central correspondant (cf. [14] 1.7), cela dépend d’un certain nombre de
choix et en particulier du choix d’un signe que nous prenons égal à notre ζ ci-dessus (les notations sont alors
celles de loc.cite). Et toujours grâce aux constructions de Lusztig, cette dernière catégorie est encore isomorphe
(par un passage au gradué) à la catégorie des représentations de H(N 0 , Ci ) ⊗ H(N 00 , Cp ) (cf. [14] 1.9). Le
calcul des constantes A, B, Ci , Cp a été fait à partir des tables de Lusztig ([7]) de façon à obtenir le résultat
ci-dessous. Aux entiers ki , kp et à ] fixé, on associe une représentation cuspidale de U (ki2 + kp (kp + 1), F )]
2
si ki est impair, aucune si ki est pair et ] 6= (−1)kp (kp +1)/2+ki /2 , 1 si ki = 0 et 2 dans le cas restant ki 6= 0
pair et ] = (−1)(kp (kp +1)+ki )/2 ; on renvoit à 3.5 pour la construction; on écrit ces représentations cuspidales
cusp(ki , kp , η) où η est un signe (on n’a pas besoin de le préciser, il est lié au ζ de 3.5 qui n’est pas le ζ qui est
ici). En résumé
La catégorie des représentations de U (n, F )] de réduction unipotente de type ni , np , cusp(ki , kp , η) est équivalente
à la catégorie des représentations de H(Ni , Ci ) ⊗ H(Np , Cp ). On note πunip (O, ) la représentation construite à
partir des données ci-dessus.
Toutefois il faut faire attention à un point clé, c’est que les constructions donnent naturellement non pas les
séries discrètes mais leur image par une involution (c’est-à-dire ce que l’on a appellé ailleurs des représentations
quadratiques unipotentes). Cette involution, a été définie entre autre par Aubert dans [2] et par Schneider et
Stuhler dans [12]. Il faut s’accorder sur les signes; ici on note |D| la dualité qui est telle qu’une irréductible soit
une irréductible (on l’avait noté D en [10]). On pose π(O, ) := |D|πunip (O, ).
5.2
Calcul du signe introduit par l’involution
La propriété (qui résulte facilement des formules de [2] et [12]) est que pour π une représentation irréductible et
γ un élément elliptique régulier du groupe, le caractère de π en γ diffère du caractère de D(π) en γ par le signe
(−1)rgG−rg(Pcusp ) où Pcusp est un parabolique minimal avec la propriété que le module
P de Jacquet de π le long
de son radical unipotent soit non nul. En notant D l’involution définie par D(π) := P (−1)rg(G)−rg(P ) IndG
P ◦
ResP π, on a simplement D(π) = (−1)rgG−rg(Pcusp ) |D|(π) avec la même définition que ci-dessus. On a besoin
de calculer ce signe.
Proposition: Soit π une représentation tempérée versus elliptique, autoduale, de U (n, E/F ) ] paramétrée
par le couple (ψ, ) et soit γ un élément elliptique régulierQde ce groupe. Alors le caractère de π et de |D|π en
γ diffère par un signe qui ne dépend que de ψ et le signe α∈Jord(O);α≡0[2] (α).
C’est en fait un résultat très général pour tous les groupes classiques qui dépasse le niveau 0, mais on n’a pas
introduit les notations nécessaires.
2
2
On doit calculer (−1)(n−kp (kp +1)−ki )/2 où ki et kp ont été définis en 5.1. On remarque que (−1)(n−ki )/2 =
(−1)[n/2] par le fait que ki est un carré de même parité que n. Il s’agit donc de montrer que (−1)kp (kp +1)/2 =
Q
α≡0[2] (α). C’est une propriété de la représentation de Springer: on part d’une orbite O p d’un groupe symplectique avec un morphisme de Jord(Op ) dans ±1. On cherche à calculer la partie cuspidale de la représentation
de Springer; pour cela on peut enlever de Op tout couple α, α0 de blocs de Jordan consécutifs et tels que
(α) = (α0 ) et on peut répéter cette opération autant de fois que possible et on doit encore enlever le plus
petit des blocs de Jordan, αmin si (αmin ) = +1. A la fin, on se retrouve avec une orbite Opseudo−cusp d’un
groupe symplectique plus petit avec Jord(Opseudo−cusp ) ⊂ Jord(Op ) et avec la propriété que pour α0 , α 2 blocs
de Jordan consécutif (α0 ) = −(α) et (αmin ) = −1. Alors kp = |Jord(Opseudo−cusp )|. Et avec les propriétés
15
Q
de |Jord(Opseudo−cusp) que l’on vient de donner, on vérifie que (−1)kp (kp +1)/2 = α∈Jord(Opseudo−cusp ) (α). Or
Q
Q
par construction α∈Jord(Opseudo−cusp ) (α) = α∈Jord(O) (α). D’où le résultat annoncé.
5.3
Calcul du gradué des représentations
Proposition: Soit (O, ) comme ci-dessus et donc πunip (O, ). Alors respar πunip (O, ) ∈ C[ŜD(n ]≥O,global . Et
les termes de plus bas degré sont exactement les K-types ν 0 , ν 00 tels que (O, ) = (Oν 0 ,ν 00 , ν 0 ,ν 00 ). Chacun de ces
K-types intervenant avec multiplicité 1.
Le premier point est de se ramener à un problème de représentation de groupe de Weyl de type C. C’est ce qui
est fait dans la première partie de la démonstration [14] proposition de 5.2. La démonstration est complètement
générale, elle s’inspire d’une idée de Lusztig que les représentations des groupes de Weyl ne se déforment pas
continuement. Ensuite ce dont on a besoin est que les K-types qui interviennent ont une décomposition en
parties paire et impaire qui provient exactement de la séparation entre la partie symplectique (paire) et la
partie orthogonale (impaire). On a donc pour chaque K-type, par induction endoscopique symplectique, resp.
orthogonale des orbites Opair resp. Oimpair dont la fermeture contient Op et Oi respectivement. A fortiori avec
le lemme de 4.2, on obtient que l’orbite associée en faisant la somme des partitions contient dans sa fermeture
Op ∪ Oi . On voit aussi que quand ces orbites coı̈ncident les caractères aussi coı̈ncident. Quant à la multiplicité
1, il suffit de voir que les K-types pour lesquels il y a coı̈ncidence interviennent avec multiplicité exactement 1;
c’est une adaptation de la démonstration de [13] XII.6.
6
6.1
Transformation
définition
Soit O une orbite unipotente de GL(n, C). Soient aussi , 0 des applications de Jord(O) dans {±1}. On pose
(les produits ci-dessous sont indexés par Jord(O) considéré sans multiplicité):
Q
< 0 , >:= α∈Jord(O);0 (α)=−1 (α),
Q
0
σ := α∈Jord(O);α≡n+1 0 (α)multα (Jord(O)) ,
Q
σ := α∈Jord(O);(α)=−1 (−1)|Jord?α,opp(O)| multα (Jord(O)) ,
où Jord?α,opp (O) est comme en 3.4. On considère l’espace vectoriel C[(O, )] de base l’ensemble des couples
(O, ) où O est une orbite unipotente comme ci-dessus et est une application de Jord(O) dans {±1}. On
définit un endomorphisme linéaire de C[(O, )], en posant pour tout (O, ) comme ci-dessus,
X
0
σ σ < , 0 > (O, 0 ).
F(O, ) :=
0 :Jord(O)→{±1}
0
On remarque que le facteur σ σ < , 0 > n’est pas symétrique en et 0 . On peut toutefois définir un autre
endomorphisme de C[(O, )], en posant avec les mêmes notations que ci-dessus:
X
F 0 (O, ) :=
σ σ0 < , 0 > (O, 0 ).
0 :Jord(O)→{±1}
On vérifie alors sans difficultés que le composé F 0 F(O, ) = 2|Jord(0)|(O, ). Cela prouve que F est bijectif et
donne un inverse explicite.
Comme dans [10], on veut que F laisse stable ce qui correspond aux représentations elliptiques. Ici c’est
beaucoup plus simple que dans loc. cite mais cela nécessite des notations.
6.2
Ellipticité
La partie ”discrète” est, elle, facile à décrire, c’est le sous-espace notée C[(O, )] disc qui est engendré par les
couples (O, ) tel que Jord(O) soit sans multiplicité.
La partie ”elliptique” notée C[(O, ell )] est plus difficile à décrire. La notation est volontairement différente
de ci-dessus. La partie elliptique est un sous-espace vectoriel du sous-espace de base les couples (O, ) où O est
tel que dans Jord(O) la multiplicité est au plus 2; une telle orbite O est dite pseudo-elliptique. Maintenant on
décrit une base de C[(O, ell )], en considérant les couples (O, ell ) où O est pseudo-elliptique et où ell est une
16
application du sous-ensemble de Jord(O) formé des éléments n’ayant que multiplicité 1 dans {±1}. Et l’élément
de la base correspondant est
X
Y
2−|{α∈Jord(O);multα (Jord(O))=2}|
(α)(O, ),
:Jord(O)→{±1}
α ∈ Jord(O);
multα (Jord(O)) = 2
où la somme ne porte que sur les dont la restriction aux éléments de Jord(O) de multiplicité 1 est le ell fixé.
Attention ici, dans le produit chaque α n’intervient qu’une fois (sinon le signe serait constant égal à 1). Avec
les notations ci-dessus, on pose encore ell,− l’application de Jord(O) dans {±1} qui prolonge ell par (α) = −
pour tout α intervenant avec multiplicité 2 dans Jord(O).
Remarque: l’application F laisse stable C[(O, )]disc et induit une bijection de C[(O, ell ] sur C[(O, ell,− )] .
L’assertion relative à disc est claire et nous démontrons l’autre. On est libre et nous le ferons donc de fixer
O une orbite unipotente pseudo-elliptique. Fixons aussi ell comme dans ce qui précède l’énoncé. L’élément
de la base correspond à (O, ell ) est une combinaison linéaire des (O, ) pour étendant ell à tout Jord(O).
Pour cette preuve, on note [ell ] l’ensemble des applications ayant cette propriété. Pour toute application 0ell
de même nature que ell , on définit de la même façon [0ell ]. On note < (O, 0ell ) > l’élément de la base qui lui
0
correspond. On remarque que σ ne dépend pas du choix de ∈ [ell ] et de même σ ne dépend pas du choix
0
0
0
de dans [ell ]; en effet les α sur lesquels ou peuvent varier interviennent avec multiplicité exactement 2
0
et (−1)2 = 1. On note alors ces signes σ[ell ] et σ [ell ] . Cette indépendance ne vaut pas pour le signe < 0 , >,
mais en séparant dans la formule qui définit ce signe la contribution des α qui interviennent avec multiplicité 1
dans Jord(O) de celle des α qui interviennent avec multiplicité 2 sous la forme:
Y
(α).
< , 0 >=< [0ell ], [ell ] >
α ∈ Jord(O);
multα (Jord(O)) = 2,
0 (α) = −1
Montrons alors la formule: F(< (O, ell ) >) =
quant la définition, on obtient:
X
X
0
σ [ell ] σ[ell ]
0ell 0 ∈[0ell ],∈[ell ]
P
0
0ell
σ [ell ] σ[ell ] < [0ell ], [ell ] > (O, 0ell,− ). En effet, en appli-
F(< (O, ell ) >) = 2−|{α∈Jord(O);multα (Jord(O))=2}
Y
< [0ell ], [ell ] >
(α)
α ∈ Jord(O);
multα (Jord(O)) = 2,
0 (α) = −1
Y
(α)(O, 0 ).
α ∈ Jord(O);
multα (Jord(O)) = 2
On remarque que
Y
α ∈ Jord(O);
multα (Jord(O)) = 2,
0 (α) = −1
(α)
Y
(α) =
α ∈ Jord(O);
multα (Jord(O)) = 2
Y
(α)
α;multα (Jord(O))=2,0 (α)=1
et on a à sommer ces signes, pour 0 fixé, sur ∈ [ell ]. Cette somme est nulle sauf si 0 = 0ell,− auquel cas elle
vaut 2|{α∈Jord(O);multα (Jord(O))=2}| .
6.3
Produit scalaire elliptique
L’ensemble des représentations elliptiques (pour un groupe réductif p-adique très général) a été muni d’un produit scalaire par Arthur; c’est ce que nous reprenons comme produit scalaire. On obtient une base orthonormée
pour ce produit scalaire en considérant l’ensemble des représentations π(O, ell ) (cf ci-dessus) où O parcourt
l’ensemble des orbites pour lesquelles Jord(O) est de multiplicité au plus 2 et où ell est une application de
{α ∈ Jord(O); multα (Jord(O)) = 1} dans {±1}.
On a aussi dans ce travail considéré les représentations des groupes finis S d0 × Sd00 ; le produit scalaire
elliptique pour un groupe fini devrait être l’intégration des caractères sur les éléments elliptiques. C’est ce que
17
l’on fait ici mais en considérant qu’un élément de Sd (pour d = d0 ou d00 ) est elliptique s’il n’a pas de cycle de
longueur paire; ces éléments sont dits U -elliptiques. C’est ce qui est utilisé dans [13] et [10] et justifié par le
paramétrage des tores elliptiques des groupes unitaires.
Définition: On appelle représentation U -elliptique d’un groupe symétrique toute représentation irréductible
de ce groupe paramétré par une partition sans multiplicité.
Cette définition est justifiée par la proposition ci-dessous.
Proposition: Fixons d ∈ N. Les caractères des représentations irréductibles U -elliptiques de S d forment
une base d’un supplémentaire dans l’ensemble des fonctions invariantes sur Sd du noyau du produit scalaire
elliptique.
On montre d’abord qu’il y a le même nombre de partitions de d sans multiplicité que de partitions de d ne
contenant que des nombres impairs. Pour
Q cela, on interprète le nombre de partitions de d sans multiplicité
comme le coefficient de xd dans la série i∈N>0 (1 + xi ) et le nombre de partitions de d ne contenant que des
Q
nombres impairs comme le coefficient de xd dans la série j∈N 1/(1 − x2j+1 ). Pour démontrer que ces nombres
sont égaux, on démontre que les
Q qu’on obtient la même série
Q séries sont égales. Pour cela, il suffit de démontrer
en les multipliant par la série i∈N>0 1/(1 − x2i ). Dans les 2 cas, le résultat est i∈N>0 1/(1 − xi ).
La démonstration ci-dessous m’a été communiquée par J.-L. Waldspurger. On pose S̃d le produit semi-direct
de Sd avec le groupe à 2 éléments {1, F } où F agit sur Sd par F.σ = wd σwd où wd est la permutation qui
envoie j ∈ [1, d] sur d − j. On appelle Levi de S̃d les sous-groupes
×d1 ,··· ,dr ;d0 | P 2dj +d0 =d Sd1 × · · · × Sdr × Sd0 × Sd1 × · · · × Sdr n {1, F }.
Au lieu de regarder les fonctions sur Sd on regarde les fonctions sur le sous-ensemble Sd F de S̃d , quand on
regarde les fonctions invariantes, cela ne change pas grand chose sauf que cela permet d’interpréter les fonctions
à support dans l’ensemble des éléments de Sd ayant des cycles tous de longueur impaire comme les fonctions
cuspidales. On remarque maintenant que pour π une représentation irréductible de Sd , il y a exactement 2 façons
de la remonter en une représentation irréductible de S̃d et quand on restreint le caractère de ces 2 prolongements
à Sd F , on réobtient une fonction invariante, essentiellement le caractère de la représentation de départ. Pour
démontrer notre assertion, il suffit donc de démontrer que les traces des représentations irréductibles de S d
vues comme fonctions sur Sd F forment un supplémentaire des fonctions obtenues comme trace des induites à
partir des Lévis décrits ci-dessus. Ceci est clair, c’est en fait essentiellement l’interprétation de l’égalité:
Y
Y
Y
1/(1 − xi )
1/(1 − x2i ) =
1/(1 − x2i+1 ) ×
i∈N
i∈N>0
i∈N>0
qui est évidente.
6.4
Isométrie
On a défini l’application Ind◦Res de C[ŜD(n) ] dans lui-même. On munit C[ŜD(n) ] du produit scalaire elliptique
comme décrit dans 6.3.
Lemme: L’application Ind ◦ Res est une isométrie.
Avec les définitions données ici, c’est loin d’être clair, il faut en revenir à la définition de [10] 3.1 et 3.2. On
note Wn le groupe de Weyl de type C et de rang n. On note pn la projection de Wn sur Sn évidente et on note
sgnCD le signe sur Wn dont le noyau est le groupe de Weyl de type D. Toutes ces définitions se généralisent
pour d un entier quelconque. Pour (d1 , d2 ) ∈ D(n), on note ρd1 ,d2 l’application de Sd1 × Sd2 dans Wn qui à
w0 , w00 associe l’élément w vérifiant:
(
w0 (i), si i ∈ {1, · · · , d1 },
w(i) =
−d1 − w00 (i − d1 ), si i ∈ {d1 + 1, · · · , n}.
Ce n’est donc pas un isomorphisme de groupe mais une application qui respecte les classes de conjugaison. En
faisant la somme sur tout (d1 , d2 ) ∈ D(n), on peut donc définir une application ρ∗ : C[Ŵn ] → C[ŜD(n) ].
18
Pour (d0 , d00 ) ∈ D(n) et pour f 0 ∈ C[Ŝd0 ] et f 00 ∈ C[Ŝd00 ], on définit d’abord f0 une fonction sur Wd0 × Wd00 ,
en posant f0 (w0 , w00 ) := f 0 ◦ ρd0 (w0 )f 00 ◦ ρd00 (w00 )sgnCD (w00 ). Puis on pose ιd0 ,d00 (f 0 , f 00 ) l’induite de f0 à Wd
(c’est-à-dire la fonction f0 rendue invariante). En sommant sur tous les (d0 , d00 ), on définit ι : C[ŜD(n) ] → C[Ŵn ].
Et
Ind ◦ Res = ρ∗ ◦ ι.
Il est rappelé dans loc.cite que ι est un isomorphisme; ce point est facile et c’est en fait une tautologie car
c’est la description des représentations irréductibles de Wn (à l’aide de 2 partitions). Il est aussi démontré dans
loc. cite, que ρ∗ est un isomorphisme quand on se limite aux éléments U -elliptiques (un élément de Wn est dit
U -elliptique si son image par pn l’est). L’argument ici est que pour w ∈ Wn que l’on suppose U -elliptique il
existe exactement un couple (d1 , d2 ) ∈ D(n) et une seule classe de conjugaison C1 dans Sd1 et une C2 dans Sd2
tels que ρd1 ,d2 (C1 , C2 ) ∈ C, où C est la classe de conjugaison de w.
C’est cela qui prouve que ρ∗ ◦ ι est une isométrie pour le produit scalaire elliptique.
6.5
Définition de Spell
Soit (O, ell ) une orbite unipotente de GL(n, C) et ell une application de {α ∈ Jord(O); multα (Jord(O)) = 1}
dans {±1}. On suppose que les multiplicités dans Jord(O) sont au plus 2 et on prolonge ell à tout Jord(O)
en posant ell (α) = −1 pour tout α intervenant avec multiplicité 2 dans Jord(O); c’est ce que l’on a noté ell,−
en 6.2. On décompose Jord(O) =PJord+ (O) ∪ Jord− (O) de telle sorte que (−1)multα (Jord− (O)) = ell,− (α). On
pose encore, pour η = ±, nη := α∈Jordη (O) α. Grâce aux travaux de Springer, pour η = ±, on sait associer
une représentation irréductible Sp(Oη ) de Snη à l’orbite Oη . Et on pose Sp(O, ell ) := Sp(O+ ) ⊗ Sp(O− ), c’est
une représentation de Sn+ × Sn− , elliptique d’ailleurs au sens de 6.3.
Définition: Soit (O, ell ) comme ci-dessus. On note Spell (O, ) l’unique représentation de Sn+ × Sn− avec les
propriétés suivantes:
P
Spell (O, ell ) ∈ Sp(O, ell ) + (O0 ,0 );O0 ⊃O CSp(O0 , 0ell )
ell
< Spell (O, ell ), Sp(O
0
, 0ell
6=
0
0
>ell = 0, ∀(O , 0ell ) elliptique avec O ⊃ O,
6=
la somme ci-dessus ne fait intervenir que les données elliptiques (O 0 , 0ell ).
On a vu en 6.3 que cela était bien défini et que l’on construisait ainsi une base pour le produit scalaire elliptique.
En fait on a un peu plus concernant Spell (O, ell ) avec la même référence:
Remarque: Dans les notations ci-dessus, Spell (O, ell ) − Sp(O, ell ) ∈
P
0 ,O 0
O+
−
0
0
C(Sp(O+
) ⊗ Sp(O−
)), où la
0
0
somme porte sur les orbites unipotentes O+
de GL(n+ , C) et O−
de GL(n− , C) qui vérifient Oη0 ⊃ Oη et en
0
0
0
notant O0 l’orbite de GL(n, C) dont les blocs de Jordan sont la réunion de ceux de O+
et O−
, alors O ⊃ O.
6=
7
Calcul de la restriction des représentations aux parahoriques
On a défini F en 6 et on utilise la notation k de 3.1. Soient (O, ell ) une orbite de GL(n, C) et ell comme dans
6.5; en particulier O est supposée pseudo elliptique. On reprend des notations déjà introduites dans 3.7.5,
Y
σO :=
(−1)|{β>α;β pair}| (−1)Ni (Ni −1)/2 ,
α∈Jord(O);α impair
où Ni := |{α ∈ Jord(O), α impair}|. On pose F|D|π(O, ) :=
Théorème: Avec les notations ci-dessus:
P
0
0
σO σ σ < , 0 > |D|π(O, 0 ).
∗
respar F|D|π(O, ell ) =ell σO k ◦ Ind ◦ Res Spell (O, ell )∗ .
c’est-à-dire que l’égalité ci-dessus est l’égalité des caractères des représentations écrites sur les éléments elliptiques.
19
Avant de faire la preuve écrivons plus explicitement F, c’est-à-dire que la formule du théorème est:
Q
Q
P Q
0ell (α) α≡0[2] 0ell (α) α∈Jord(O);ell (α)=−1 0ell (α)πunip (O, 0ell )
respar 0
α∈Jord(O);α≡n+1[2]
ell
∗
=ell σO σell k ◦ Ind ◦ Res Spell (O, ell )∗ .
En fait on suit la démonstration de [10]. On vérifie d’abord que chaque côté de l’égalité écrite se trouve dans
C[ŜD(n) ]≥O,global et on calcul le terme de plus bas degré; cela résulte de 3.7.4 et 5.3. La définition de F donnée
en 6 est exactement faite pour que ces 2 côtés aient même gradué (on utilise d’abord la remarque de 6.2). On sait
0
aussi que C[ŜD(n) ]>O,global est engendré par les respar πunip (O0 , 0 ) pour O ⊃ O. Mais pour le produit scalaire
elliptique on peut se limiter aux πunip (O0 , 0ell ) pour (O0 , 0ell ) elliptique, c’est-à-dire démontrer que chacun des
2 côtés de l’égalité du théorème a un produit scalaire elliptique nul contre les res par πunip (O0 , 0ell ) pour O0
comme ci-dessus. C’est clair pour le terme de gauche. En admettant le résultat
∗ du théorème par récurrence
descendante, on remplace respar πunip (O0 , 0ell ) par k ◦Ind◦Res Spell (O0 , 0ell )∗ . La dualité est la tensorisation
par un signe et est donc une isométrie (pour n’importe quoi); on a vu que Ind ◦ Res est une isométrie pour
le produit scalaire elliptique (6.4). L’application k est aussi une isométrie; cela fait partie des propriétés des
faisceaux caractères. L’orthogonalité cherchée résulte alors de la construction même de Sp ell donnée ci-dessus.
Corollaire: Soient O, comme ci-dessus. Alors, si n est pair (et en identifiant encore ] à un élément de {±1}):
X
Y
∗
0ell (α)π(O, 0ell )
k ◦ Ind ◦ Res Spell (O, ell )∗ =ell ]σO σell respar
0ell α;ell (α)=−1
tandis que si n est impair:
k ◦ Ind ◦ Res Spell (O, ell )∗
∗
=ell σO σell respar
X
Y
0ell (α)π(O, 0ell )
0ell α;ell (α)=−1
Cela résulte des formules écrites ci-dessus.
8
8.1
Stabilité pour les représentations de réduction unipotente
Enoncé et commentaires
Si l’on a fait tout ce travail c’est pour obtenir le théorème de 7 parce qu’il permet de terminer modulo un
travail en cours d’Aubert, Kutzko et Morris, la description des paquets stables “de niveau 0” pour les groupes
orthogonaux impairs. Toutefois on peut obtenir comme corollaire de ce résultat la description des paquets stables
pour les représentations tempérées des groupes unitaires de réduction unipotente (ce sont les représentations que
l’on a étudiées ici). A partir de maintenant on suppose que p est grand pour pouvoir utiliser [10] 3.4. Dans le
théorème ci-dessous,
on utilise la notation suivante: pour O une orbite de GL(n, C) et pour : Jord(O) → {±1},
Q
on note O := α∈Jord(O) (α)multα (Jord(O)) et on dit que O = ] si O = + si ] = iso et O = − si ] = −. En
outre on se limite aux représentations tempérées que l’on a appelées versus elliptique en 2.3. Ce cas contient le
cas des représentations elliptiques et ce qui manque est donc obtenu par induction irréductible. Pour ] = iso ou
an et pour (O, ) un couplePformé d’une orbite unipotente de GL(n, C) et d’une application de Jord(O) dans
{±1}, on pose: Π], O := :Jord(O)→{±1};O =] π(O, ). Comme O détermine un paramètre ψ (cf 2.2), cette
notation est similaire à celle de l’introduction (mais plus commode).
Théorème: (p est supposé grand) Soit ] = iso ou an et G] := U (n, F )] .
(i) Soit O une orbite unipotente de GL(n, C) discrète (c’est-à-dire que Jord(O) est sans multiplicité); la
distribution Π], O est une distribution stable pour G] .
(ii) L’ensemble des combinaisons linéaires stables de représentations elliptiques pour G ] sont exactement les
Π], O, quand O varie parmi les orbites discrètes de GL(n, C).
(iii)Dans le relèvement de Gan vers Giso , si n est pair, Πiso,O se tranfert en −Πan,O . Si n est impair Πiso,O
et Πan,O coı̈ncident.
Avant de faire la preuve, faisons quelques remarques. En (ii) on n’a pas traité le cas tempéré général; c’est juste
une question d’écriture (cf 2.4) car l’orbite ne détermine plus le paramètre.
20
La preuve de ce théorème suit [10] avec des simplifications notables dûes à l’absence de faisceaux caractères
cuspidaux (et au fait qu’un certain nombre de résultats de [10] s’appliquent tels quels). Elle fait l’objet des
paragraphes ci-dessous.
Rappelons les considérations générales; les travaux d’Arthur et tout particulièrement [1] ramènent l’étude
des distributions tempérées stables à l’étude des distributions elliptiques stables. Et pour celles-là, il montre
qu’il suffit de montrer l’invariance sur les classes de conjugaison stable pour les éléments elliptiques. L’utilisation
des faisceaux caractères telle qu’elle a été faite dès [13] est la clé de la preuve; c’est 7 qui permet de s’y ramener
ici. On fixe donc g un élément elliptique et (O, ) un couple formé d’une orbite unipotente de Gl(n, C) et d’une
application de Jord(O) dans {±1}. On fixe donc (d0 , d00 ) ∈ D(n), des partitions ν 0 , ν 00 de d0 et d00 respectivement
(à un signe près) cela donne un élément de C[ŜD(n) ]. On cherche à calculer l’intégrale orbitale en g de la fonction
k Ind ◦ Res ν 0 ⊗ ν 00 ; on a ici identifier partitions et représentations, le signe n’a pas d’importance (puisqu’il est
indépendant de g). Elle est clairement nulle si g n’est pas compact, ce que nous supposerons donc et l’on écrit
g = gs gu où gu est un élément topologiquement unipotent commutant à gs et où gs a toutes ses valeurs propres
des racines de l’unité d’ordre premier à p.
8.2
Localisation auprès de gs
Le but est de ramener le calcul de l’intégrale d’un faisceau caractère sur l’orbite de g en une intégrale dans le
commutant de gs sur l’orbite de gu . Il faut d’abord avoir une description du commutant de gs ; on considère
les classes d’équivalence de valeurs propres de gs où 2 valeurs propres λ et λ0 sont équivalentes s’il existe un
a
entier a tel que λ(−q) = λ0 . On note [V P (gs )] ces classes d’équivalence et on note, pour [λ] ∈ [V P (gs )],
m[λ] la multiplicité de l’une des valeurs propres de gs dans [λ] en tant que valeur propre (ce nombre est bien
défini) et on note q[λ] := q |[λ]| . Le commutant de gs est alors isomorphe à un produit de groupes unitaires
×[λ]∈[V P (gs )] U (m([λ]), Fq[λ] )](gs )[λ] où ](gs )[λ] indique de quelle forme unitaire il s’agit; cette forme ne dépend
que de la classe de conjugaison de
Qgs . Quand gs varie dans sa classe de conjugaison stable, les ](gs )[λ] varient
soumis seulement à la condition [λ]∈[V P (gs )] ](gs )[λ] = ] (avec la convention identifiant un ]... avec un signe).
On pose C[ŜD(gs ) ] = ⊗[λ]∈[V P (gs )] C[ŜD(m([λ])) ]. On définit une application locgs : C[ŜD(n) ] dans C[ŜD(gs ) ], en
posant pour (d0 , d00 ) ∈ D(n) et pour ρ0 , ρ00 des représentations de Sd0 et Sd00 respectivement:
X
locgs (ρ0 ⊗ ρ00 ) :=
Res×[λ],j S j ρ0 ⊗ ρ00 ,
d
dj[λ] ;[λ]∈[V P (gs )],j∈{0 ,00 }
[λ]
P
P
où les dj[λ] parcourt les collections d’entiers satisfaisant à [λ] d0[λ] = d0 , [λ] d00[λ] = d00 et où les inclusions de
Sd0[λ] dans Sd0 sont les inclusions naturelles. Les inclusions de Sd00[λ] dans Sd00 sont en fait l’inclusion naturelle
de la classe ×[λ] Sd00[λ] F dans Sd00 F (où F est le Frobenius).
Proposition: Avec les notations qui précèdent, pour (d0 , d00 ) ∈ D(n) et ν 0 , ν 00 des partitions de d0 et d00
respectivement, on a l’égalité des intégrales orbitales (pour de bonnes mesures):
G (gs )
IgG (k Ind ◦ Resν 0 ⊗ ν 00 ) = IgCent
(Q Res ◦ Ind locgs (ν 0 ⊗ ν 00 )),
u
où, suivant la tradition on note Q les fonctions de Green.
C’est l’analogue de la propostion de [10] 3.17, en beaucoup plus simple puisqu’il n’y a pas de partie cuspidale
et que le centralisateur est connexe. Mais à ces simplifications près, la démonstration s’applique telle quelle.
Avouons que l’on ne s’est pas fatiguée à recalculer les constantes, ici elles ne viennent que de volumes, elles ne
jouent aucun rôle.
8.3
Fin de la preuve
Comme il n’y a pas de signe venant de partie cuspidale, la démonstration est une conséquence directe de [10] 3.4.
Le résultat en question est le suivant: on appelle fonction stable sur un groupe unitaire U (m, F ) une fonction
dont les intégrales sur les classes de conjugaison ordinaire ne dépendent que de la classe de conjugaison stable; on
dit que la fonction est semi-stable si elle ne dépend que de la classe de conjugaison stable et de la forme unitaire
(c’est-à-dire de ]) et que la dépendance en ] se fait précisément par le signe ] avec la convention du début de ce
papier et on dit que la fonction est instable si la somme des intégrales sur les classes de conjugaison ordinaire à
l’intérieur d’une classe de conjugaison stable, pour ] fixé, est nulle. Dans loc. cite il est montré que les fonctions
du type Q Ind ◦ Res sont stables exactement quand d00 = 0, semi-stables quand d0 = 0 et d00 6= 0 et instable
dans les autres cas. On peut appliquer tel quel en tenant compte de la description du centralisateur de g s ; la
21
notation ci-dessus d0 , d00 est à changer car dans le calcul de locgs il est à remplacer par d0[λ] , d00[λ] ; on réalise ici
locgs comme une somme et on regarde chaque terme de la somme séparément; un tel terme est donc indexé par
une collection de couples d’entiers {(d0[λ] , d00[λ] ); [λ] ∈ [V P (gs )]}. Le terme correspond est certainement instable
si pour une valeur de [λ] au moins d0[λ] d00[λ] 6= 0. Dans le cas où ce produit est nul pour tout [λ], l’intégrale ne
dépend que de sa classe de conjugaison stable et du produit ×[λ];d00[λ] 6=0 ][λ] (gs ). Quand on fait varier gs dans
sa classe de conjugaison stable le signe varie sauf si d00[λ] = 0 pour tout [λ]. Dans ce dernier cas l’intégrale ne
dépend donc que de la classe de conjugaison stable de gs ; le signe ne dépend que de ] (la forme du groupe auquel
0
appartient le gs fixé) si pour tout [λ], d00[λ] 6= 0 et dans le cas restant où il existe [λ] 6= [λ] tel que d0[λ]0 d00[λ] 6= 0, la
somme des intégrales sur la classe de conjugaison stable de gs à l’intérieur de U (n, G)] est nulle, i.e. instabilité.
On se rappelle que
X
X
d0 =
d0[λ] , d00 =
d00[λ] .
[λ]
[λ]
Ainsi on a stabilité si d00 = 0, semi-stabilité si d0 = 0, d00 6= 0 et instabilité si d0 d00 6= 0.
Il ne reste plus qu’à appliquer le résultat précédent à Spell (O, ell ) avec les notations de 7; fixons donc (O, ell )
une donnée elliptique c’est-à-dire une orbite unipotente O de GL(n, C) telle que Jord(O) a au plus de la
multiplicité 2 et où ell est une application de Jord(O) dans {±1} qui vaut −1 sur tous les blocs de Jordan
intervenant avec multiplicité 2. On rappelle que Spell n’est pas une représentation irréductible mais l’analogue
de d0 , d00 ci-dessus est bien défini et vaut
X
X
X
X
α).
α+
α,
α+
(d0 , d00 ) = (
α ∈ Jord(O)
multα (Jord(O)) = 2
α ∈ Jord(O)
(α) = 1
α ∈ Jord(O)
multα (Jord(O)) = 2
α ∈ Jord(O)
(α) = −1
On voit (comme on s’y attend) qu’il ne peut y avoir stabilité ou semi-stabilité pour k Ind ◦ ResSp ell (O, ell ) que
si Jord(O) est sans multiplicité, c’est le cas discret. De plus, dans ce cas, on a stabilité si pour tout α, (α) = 1,
semi-stabilité si pour tout α, (α) = −1 et instabilité sinon.
Reprenons la notation Π(], O) introduite en 8.1; ici, on ne s’intéresse qu’aux orbites discrètes, c’est-à-dire
telles que Jord(O) n’a que de la multiplicité 1. La définition de Π(], O) est donc simplement
Y
0 (α)π(O, 0 ).
α∈Jord(O);α impair
On vérifie que si ≡ 1, alors
Fπ(O, ) =
Y
0 (α)π(O, 0 ).
α∈Jord(O);α≡n+1
La définition de F mélange
les 2 groupes G] (même si ils sont isomorphes). En séparant dans la somme, les
Q
termes pour lesquels α (α) = 1 de ceux où cela vaut −1, on récrit
Y
Y
0 (α) = (])n+1
0 (α)
α∈Jord(O);α≡n+1
α∈Jord(O);α pair
et on trouve donc que pour ≡ 1, Fπ(O, ) = Π(iso, O) + (−1)n+1 Π(an, O). Un calcul analogue montre que
pour ≡ −1, et avec σO un signe qui ne dépend que de O, Fπ(O, ) = σO (Π(iso, O) + (−1)n Π(an, O)).
On obtient un supplémentaire de ces combinaisons linéaires (pour le produit scalaire elliptique) en considérant
les autres possibilités pour . Cela prouve que les Π(], O) sont les combinaisons linéraires stables sur les elliptiques pour ] fixé. Le transfert se calcule en utilisant le fait que l’on a montré que Π(iso, O) + (−1) n+1 Π(an, O)
est stable.
Pour obtenir un résultat général de stabilité, on utilise les résultats généraux qui assure que les distributions
tempérées stables sont les induites des distributions elliptiques stables que l’on vient de décrire. Cela termine
la preuve du théorème de 8.1.
8.4
Le cas des représentations (quadratique)-unipotentes
Dans cette section, on note D l’involution de [2] et [12], c’est-à-dire que pour π une représentation irréductible
d’un groupe réductif, on pose
X
D(π) :=
IndG
P resP π,
P
22
où P parcourt un ensemble de paraboliques standard. Il est montré en [2], que D(π) est à un signe près une
représentation irréductible, ce signe étant (−1)rgG −rgPcusp,π , où Pcusp,π est ”le” sous-groupe parabolique de G,
minimal avec la propriété que resP π est non nul. Dans le cas que l’on traite ici, le signe a été calculé en 5.2.
On fixe ψ un paramètre discret, d’où une orbite O de GL(n, C); pour tout : Jord(O) → {±1}, on a défini
π(O, ) et aussi πunip (O, ). Par définition π(O, ) = |D|πunip (O, ).
Théorème: On fixe ψ un paramètre discret.
(i) pour ] = iso ou an, la combinaison linéaire de représentations
X
Y
Πunip (], ψ) :=
(α) πunip (O, )
;Z =] α∈Jord(O);α≡n+1[2]
est stable.
(ii)dans le transfert de U (n, E/F )iso à U (n, E/F )an , les distribution Πunip (iso, ψ) et Πunip (an, ψ) se correspondent.
Puisque induction et restriction respectent la stabilité, il suffit d’appliquer D au théorème de 8.1. L’astuce ici
est d’étendre la propriété de stabilité que l’on connait sur les elliptiques à tous les éléments semi-simples en
utilisant les travaux d’Arthur sur les représentations elliptiques (ce qui ne peut se faire avec les représentations
unipotentes). En tenant compte de 5.2, on obtient exactement que la distribution
X
Y
πunip (O, )
Π0unip (], unip) :=
α∈Jord(O),α≡0[2]
est stable et quand ] varie, les distributions se transfèrent l’une sur l’autre avec un signe − dans le cas n pair
(et pas de signe dans le cas n impair). Dans le cas n impair, on a directement Π0unip (], ψ) = Πunip (], ψ), tandis
que dans le cas de n pair, Π0unip (], ψ) = ]Πunip (], ψ). D’où le résultat. Il y a de bonnes raisons pour avoir choisi
de définir Πunip (], ψ) plutôt que Π0unip (], ψ) (cf. ci-dessous).
8.5
Interprétation du signe
On a défini l’inclusion de GL(n, C) o WF /WE dans GL(2n, C) en 2.1. On vérifie sur les formules que l’image de
cette inclusion est incluse dans l’ensemble des matrices inversibles X, vérifiant t XJX = J où J est la matrice
0
In
(
). Ainsi la représentation définie est symplectique si n est impair et orthogonale si n est pair.
(−1)n−1 In 0
Soit ψ, un paramètre discret de niveau zéro. En composant inc ◦ ψ, on obtient une représentation de W F ×
SL(2, C) dans GL(2n, C). Pour a ∈ N, on note incψa la restriction de inc ◦ ψ à la composante isotypique pour la
représentation de dimension a de SL(2, C). On pose incψortho := ×a≡n[2] incψa et incψsymp := ×a≡n+1[2] incψa .
La restriction de incψortho à WF est une représentation orthogonale tandis que la restriction de incψsymp à
WF est symplectique; cela vient du fait qu’une représentation de SL(2, C) irréductible est orthogonale si sa
dimension est impaire et symplectique si sa dimension est paire et aussi des propriétés écrites ci-dessus de la
représentation définie par inc. Il est clair qu’il existe des morphismes ψortho (resp. ψsymp ) de WF × SL(2, C)
dans un sous-groupe convenable, GL(northo , C) o WF (resp. GL(nsymp , C) o WF ) de GL(n, C) o WF , tels que
incψortho (resp. incψsymp ) soit le composé de ψortho (resp. ψsymp ) avec inc. On retrouve ainsi les notations de
l’introduction. On note, ssymp l’élément non trivial du centre de GL(nsymp , C)
Q o WF . Il est clairement dans le
commutant de ψ et on peut donc évaluer (ssymp ). Il est clair que (ssymp ) = α≡n+1[2] (α). D’où (en écrivant
πunip (ψ, ) plutôt que πunip (O, )):
Remarque: On fixe ψ, un paramètre discret de niveau zéro. La seule combinaison
linéaire stable combinaison
P
linéaire de représentation πunip (ψ, ) pour ψ fixé discret et variable est:
(s
)πunip (ψ, ).
symp
Ceci est conforme aux conjectures d’Arthur.
References
[1] Arthur J. : On local character relations, Selecta Math. 2, 1996, pp. 501-579
[2] Aubert A.-M. : Dualité dans le groupe de Grothendieck de la catégorie des représentations lisses de
longueur finie d’un groupe réductif p-adique, TAMS, 347, 1995, pp. 2179-2189 avec l’erratum publié dans
TAMS, 348, 1996, pp. 4687-4690
23
[3] Aubert A.-M., Michel J., Rouquier R.: Correspondance de Howe pour les groupes réductifs sur les
corps finis, Duke, 83, 1996, pp. 353-397
[4] Digne F., Michel J.: Foncteurs de Lusztig et caractères des groupes linéaires et unitaires sur un corps
fini, J. of Algebra, 107, 1987, pp. 217-255
[5] Lusztig G. : Intersection cohomology complexes on a reductive group, Inventiones 75, 1984, pp. 205-272
[6] Lusztig G. : Green functions and character sheaves, Ann of Math 131, 1990, pp. 355-408
[7] Lusztig G. : Classification of Unipotent Representations of Simple p-adic Groups, II, arXiv:math.
RT/0111248, 2001
[8] Lusztig G. : Character scheaves II Adv in Math 57, 1985, 226-265
[9] Mœglin C.: Stabilité en niveau 0 pour les groupes orthogonaux impairs prépublication, 2003.
[10] Mœglin C., Waldspurger J.-L.: Paquets stables de représentations tempérées et de réduction unipotente pour SO(2n + 1) à paraı̂tre à Inv.
[11] Moy A., Prasad G. : Jacquet functors and unrefined minimal K-types, Comment. Math. Helvetici 71,
1996, pp. 98-121
[12] Schneider M., Stuhler U. : Representation theory and sheaves on the Bruhat-Tits building Publ.
Math. IHES 85, 1997, pp. 97-191
[13] Waldspurger J.-L. : Intégrales orbitales unipotentes et endoscopie pour les groupes classiques non
ramifiés Astérisque 269, 2001
[14] Waldspurger J.-L. : Représentations de réduction unipotente pour SO(2n + 1): quelques conséquences
d’un article de Lusztig prépublication Inst. Math. Jussieu 298, 2001, à paraı̂tre dans recueil en l’honneur de
Shalika.
[15] Waldspurger J.-L. : Une conjecture de Lusztig pour les groupes classiques prépublication, 2002
24

le cas des groupes unitaires. - IMJ-PRG

Documents connexes

Produits

Soutien

le cas des groupes unitaires. - IMJ-PRG

Documents connexes

Ajouter ce document à la (aux) collections

Ajouter ce document à enregistré

Suggérez-nous comment améliorer StudyLib