Représentations irréductibles de GL(2,F) - IMJ-PRG

Repr´esentations irr´eductibles de GL(2, F )modulo p.
Marie-France Vign´eras
R´esum´e. This is a report on the classification of irreducible representations of GL(2, F )
over Fpwhen Fis a local field of finite residual field contained in the algebraically closed
field Fpof characteristic p.
1Toutes les repr´esentations des groupes seront lisses, i.e. chaque vecteur est fixe par
un sous-groupe ouvert.
Soit pun nombre premier, Fun corps local complet pour une valuation discr`ete de
corps r´esiduel fini Fqde caract´eristique payant q´el´ements, Fun clˆoture s´eparable de
Fet Fpune clˆoture alg´ebrique de Fq. Soit n≥1 un entier. Pour un nombre premier
ℓ6=p, la correspondance semisimple de Langlands modulo ℓ, est une bijection “com-
patible avec la r´eduction modulo ℓ” entre les classes d’isomorphisme des repr´esentations
irr´eductibles de dimension ndu groupe de Gal(F /F ) sur Fℓet les classes d’isomorphisme
des repr´esentations irr´eductibles supercuspidales de GL(n, F ) sur Fℓ, ´etendue de fa¸con
`a inclure les repr´esentations semi-simples de dimension nde Gal(F /F ), et toutes les
repr´esentations irr´eductibles de GL(n, F ) sur Fℓ[V2].
On s’int´eresse au cas ℓ=p. On connait bien les repr´esentations irr´eductibles de
dimension finie de Gal(F /F ) sur Fp, mais quelles sont les repr´esentations irr´eductibles de
GL(n, F ) sur Fp? La r´eponse est connue uniquement pour le groupe GL(2,Qp); c’est un
probl`eme ouvert pour n≥3 ou pour F6=Qp.
2Les repr´esentations irr´eductibles de dimension ndu groupe de Galois Gal(F /F )
sur Fpse classent facilement [V3] 1.14 page 423.
2.1 . Lorsque n= 1, l’isomorphisme de r´eciprocit´e du corps de classes, qui envoie
une uniformisante pFde Fsur un Frobenius g´eom´etrique FrobF, identifie les caract`eres
(repr´esentations de dimension 1) de F∗et de Gal(F /F ). Nous utiliserons syst´ematiquement
cette identification. Pour une extension finie F′de Fcontenue dans F, la restriction du
cˆot´e galoisien correspond `a la norme F′∗ →F∗.
2.2 Les repr´esentations irr´eductibles de Gal(F /F ) sur Fpde dimension n≥2 sont
induites par les caract`eres r´eguliers sur Fdu groupe multiplicatif de l’unique extension Fn
de Fnon ramifi´ee de degr´e nsur Fcontenue dans F. Un caract`ere de F∗
nest r´egulier sur
Fsi ses nconjugu´es par le groupe de Galois Gal(Fn/F ) sont distincts. Les repr´esentations
ρ(χ), ρ(χ′) de Gal(F /F ) induites de deux caract`eres χ, χ′de F∗
nr´eguliers sur Fsont
isomorphes si et seulement si χ, χ′sont conjugu´es par le groupe de Galois Gal(Fn/F ). Le
d´eterminant de ρ(χ) est la restriction de χ`a F∗.
2.3 On note OFl’anneau des entiers de F; un caract`ere O∗
F→F∗
ps’identifie `a un
caract`ere de F∗
q. L’uniformisante pFde Fest aussi une uniformisante de l’extension non
ramifi´ee Fn. Le caract`ere ωnde F∗
ntel que ωn(pF) = 1 et dont la restriction `a O∗
Fn
s’identifie au plongement naturel ιn:F∗
qn→F∗
p, est appel´e un caract`ere de Serre; il est
r´egulier. Pour λ∈F∗
p, on note µn,λ le caract`ere non ramifi´e de F∗ ntel que µn,λ(pF) = λ.
On supprime l’indice n= 1 pour F∗. Le compos´e de la norme F∗
n→F∗et du caract`ere
ω, resp. µλ, est le caract`ere ω1+q+...+qn−1
n,resp. µn,λn.
1

Les caract`eres de F∗
nsont µn,λ ωa npour un unique couple (λ, a)∈F∗
p×{1,...,qn−1}.
2.4 Les repr´esentations irr´eductibles de dimension n≥1du groupe de Galois
Gal(F /F )sur Fpsont
ρn(a, λ) = µλ⊗indGal(F /F )
Gal(F /Fn)ωa
n= indGal(F /F )
Gal(F /Fn)(µn,λnωa
n)
pour les entiers a∈Z/(qn−1)Ztels que a, qa, . . . , qn−1asont distincts. Les isomorphismes
sont les suivants
ρn(a, λ)≃ρn(aqi, ζλ)
pour les entiers 1≤i≤n−1et ζ∈F∗
pavec ζn= 1.
Le d´eterminant de ρn(a, λ) est ωa′µλno`u a′∈Z/(q−1)Zest l’image de a. Le nombre
de repr´esentations irr´eductibles avec det FrobFfix´e est fini, ´egal au nombre de polynˆomes
irr´eductibles unitaires de degr´e ndans Fq[X] [V1] 3.1 (10). Lorsque n= 2, ce nombre est
q(q−1)/2.
2.5 Lorsque F=Qp, les repr´esentations irr´eductibles de dimension 2 du groupe de
Galois Gal(Qp/Qp) sur Fpsont
σ(r, χ) = χ⊗indGal(F /F )
Gal(F /F2)ωr+1
2
pour les entiers r∈ {0,...,p −1}et les caract`eres χ:Q∗
p→F∗
p. On a σ(r, χ) =
ρ2(a, λ) avec χ=µλωb, a = (p+ 1)b+r+ 1. Le d´eterminant de σ(r, χ) est χ2ωr+1.
Les isomorphismes sont les suivants
σ(r, χ)≃σ(p−1−r, χ)≃σ(r, χµ−1)≃σ(p−1−r, χµ−1).
3Les repr´esentations irr´eductibles de GL(2,Qp) sur Fpavec un caract`ere central
sont class´ees [BL2] [Br]. On dispose d’une liste pour GL(2, F ) lorsque F6=Qp[V0], [Pa],
probablement non compl`ete.
3.1 Les repr´esentations irr´eductibles de GL(2,Fq) sur Fpsont (χ◦det) ⊗SymrF2
p
pour un unique couple (r, χ) avec 0 ≤r≤q−1 et un caract`ere χ:F∗
q→F∗ p; on peut aussi
remplacer χpar l’unique entier 1 ≤a≤q−1 tel que χ(?) =?a. On a le d´eveloppement
p-adique r=r1+pr2+...+pf−1rfavec 0 ≤ri≤p−1, q=pf, et
SymrF2
p=⊗f
i=1 SymriF2
p◦Fri−1
o`u Fr est le Frobenius absolu ?pet pour tout entier r≥0, SymrF2
pest la repr´esentation
de GL(2,Fq) sur les polynˆomes homog`enes de degr´e rdans Fp[X, Y ] v´erifiant
a b
c d XiYj= (aX +cY )i(bX +cY )j(i, j ≥0, i +j=r).
2

La repr´esentation triviale et la repr´esentation sp´eciale (ou de Steinberg) sont Sym0F2
pet
Symq−1F2
p.
La repr´esentation irr´eductible SymrF2
ps’identifie `a une repr´esentation irr´eductible de
GL(2, OF), ou `a une repr´esentation de Ko=GL(2, OF)pZ
Ftriviale sur pF. On lui associe
par induction compacte une repr´esentation lisse de GL(2, F )
E(r) = indG
KoSymrF2
p.
3.2 Les repr´esentations irr´eductibles de G=GL(2, F )sur Fpsont :
(i) Les caract`eres χ◦det pour les caract`eres χ:F∗→F∗
p.
(ii) Les s´eries principales indG
B(χ1⊗χ2)induites par le caract`ere
(χ1⊗χ2)a b
0d=χ1(a)χ2(d)
du sous-groupe triangulaire sup´erieur B, pour les caract`eres distincts χ1, χ2:F∗→F∗
p,
χ16=χ2.
(iii) Les s´eries sp´eciales (appel´ees aussi de Steinberg) Sp ⊗χdet, pour les caract`eres
χ:F∗→F∗
p, o`u Sp est le quotient de la repr´esentation induite indG BidFpdu caract`ere
trivial de B, par le caract`ere trivial de G.
(iv) Les repr´esentations irr´eductibles supercuspidales.
Il n’y a pas d’isomorphisme entre ces repr´esentations.
La repr´esentation sp´eciale ne se plonge pas dans une repr´esentation induite parabolique;
ses vecteurs coinvariants par le radical unipotent Nde Best nul; elle est cuspidale sans
ˆetre supercuspidale.
Barthel et Livne ([BL2] prop.8) montrent que EndFpG(indG
Koid) ≃Fp[T] o`u Tcorre-
spond `a la double classe de h=pF0
0 1 ; les alg`ebres EndFpGE(r) sont canoniquement
isomorphes. Ils ont appel´es supersinguli`eres les repr´esentations irr´eductibles supercuspi-
dales ayant un caract`ere central, et d´emontr´es ce sont les quotients irr´eductibles de
V(r, χ) = (χ◦det) ⊗E(r)
T E(r)
pour les caract`eres χ:F∗→F∗
pet les entiers 0 ≤r≤q−1; le caract`ere central de V(r, χ)
est χ2ωr. La repr´esentation de G
V(r, λ, χ) = (χ◦det) ⊗E(r)
(T−λ)E(r)(λ∈F∗
p)
est isomorphe `a
i) la s´erie principale irr´eductible (χ◦det) ⊗indG
B(µλ−1⊗µλωr) si µλ−16=µλωr, i.e. si
λ6=±1 ou r6= (0,...,0),(p−1,...,p−1),
3

ii) la repr´esentation (χ◦det)⊗indG
Bµλde longueur 2 non scind´ee, contenant χµλ◦det
et de quotient (χµλ◦det) ⊗Sp lorsque λ=±1 et r= (p−1, . . . , p −1),
iii) une repr´esentation de longueur 2 non scind´ee contenant (χµλ◦det) ⊗Sp et de
quotient χµλ◦det lorsque λ=±1 et r= (0,...,0).
3.3 Dans le cas particulier mais important F=Qp, Breuil [Br] 4.1.1, 4.1.4, a montr´e
que les repr´esentations V(r, χ) sont irr´eductibles.
Les repr´esentations irr´eductibles supersinguli`eres de GL(2,Qp)sont les V(r, χ)pour
0≤r≤p−1et χun caract`ere F∗→F∗
p; les isomorphismes sont :
V(r, χ)≃V(p−1−r, χωr)≃V(r, χµ1)≃V(p−1−r, χωrµ−1).
3.4 Breuil [Br] 4.2.4 en d´eduit une bijection unique “compatible avec la r´eduction
modulo p” de la correspondance donn´ee par la “cohomologie ´etale des courbes modulaires”
σ(r, χ)↔V(r, χ)
entre les classes d’isomorphisme des repr´esentations irr´eductibles de dimension 2 du groupe
de Galois Gal(Qp/Qp) sur Fp(2.5) et les classes d’isomorphisme des repr´esentations
irr´eductibles supersinguli`eres de GL(2,Qp) sur Fp(3.3), qu’il ´etend de fa¸con `a inclure
les repr´esentations semi-simples de dimension 2 de Gal(Qp/Qp),
χ⊗(ωr+1µλ⊕µλ−1)↔(χ◦det) ⊗[indG
B(µλ−1⊗ωrµλ)⊕indG
B((ωrµλ)ω⊗µλ−1ω−1)]ss,
notant ?ss la semi-simplifi´ee d’une repr´esentation ? de longueur finie. Soit r′∈ {0,...,p−2}
congru `a p−3−rmodulo p−1; le membre de droite est aussi (3.2):
V(r, λ, χ)ss ⊕V(r′, λ−1, ωr+1χ)ss.
Le d´eterminant χ2ωr+1 de la repr´esentation galoisienne ne coincide pas par l’isomorphisme
de la th´eorie du corps de classes avec le caract`ere central χ2ωrde la repr´esentation de
GL(2,Qp).
3.5 Une repr´esentation irr´eductible avec un caract`ere central de GL(2,Qp) est car-
act´eris´ee par sa restriction au sous-groupe triangulaire B, qui est irr´eductible sauf pour une
s´erie principale o`u elle est de longueur 2; ceci est d´emontr´e par Berger [Be] lorsque F=Qp
en utilisant les repr´esentations de B(Qp) construites par Colmez avec les (φ, Γ)-modules
de Fontaine; une preuve non galoisienne est donn´ee dans [Vc] (voir 3.6) pour tout F, mais
uniquement pour les s´eries principales et la Steinberg.
Toute repr´esentation irr´eductible Wde Gal(Qp/Qp)de dimension finie sur Fp, d´efinit
une repr´esentation irr´eductible de dimension infinie ΩWde B(Qp)sur Fp. Deux repr´esentations
Wnon isomorphes donnent des repr´esentations ΩWnon isomorphes.
Les repr´esentations irr´eductibles contenues dans la s´erie principale ou la s´erie sp´eciale
(resp. dans les supersinguli`eres) sont les ΩWpour dim W= 1 (resp. dim W= 2).
Remarque. Notons Ple sous-groupe mirabolique form´e des matrices de seconde ligne
(0,1) dans B. Il est isomorphe au produit semi-direct du groupe additif Gaet du groupe
4

multiplicatif Gm(agissant naturellement sur Ga). On identifie Gaau radical unipotent de
Pou de B.
Sur un corps alg´ebriquement clos de caract´eristique diff´erente de p, le groupe mirabolique
P(F) a une unique repr´esentation irr´eductible de dimension infinie τ; les autres sont des
caract`eres. La restriction `a P(F) d’une repr´esentation irr´eductible πde dimension infinie
de GL(2, F ) contient τet π/τ est de longueur 2,1,0 selon que πest de la s´erie principale,
sp´eciale, ou est supercuspidale [V4].
3.6 On peut d´ecomposer les s´eries principales avec les arguments suivants [Vc] . La
repr´esentation naturelle ρde P(F) sur l’espace des fonctions localement constantes `a sup-
port compact sur Fet `a valeurs dans Fpest irr´eductible; ceci utilise que l’alg`ebre de
groupe compl´et´ee d’un pro-p-groupe sur corps fini de caract´eristique pest locale. Joint au
fait que les F-coinvariants de ρsont nuls car un pro-p-groupe n’a pas de mesure de Haar
`a valeurs dans Fp, on obtient que la restriction `a B(F) de indG
Bχ1⊗χ2est de longueur
2, de quotient le caract`ere χ1⊗χ2, et l’image de indG
Bχ1⊗χ2par le foncteur de Jacquet
(les U(F)-coinvariants) est χ=χ1⊗χ2. Cette d´emonstration n’utilisant pas l’arbre de
P GL(2), est g´en´eralisable `a GL(n).
4G´en´eralit´es.
4.1 On dit que Vest admissible si l’espace VKdes vecteurs de Vfixes par Kest de
dimension finie pour tout sous-groupe ouvert compact Kde G. Lorsque C=Fp, il suffit
que ce soit vrai pour un seul pro-p-sous-groupe ouvert Kode G. Voici la preuve simple et
astucieuse due `a Paskunas. La restriction de V`a Kose plonge dans (dimFpVKo) Inj 1Fp,
o`u Inj 1Fpest l’enveloppe injective de la repr´esentation triviale de Ko; pour tout sous-
groupe ouvert distingu´e Kde Ko, on a (Inj 1Fp)K=Fp[Ko/K], donc la dimension de VK
est finie.
Toutes les repr´esentations irr´eductibles de GL(2, F ) sur Fpconnues sont admissibles,
ont un caract`ere central et sont d´efinies sur un corps fini.
4.2 Tout pro-p-groupe agissant sur un Fp-espace vectoriel non nul a un vecteur non
nul invariant. Ceci implique qu’ une repr´esentation admissible non nulle Vde Gsur Fp,
contient une sous-repr´esentation irr´eductible W.
4.3 Soit Wune repr´esentation lisse sur un corps commutatif Cde dimension finie
d’un sous-groupe ouvert Kde G. On lui associe la repr´esentation lisse indG
KWde G, par
induction compacte. L’alg`ebre de Hecke de (K, W ) dans G,
H(G, K, W ) = EndCG indG
KW
s’identifie `a l’alg`ebre de convolution des fonctions f:G→EndCWde support une union
finie de doubles classes de Gmodulo K, satisfaisant f(kgk′) = kf (g)k′pour g∈Get
k, k′∈K; la condition sur F=f(g)∈EndCWest F(k−1?) = gkg−1F(?) pour tout
k∈K∩g−1Kg. On associe `a Vle H(G, K, W )-module `a droite
HomCG(indG
KW, V )≃HomCK (W, V ),
par adjonction.
5