Sur la cohomologie `a supports compacts des

Compositio Mathematica 105: 267–359, 1997. 267
c1997 Kluwer Academic Publishers. Printed in the Netherlands.
Sur la cohomologie ` a supports compacts
des vari´ et´ es de Shimura pour GSp 4
G´ ERARD LAUMON
URA 752 du CNRS
Universit´ e Paris-Sud, Math´ ematiques, Bˆ at. 425, F-91405 Orsay Cedex, France,
T´ el:33169157828,Fax:[phone]
e-mail: [e-mail]
Received 24 May 1995; accepted in final form 17 December 1995
Abstract. In this paper we compute the cohomology with compact supports of a Siegel threefold
as a virtual module over the product of the Galois group of over and the Hecke algebra.
We use a method which has been developed by Ihara, Langlands and Kottwitz: comparison of the
Grothendieck–Lefschetz formula and the Arthur–Selberg trace formula.
Key words: Shimura variety, -adic cohomology, automorphic representation.
Introduction
On notera le sch´
ema en groupe GSp 4 d´ efini par
GL 4 tel que
pour tout anneau ,o` u
0001
10
On fixe un sous-groupe compact ouvert de est l’anneau
des ad` eles de et on suppose pour simplifier que
max
o` u
Ker
pour un entier 3.
Aest attach´
e une vari´ et´ edeShimura sur .Lavari
´
et´ e analytique sous-
jacente admet l’uniformisation
an
PREPROOF (Kb. 6.) MG **INTERPRINT**: PIPS Nr.: 104688 MATHKAP
comp3912.tex; 8/05/1997; 6:58; v.5; p.1
https:/www.cambridge.org/core/terms. https://doi.org/10.1023/A:1000102414055
Downloaded from https:/www.cambridge.org/core. IP address: 88.99.165.207, on 24 May 2017 at 19:12:40, subject to the Cambridge Core terms of use, available at

268 G´ ERARD LAUMON
o` u
et
1 2
Pour toute -alg` ebre est l’ensemble des classes d’isomorphie de -
surfaces ab´ eliennes principalement polaris´ ees, munies d’une structure principale
de niveau . On rappelle que est une vari´
et´ e quasi-projective et lisse, purement
de dimension 3, sur .
On note la clˆ
oture alg´ ebrique de dans . Pour tout nombre premier ,les
espaces de cohomologie -adique
sont nuls pour 0 6 , de dimension finie sur et munis d’une action continue
de Gal pour tout (ils sont mˆ
eme nuls pour 0 1 5). Si on note comme
d’habitude
la -alg` ebre de convolution des fonctions : qui sont -invariantes ` a
gauche et ` a droite et ` a support compact et si on note
la -structure sur cette -alg` ebre form´ ee des fonctions ` a valeurs dans
agit sur les et cette action commute ` a celle
de Gal (les op´
erateurs de Hecke sont d´ efinis sur ).
Introduisons le Gal -module virtuel
6
01
Ler´ esultatprincipal de cetarticle estle calcul de ce modulevirtuel (Th´ eor` eme(8.1)
et son Corollaire (8.2)). Pour cela nous utilisons la m´ ethode d’Ihara, Langlands
et Kottwitz: comparaison des formules des traces de Grothendieck–Lefschetz et
d’Arthur–Selberg. Cette m´ ethode s’applique en g´ en´ eral ` al’
´
etude de la cohomolo-
gie des vari´ et´ es de Shimura li´ ees aux vari´ et´ es ab´ eliennes et une grande part des
difficult´ es inh´ erentes ` a cette m´ ethode ont ´ et´ er
´
esolues par Kottwitz. Seules sub-
sistent ` a l’heure actuelle deux difficult´ es majeures d’une part, le ‘transfert’ et le
‘lemme fondamental’ et, d’autre part, le calcul des ‘contributions ` a l’infini’ pour
les vari´ et´ es de Shimura non compactes.
comp3912.tex; 8/05/1997; 6:58; v.5; p.2
https:/www.cambridge.org/core/terms. https://doi.org/10.1023/A:1000102414055
Downloaded from https:/www.cambridge.org/core. IP address: 88.99.165.207, on 24 May 2017 at 19:12:40, subject to the Cambridge Core terms of use, available at

SUR LA COHOMOLOGIE DES VARI´ ET´ ES DE SHIMURA POUR GSP(4) 269
Pour arbitraire, le transfert endoscopique r´
eel a ´ et´ e´ etabli par Shelstad. Quant
au lemme fondamental pour le changement de base -adique, il a ´
et´ e´ etabli par
Kottwitz, Clozel et Labesse. Pour GSp 4 ,lesdiff´
erentesversionsdu transfert
endoscopique -adiqueetdulemmefondamentalendoscopique -adiquedontnous
avons besoin ont ´ et´ e´ etablies par Hales et Waldspurger (et aussi par Schr¨ oder et
Weissauer). On fera cependant attention au fait que la r´ eduction ` al’
´
el´ ement unit´ e
du lemme fondamental pour l’endoscopie n’est ´ ecrite pour l’instant que dans le
cas de l’endoscopie ordinaire (cf. [Ha 4]). Comme il ne fait gu` ere de doute que
des arguments similaires donnent aussi la r´ eduction ` al’
´
el´ ement unit´ e dans le cas
de l’endoscopietordue, nous supposerons cette r´ eduction effectu´ ee.Decefait,nos
r´ esultats sont (provisoirement) conditionnels.
Pourr´ esoudrelesprobl` emesli´ es` alanoncompacit´ ede ,lam´
ethodehabituelle
consiste ` a compactifier `
alaSatakeet` a´ etudier la fronti` ere. Notre approche est
diff´ erente et est inspir´ ee par un travail de Flicker et Kazhdan [Fl-Ka 1]. Nous
utilisons la conjecture de Deligne, prouv´ ee par Pink, pour calculer la trace de
en termes de nombre de points fixes dans . Puis nous comparons ce nombre de
points fixes ` a une combinaison lin´ eaire des cˆ ot´ es g´ eom´ etriques des formules des
traces non invariantes d’Arthur pour et son groupe endoscopique et pour des
fonctions convenablement choisies sur et (en particulier, les composantes `
a
l’infini sont choisies tr` es cuspidales). Enfin, nous explicitons les cˆ ot´ es spectraux
de ces formules des traces en utilisant des calculs de r´ esidus dˆ us ` a Arthur.
Faute de savoir stabiliser la partie discr` ete de la formule des traces, le r´ esultat
de notre calcul de n’est pas sous une forme id´
eale, mais il est suffisant pour
obtenir le th´ eor` eme suivant (pr´ ecis´ eparleTh
´
eor` eme (7.5)).
TH´ EOR` EME. Soit une repr´
esentation automorphe cuspidale irr´ eductible de
telle que ait le mˆ eme caract` ere central et le mˆ eme caract` ere infinit´ esimal
que la repr´ esentation triviale de . Alors il existe un ensemble fini de
nombres premiers contenant tous les pour lesquels est ramifi´
ee, un demi-
entier strictement positif , un corps de nombres et, pour chaque place
finie de , une repr´
esentation -adique semi-simple de Gal ayant
la propri´ et´ e suivante: pour chaque nombre premier et chaque place finie
de ne divisant pas est non ramifi´ ee en et, quel que soit ,ona
tr 32
1 2 3 4
o
`
uest l’´ el´ ement de Frobenius g´ eom´ etrique en et o` u
diag 1234
GSp4
est le param` etre de Langlands de .
Ce th´ eor` eme compl` ete les r´ esultats d´ emontr´ es par Taylor dans [Ta].
comp3912.tex; 8/05/1997; 6:58; v.5; p.3
https:/www.cambridge.org/core/terms. https://doi.org/10.1023/A:1000102414055
Downloaded from https:/www.cambridge.org/core. IP address: 88.99.165.207, on 24 May 2017 at 19:12:40, subject to the Cambridge Core terms of use, available at

270 G´ ERARD LAUMON
Un r´ esultat similaire a ´ et´ e obtenu par Harder et Weissauer (cf. [Har] et [We 1]).
Harder et Weissauer n’utilisent pas la formule des traces d’Arthur. A la place ils
utilisent la formule des traces de Goresky et MacPherson.
Pour ne pas allonger d´ emesur´ ement cet article, nous nous sommes limit´ es au
cas du syst` eme de coefficients constant sur . C’est d’ailleurs, d’une certaine
fac¸on, le cas le plus compliqu´ e. Le lecteur courageux pourra traiter de la mˆ eme
mani` ere le cas d’un syst` eme de coefficients arbitraire.
1. La conjecture de Deligne pour
Fixons un ‘bon’ nombre premier pour ,i.e.telque
avec
et
ou, ce qui revient au mˆ eme, tel que .Alors estlafibreg
´
en´ erique d’un
-sch´ ema quasi-projectif et lisse : est le sch´ ema de modules des surfaces
ab´ eliennes principalement polaris´ ees sur une -alg`
ebre, munies d’une structure
principale de niveau .Ce -sch´
ema est lui mˆ eme l’ouvert compl´ ementaire
d’undiviseurde Cartier ` acroisementsnormauxrelatifdansun -espacealg´
ebrique
propre et lisse (cf. [Fa-Ch] Ch. IV, Thm. 6.7).
Il s’en suit que l’action de Gal sur chaque est non
ramifi´ ee en .Pluspr
´
ecis´ ement, fixons de plus une clˆ oture alg´ ebrique de et
unplongementde dans etnotons le corps r´
esiduelde laclˆ oture int´ egrale
de dans (c’estuneclˆ oturealg´ ebriquede ).Alors,onadeshomomorphismes
uniquement d´ etermin´ es par ces choix
Gal Gal Gal
et, pour chaque , on a des isomorphismes Gal -´ equivariants
(cf. par exemple [Il] 1.3.3). Comme tout ceci vaut sans modification si on rem-
place par un de ses sous-groupes d’indice fini, on voit facilement que les
isomorphismes ci-dessus sont aussi ´ equivariants pour l’action de l’alg` ebre
comp3912.tex; 8/05/1997; 6:58; v.5; p.4
https:/www.cambridge.org/core/terms. https://doi.org/10.1023/A:1000102414055
Downloaded from https:/www.cambridge.org/core. IP address: 88.99.165.207, on 24 May 2017 at 19:12:40, subject to the Cambridge Core terms of use, available at

SUR LA COHOMOLOGIE DES VARI´ ET´ ES DE SHIMURA POUR GSP(4) 271
Notons n’importe quel ´
el´ ement de Frobenius g´ eom´ etrique en dans
Gal ,i.e.n’importequel ´
el´ ementdeGal quiestl’imaged’unrel` evement
dans Gal du g´
en´ erateur topologique
Frob :1
de Gal . Il suit de ce qui pr´ ec` ede que
tr 1tr Frob (1.1)
pour tout entier 0 et toute fonction 1est la fonction
caract´ eristique de dans ).
Si estlafonctioncaract´
eristiqued’unedoubleclasse dans
et si
:1
lespointsfixesdelacorrespondanceFrob agissantsurle -sch´ ema
sont isol´ es (cf. [Zi] Lemme (2.3)). Notons
le nombre de ces points fixes, compt´ es avec multiplicit´ e. Par -lin´ earit´ e, on d´ efinit
pour arbitraire et assez grand par rapport
`
a.
On a alors le cas particulier suivant de la conjecture de Deligne (cf. [Pi]
Th´ eor` eme 7.2.2).
TH´ EOR` EME (1.2) (Pink). Pour toute fonction ,ilexisteun
entier 0ayant la propri´
et´ e suivante. Pour tout entier , le nombre
des points fixes de la correspondance Frob est bien d´
efini et
on a
tr Frob
COROLLAIRE (1.3). Pour toute fonction et tout entier
,ona
tr 1
2. Rappel des r´ esultats de Kottwitz
D’apr` es Kottwitz (cf. [Ko 1] (19.5)), le nombre des points fixes est ´
egal ` a
0;
0
;1
0;(2.1)
comp3912.tex; 8/05/1997; 6:58; v.5; p.5
https:/www.cambridge.org/core/terms. https://doi.org/10.1023/A:1000102414055
Downloaded from https:/www.cambridge.org/core. IP address: 88.99.165.207, on 24 May 2017 at 19:12:40, subject to the Cambridge Core terms of use, available at