La transformée de Fourier pour les espaces tordus sur un

La transform´ee de Fourier pour les espaces tordus sur
un groupe r´eductif p-adique
Guy Henniart, Bertrand Lemaire
To cite this version:
Guy Henniart, Bertrand Lemaire. La transform´ee de Fourier pour les espaces tordus sur un
groupe r´eductif p-adique. le papier a ´et´e accept´e dans la revue Ast´erisque. 2015. <hal-
01312238>
HAL Id: hal-01312238
https://hal.archives-ouvertes.fr/hal-01312238
Submitted on 5 May 2016
HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.
L’archive ouverte pluridisciplinaire HAL, est
destin´ee au d´epˆot et `a la diffusion de documents
scientifiques de niveau recherche, publi´es ou non,
´emanant des ´etablissements d’enseignement et de
recherche fran¸cais ou ´etrangers, des laboratoires
publics ou priv´es.

LA TRANSFORMÉE DE FOURIER POUR LES ESPACES
TORDUS SUR UN GROUPE RÉDUCTIF p-ADIQUE
Guy Henniart & Bertrand Lemaire
Résumé. — Soit Gun groupe réductif connexe défini sur un corps local non ar-
chimédien F. On pose G=G(F). Soit aussi θun F–automorphisme de G, et ω
un caractère lisse de G. On s’intéresse aux représentations complexes lisses πde G
telles que πθ=π◦θest isomorphe à ωπ =ω⊗π. Si πest admissible, en particulier
irréductible, le choix d’un isomorphisme Ade ωπ sur πθ(et d’une mesure de Haar
sur G) définit une distribution ΘA
π= tr(π◦A)sur G. La transformée de Fourier
tordue associe à une fonction fsur Glocalement constante et à support compact, la
fonction (π, A)7→ ΘA
π(f)sur un groupe de Grothendieck adéquat. On décrit ici son
image (théorème de Paley–Wiener) et son noyau (théorème de densité spectrale).
Abstract. — Let Gbe a connected reductive group defined over a non–Archimedean
local field F. Put G=G(F). Let θbe an F–automorphism of G, and let ωbe a smooth
character of G. This paper is concerned with the smooth complex representations π
of Gsuch that πθ=π◦θis isomorphic to ωπ =ω⊗π. If πis admissible, in particular
irreducible, the choice of an isomorphism Afrom ωπ to πθ(and of a Haar measure
on G) defines a distribution ΘA
π= tr(π◦A)on G. The twisted Fourier transform
associates to a compactly supported locally constant function fon G, the function
(π, A)7→ ΘA
π(f)on a suitable Grothendieck group. Here we describe its image (Paley–
Wiener theorem) and its kernel (spectral density theorem).
Classification mathématique par sujets (2000). — 22E50.
Mots clefs. — corps local non archimédien, groupe réductif, espace tordu, caractère (tordu),
transformée de Fourier, théorème de Paley–Wiener, théorème de densité spectrale.

2GUY HENNIART & BERTRAND LEMAIRE
Table des matières
1. Introduction .......................................................... 4
1.1. La transformée de Fourier dans le cas non tordu (rappels) . . . . 4
1.2. La transformée de Fourier tordue . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.3. Formulation en termes de l’espace tordu de Labesse . . . . . . . . . . 5
1.4. État des lieux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.5. Lien avec les travaux de Waldspurger . . . . . . . . . . . . . . . . . . . . . . . . 6
1.6. Réduction à la partie “discrète” de la théorie . . . . . . . . . . . . . . . . . . 6
1.7. Le théorème de Paley–Wiener . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.8. Le cocentre tordu C(G\, ω).................................... 8
1.9. L’application d’Euler–Poincaré . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
1.10. Le théorème de densité spectrale . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.11. Des filtrations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
1.12. Plan de l’article .............................................. 11
1.13. Des choix . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
2. Représentations des espaces tordus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
2.1. Conventions .................................................... 12
2.2. Les données .................................................... 12
2.3. ω–représentations de G\...................................... 14
2.4. Les représentations π(k)pour k∈Z.......................... 15
2.5. Le foncteur ιkpour k≥1...................................... 15
2.6. L’invariant s(Π) .............................................. 16
2.7. L’espace GC(G\, ω)............................................ 17
2.8. (H\, ω)–modules et (H\
K, ω)–modules .......................... 19
2.9. Les caractères ΘΠ. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
2.10. Induction parabolique et restriction de Jacquet . . . . . . . . . . . . . . 22
2.11. Contragrédiente .............................................. 25
2.12. Caractères non ramifiés . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
2.13. Quotient de Langlands . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
2.14. Décomposition de Langlands . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
2.15. Support cuspidal et caractères infinitésimaux . . . . . . . . . . . . . . . . 32
2.16. Support inertiel .............................................. 33
2.17. Le “centre” (rappels, cas non tordu) . . . . . . . . . . . . . . . . . . . . . . . . . . 35
2.18. L’anneau Z(G\, ω)............................................ 36
2.19. Action de Zsur le “centre” . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
2.20. “Bons” sous–groupes ouverts compacts de G................ 38
2.21. “Bons” sous–espaces tordus ouverts compacts de G\. . . . . . . . 40
2.22. (H\, ω, B)–modules admissibles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
3. Énoncé du résultat . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
3.1. Le théorème principal . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
3.2. Variante “tempérée” du théorème . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44
3.3. Variante “finie” du théorème . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
4. Réduction à la partie “discrète” de la théorie . . . . . . . . . . . . . . . . . . . . . . . . . . 46
4.1. Le “lemme géométrique” . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46
4.2. Les espaces aP,aP
Q,a∗ P, etc. .................................. 48
4.3. Les espaces aP\,aP\
Q\,bP\,b∗ P\, etc. . . . . . . . . . . . . . . . . . . . . . . . . . . 50
4.4. Les morphismes ωTP\,C........................................ 52

LA TRANSFORMÉE DE FOURIER TORDUE 3
4.5. Actions duales de Z(G)et de PC(G\).......................... 57
4.6. Induction parabolique et restriction de Jacquet : morphismes
duaux ........................................................ 58
4.7. Terme constant suivant P\et caractères des induites paraboliques
(formule de descente de Van Dijk) . . . . . . . . . . . . . . . . . . . . . . . . . . 60
4.8. Le théorème principal sur la partie “discrète” . . . . . . . . . . . . . . . . 61
4.9. Réduction du théorème principal (3.1) au théorème de 4.8 . . . . 62
5. Le théorème de Paley–Wiener sur la partie discrète . . . . . . . . . . . . . . . . . . 63
5.1. Support cuspidal des représentations discrètes . . . . . . . . . . . . . . . . 63
5.2. Un résultat de finitude . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
5.3. Décomposition des fonctions régulières . . . . . . . . . . . . . . . . . . . . . . . . 64
5.4. Une conséquence du lemme de décomposition . . . . . . . . . . . . . . . . 66
5.5. La partie Θ0= Θdis
G\,ω(s)de Θ = Θ(s)est constructible . . . . . . 68
5.6. Décomposition des espaces Fdis(G\, ω)et Fdis
tr (G\, ω). . . . . . . . 69
5.7. Surjectivité dans le théorème de 4.8 . . . . . . . . . . . . . . . . . . . . . . . . . . 71
6. Le théorème de densité spectrale sur la partie discrète . . . . . . . . . . . . . . . . 72
6.1. Trace tordue pour les modules projectifs de type fini . . . . . . . . 72
6.2. Trace tordue (suite) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75
6.3. L’isomorphisme C0(A\)'¯ A\. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77
6.4. Variante (sur la condition de projectivité) . . . . . . . . . . . . . . . . . . . . 81
6.5. Les isomorphismes C0(A\)'C0(A\)et C?(A\)'C?(A\)/Ω?. . 86
6.6. Application aux algèbres de Hecke finies . . . . . . . . . . . . . . . . . . . . . . 89
6.7. L’isomorphisme C0(G\, ω)'H(G\, ω)........................ 90
6.8. La projection C(G\, ω)→C0(G\, ω). . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
6.9. L’application d’Euler–Poincaré . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 95
6.10. Principe de la démonstration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 97
6.11. Filtrations combinatoires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 99
6.12. Filtration topologique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 101
6.13. L’isomorphisme C(G\, ω; 0) 'GC(G\, ω−1). . . . . . . . . . . . . . . . . . 104
6.14. Gradué de la filtration topologique . . . . . . . . . . . . . . . . . . . . . . . . . . 106
6.15. Sur les générateurs projectifs à la Bernstein . . . . . . . . . . . . . . . . . . 108
6.16. Représentations à coefficients dans une extension Kde C. . . . 111
6.17. Spécialisation au point générique . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112
6.18. Démonstration du lemme de 6.17 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117
6.19. Démonstration du lemme de 6.17 (suite) . . . . . . . . . . . . . . . . . . . . 123
6.20. Une conséquence de la proposition de 6.17 . . . . . . . . . . . . . . . . . . 127
6.21. Un résultat de densité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 129
6.22. Le cran d(G\)de la filtration topologique . . . . . . . . . . . . . . . . . . . . 132
6.23. Complément : raffinement du lemme de 6.14 . . . . . . . . . . . . . . . . 135
6.24. L’application d’Euler–Poincaré sur la partie discrète . . . . . . . . 137
6.25. Injectivité dans le théorème de 4.8 . . . . . . . . . . . . . . . . . . . . . . . . . . 141
6.26. Une conséquence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 144
6.27. Un résultat de dualité ........................................144
Index ....................................................................148
Références ................................................................152

4GUY HENNIART & BERTRAND LEMAIRE
1. Introduction
1.1. La transformée de Fourier dans le cas non tordu (rappels). — Soit Fun corps
commutatif localement compact non archimédien, et soit Gun groupe réductif connexe défini
sur F. Le groupe G=G(F)des points F–rationnels de G, muni de la topologie donnée par
F, est localement profini — en particulier localement compact — et unimodulaire. On appelle
représentation de G, ou G–module, une représentation lisse de Gà valeurs dans le groupe
des automorphismes d’un espace vectoriel sur C. Le choix d’une mesure de Haar dg sur G
permet de définir, pour toute représentation admissible πde G, une distribution Θπsur G,
c’est–à–dire une forme linéaire sur l’espace H(G)des fonctions localement constantes et à
support compact sur G: pour f∈H(G), l’opérateur π(f) = RGf(g)π(g)dg sur l’espace de π
est de rang fini, et l’on pose
Θπ(f) = tr(π(f)).
Cette distribution Θπne dépend que de la classe d’isomorphisme de π(et aussi du choix de
dg). Notons G(G)le groupe de Grotendieck des représentations de longueur finie de G. Tout
élément πde G(G)définit par linéarité une distribution Θπsur G.
Le théorème de Paley–Wiener (scalaire) prouvé dans [BDK] caractérise les applications
Z–linéaires de G(G)vers Cqui sont de la forme π7→ Θπ(f)pour une fonction f∈H(G).
L’espace H(G)est muni d’un produit de convolution “∗”, donné par
f∗h(x) = ZG f(g)h(g−1x)dg.
Le noyau de l’application f7→ (π7→ Θπ(f)) contient le sous–espace [H(G),H(G)] de H(G)
engendré par les commutateurs f∗h−h∗f. Le théorème de densité spectrale affirme que
ce noyau est égal à [H(G),H(G)]. Il a été démontré par Kazhdan dans [K1, appendix], via
un argument local–global utilisant la formule des traces, donc valable seulement si Fest de
caractéristique nulle. Kazhdan a ensuite étendu son résultat au cas où Fest de caractéristique
non nulle [K2], par la méthode des corps proches en supposant Gdéployé. Notons que cette
méthode est certainement valable sous des hypothèses moins restrictives, par exemple en
supposant la caractéristique résiduelle grande par rapport au rang de G— voir les travaux
récents de J.–L. Waldspurger sur le lemme fondamental —, mais cela reste à rédiger.
1.2. La transformée de Fourier tordue. — On s’intéresse ici à la version “tordue”
des résultats précédents. La torsion en question est donnée par un F–automorphisme de G,
disons θ. On fixe aussi un caractère ωde G, c’est–à–dire un homomorphisme continu dans
C×. Pour f∈H(G)et x∈G, on note x fla fonction g7→ ω(x)f(x−1gθ(x)) sur G. La théorie
de l’endoscopie tordue étudie les distributions Dsur Gqui, pour tout f∈H(G)et tout
x∈G, vérifient D(x f) = D(f).
Soit πune représentation irréductible de Gtelle que πθ=π◦θest isomorphe à ωπ =ω⊗π.
Le choix d’un isomorphisme Ade ωπ sur πθdéfinit comme plus haut une distribution
ΘA
π= tr(π◦A)sur G. Cette distribution ΘA πdépend bien sûr du choix de A(et aussi
de celui de dg), et elle vérifie
ΘA
π(x
f) = ΘA
π(f).
Pour décrire l’image et le noyau de l’application f7→ (π7→ ΘA
π(f)) comme dans le cas
non tordu, il faut commencer par la définir! On peut le faire de diverses manières, l’une d’elle
étant la suivante. Soit GC(G, θ, ω)le C–espace vectoriel engendré par les paires (π, A)où π
est une représentation de Gde longueur finie telle que πθ'ωπ et Aest un isomorphisme
de ωπ sur πθ, modulo les relations: