Fonctions génératrices en géométrie symplectique

Fonctions génératrices en géométrie symplectique
Cours de Master Avancé 2, ENS Lyon
Marco Mazzucchelli
janvier-mars 2016
Ces notes sont celles d’un cours d’introduction aux fonctions génératrices en
géométrie symplectique donné par Marco Mazzucchelli à l’ENS Lyon. Elles ont
été rédigées par Matthieu Dussaule et Benoit Joly. Les auteurs ont essayé le plus
possible d’avoir des notations cohérentes mais il se peut qu’il subsiste des diffé-
rences légères. Ils s’excusent d’avance auprès du lecteur. Il va également de soi
que les erreurs qui se trouvent dans ce polycopié ne sont pas du fait de Marco
Mazzucchelli.
Dans un premier temps on dégagera des propriétés essentielles pour la suite du
cours qui concernent la théorie du point critique, notamment la théorie de Lyus-
ternik et Schnirelmann. On s’intéressera ensuite à plusieurs conjectures d’Arnol’d
dans le cadre de ce qu’on appelle les phénomènes de rigidité symplectique. C’est à
ce moment qu’on introduira la notion de fonction génératrice. On se servira alors
de cette notion pour étudier les points fixes et plus généralement les points pé-
riodiques de difféomorphismes hamiltoniens. On définira enfin quelques invariants
symplectiques, notamment la capacité symplectique de Viterbo, l’objectif final du
cours étant de prouver le théorème de non-tassement de Gromov. En guise de
compléments, on étudie dans une dernière partie quelques propriétés de base de
l’équation de Hamilton-Jacobi.
Il n’y a pas de référence particulière pour ce cours dont on se soit servi systé-
matiquement mais on peut donner beaucoup de conseils de lecture. Tout d’abord,
pour un lecteur qui n’aurait pas suivi de cours d’introduction à la géométrie sym-
plectique, on réfère aux deux ouvrages [1] et [3]. On pourra d’ailleurs y trouver
également une introduction aux fonctions génératrices. Les quelques lectures sui-
vantes sont plus avancées : [5], [4], [6]. Le troisième article peut-être trouvé sur la
page web de Claude Viterbo. On conseille également la lecture des autres articles
sur cette page, notamment pour la preuve des quelques propriétés non démontrées
dans ce cours dans le quatrième chapitre : Invariants Symplectiques.
1

Table des matières
1 Théorie du point critique 3
1.1 Cadregénéral .............................. 3
1.2 Théorielocale.............................. 4
1.3 ThéorieGlobale............................. 6
1.4 Théorie de Lyusternik - Schnirelmann . . . . . . . . . . . . . . . . . 9
2 Phénomène de rigidité symplectique 14
2.1 Lagrangiensexacts ........................... 14
2.2 Familles Génératrices . . . . . . . . . . . . . . . . . . . . . . . . . . 17
2.3 Points fixes des difféomorphismes hamiltoniens . . . . . . . . . . . . 19
3 Indices de Morse de familles génératrices et points périodiques de difféo-
morphismes hamiltoniens 25
3.1 Points périodiques de difféomorphismes hamiltoniens . . . . . . . . 25
3.2 Indices de Morse des fonctions génératrices . . . . . . . . . . . . . . 27
4 Invariants Symplectiques 30
4.1 Valeurs spectrales et sous-variétés lagrangiennes . . . . . . . . . . . 30
4.2 Valeurs spectrales de graphes de difféomorphismes hamiltoniens . . 33
4.3 Capacités symplectiques de Viterbo . . . . . . . . . . . . . . . . . . 37
5 Compléments 41
5.1 Équation de Hamilton-Jacobi . . . . . . . . . . . . . . . . . . . . . 41
5.2 Ordonabilité du groupe HamcpR2nq.................. 42
2

1 Théorie du point critique
1.1 Cadre général
On considère dans toute cette section une fonction F:MC8 ÑRoù Mest une
variété. Comme Fest à valeurs réelles, un point xPMest un point critique de F
si et seulement si dF pxq “ 0.
La philosophie de la théorie du point critique est de comprendre le lien entre
la topologie de Met l’ensemble des points critiques de F. La connaissance de la
topologie de Mdonne des informations sur CritpFq. Cette étude a été initiée par
Marston Morse à partir des années 20, mais en un certain sens, le premier résultat
dans ce sens est celui de Weirestrass (sur Mcompacte, Fa un maximum et un
minimum). Réciproquement, la connaissance de CritpFqpermet de comprendre
la topologie de M. Cette approche a été développée en premier par René Thom
et Stephen Smale, elle est plus récente. Dorénavant, on fera les quatre hypothèses
suivantes :
1. La variété riemanniene pM, gqest complète (ou hilbertienne en dimension in-
finie, mais dans le cadre de ce cours, on se limitera aux variétés de dimension
finie puisque le but est d’étudier les variétés symplectiques).
2. La fonction Fest lisse. (On pourrait supposer moins de régularité, C2ou
C3suffirait. À nouveau, dans la perspective d’appliquer cette théorie aux
fonctions génératrices en géométrie symplectique, on ne considère que des
applications C8).
3. L’ensemble CritpFqdes points critiques de Fest discret.
4. On suppose la condition suivante vérifiée, dite condition de Palais-Smale
(abrégée en PS dorénavant) : Pour toute suite xnà valeurs dans M, telle
que Fpxnqconverge vers cPRet |∇Fpxnq| converge vers 0, il existe une
sous-suite convergente xnkvers un point critique de F.
On donne quelques exemples. Si Mest une variété fermée (compacte sans bord),
alors toute fonction vérifie PS. Par contre, si M“Ret F“xÞÑ e´x,Fne vérifie
pas PS. En fait, la condition PS se reformule informellement en "ne pas avoir de
point critique à l’infini".
Remarque 1.1.Parfois, la complétude et PS sont des conditions qui jouent l’une
contre de l’autre. Par exemple, soit Fune fonction qui vérifie PS sur une variété M
fermée et soit xun point critique isolé. On considère F:Mztxu Ñ R. La variété
Mztxun’est plus complète car les suites qui convergeaient vers xsont encore
de Cauchy après avoir retiré le point. Mais on peut la compléter en modifiant
la métrique au voisinage de x. En faisant ça, on modifie le gradient de Fau
voisinage de x. On peut toutefois modifier la métrique et conserver la propriété
3

que |∇Fpyq| ÝÑ 0au voisinage de x(exercice) de sorte que Fne vérifie plus PS
sur Mztxu.
On peut déjà tirer quelques conséquences de la condition PS. L’intersection de
CritpFqavec un niveau F´1pcqest compact ou vide (donc fini car CritpFqest
supposé discret). D’autre part, si UĂMest un ouvert tel que UXCritpFq “ H
et FpUqest borné, alors |∇pFq| ě cste ą0.
1.2 Théorie locale
On étudie maitenant une application Fau voisinage d’un point critique. Comme
l’étude est locale, on se place d’emblée dans le cadre d’un ouvert de Rn. On
considère donc F:UC8 ÑR, où Uest un ouvert de Rncontenant 0 et 0 est un
point critique isolé de F. Alors d2Fp0qest une forme bilinéaire, donc on l’écrit
d2Fp0qpv, wq “ă Av, w ąoù Aest une application linéaire auto-adjointe. On
identifie T0UàRnqu’on décompose en Rn“KerpAq ‘ KerpAqK. Comme Aest
autoadjointe, KerpAqK“ImpAq.
Définition 1.1. Si KerpAq “ 0, le point critique xest dit non dégénéré.
Lemme 1.1 (Morse-Gromoll-Meyer).Avec les hypothèses ci-dessus, il existe un
voisinage ouvert Vde 0 dans Rnet il existe φ:VÑUdifféomorphisme sur son
image, tel que ϕp0q “ 0et dϕp0qpréserve la décomposition de l’espace tangent
Rn“KerpAq ‘ KerpAqKet il existe F0:VXKerpAq Ñ Rtelle que dF0p0q “ 0
et d2F0p0q “ 0, tels que
F˝φpx0, x1q “ 1
2xAx1|x1y ` F0px0q.
Remarque 1.2.Dans le cas où xest non dégénéré, on obtient le lemme de Morse
classique F˝φpxq “ 1
2xAx|xy ` cste.
Démonstration. Tout d’abord, B2
x1,x1Fp0,0q “ A|KerpAqKdonc est un isomorphisme.
Le théorème des fonctions implicite donne alors une fonction ψdéfinie sur un voi-
sinage ouvert U0de 0 dans KerpAqà valeurs dans un voisinage ouvert U1de
0 dans KerpAqKtel que ψp0q “ 0et Bx1Fpx0, ψpx0qq “ 0pour tout x0PU0.
Dérivant cette expression par rapport à x0puis l’évaluant en 0, on obtient l’éga-
lité B2
x0,x1Fp0q ` A|KerpAqK˝dψp0q “ 0. Puisque B2 x0,x1Fp0q “ 0et A|KerpAqKest
un isomorphisme, on obtient dψp0q “ 0. On fait le changement de coordonnées
px0, x1q ÞÑ px0, x1`ψpx0qq. Comme dψp0q “ 0, c’est bien localement un change-
ment de coordonnées, et la hessienne en 0 ne change pas. Avec ce changement de
coordonnées, la restriction de Fàtx0uˆKerpAqKa un point critique non dégénéré
en l’origine.
4

On pose Gtpx0, x1q “ tF px0, x1q`p1´tqpFpx0,0q ` 1
2xAx1|x1ąyq et on va
maintenant appliquer la méthode de Moser qui consiste à chercher une isotopie
ϕttelle que Gt˝ϕt“G0et ϕtp0q “ 0. On note Vtle champ de vecteur associé
à l’isotopie ϕt. En dérivant, l’équation devient BtGt`dGtpVtq “ 0. Puisqu’à x0
fixé, 0 est un point critique de F, i.e. Bx1Fpx0,0q “ 0, par le lemme de division
d’Hadamard, on peut écrire Fpx0, x1q “ Fpx0,0q` 1
2xHpx0, x1qx1|x1yau voisinage
de 0. L’équation devient alors dGtpVtq “ 1
2xpHpx0, x1´Aqx1|x1y.
On cherche à présent Vtsous la forme p0, Wtq P KerpAq ‘ KerpAqK. L’équa-
tion se réécrit Bx1Gtpx0, x1qpWtpx0, x1qq “ 1
2xpHpx0, x1q ´ Aqx1|x1y. À nouveau,
Bx1Gtpx0,0q “ 0et ce pour tout x0, donc par le lemme d’Hadamard (à l’ordre 1
cette fois), on écrit Bx1GtpX´0, x1“Ktpx0, x1qx1(Ktest une matrice appliquée
au vecteur x1dans cette écriture). En dérivant puis en appliquant l’expression en
0, on obtient Ktp0,0q“B2
x1,x1Gtp0,0q “ A|KerpAqK. Ainsi Ktest inversible en 0
donc au voisinage de 0 donc on peut trouver un tel champ de vecteur Wt.
Nous allons voir à présent comment caractériser un point critique à l’aide d’in-
variants locaux. On garde les mêmes notations et on note xle point critique de F
(ou 0 dans une carte).
Un premier invariant est la dimension de E´, l’espace négatif de A. C’est le
dimension maximale d’une sous-espace stable sur lequel Aest définie négative.
Comme Aest diagonalisable, c’est aussi le nombre de valeurs propres strictement
négatives. On l’appelle indice de Morse et on le note indpF, xq. Le lemme de Morse-
Gromoll-Meyer dit que xest non dégénéré et i“indpF, xq, alors il existe une carte
ϕtelle que F˝ϕpx, x1q “ 1
2|x|2´1 2|x1|2, où xPRn´iet x1PRi.
Un autre invariant est la dimension du noyau de A. On l’appelle nullité et
on le note nulpF, xq. La nullité et l’indice de Morse décrivent complètement à
changement de base près la Hessienne Ade Fen 0. Mais on n’a pas une description
complète de F0donc de Fnon plus au voisinage de 0.
Un autre invariant est l’homologie locale. On considère le sous-niveau tFăcu
et on définit h˚pF, xq “ H˚ptFăcu Y txu,tFăcuq où cest la valeur critique
de Fen 0. A priori, l’homologie locale n’est pas un invariant local car le sous-
niveau tFăcun’est pas dans un voisinage quelconque de x. En fait, si Vest
un voisinage de xet W:“ tFăcuzV, alors WĂ tFăcu, donc par excision,
h˚pF, xq “ H˚pptFăcuYtxuq X V, tFăcu X Vq. Ainsi l’homologie locale ne
dépend que du germe de Fen 0.
Exemple 1.1.Si 0 est un minimum local strict, alors par excision on peut supposer
que le sous-niveau est vide, donc h˚pF, 0qest l’homologie d’un point. C’est Zsi le
degré est nul et 0 sinon.
Plus généralement, si 0 est un point critique non dégénéré de F, on note i
son indice de Morse. Alors Fpx, x1q “ 1
2|x|2´1 2|x1|2, où xPRn´iet x1PRi. Alors
5