École Normale Supérieure de Lyon Unité de Mathématiques

´
Ecole Normale Sup´ erieure de Lyon
Unit´ e de Math´ ematiques Pures et Appliqu´ ees
DOCUMENT DE SYNTHESE
pr´esent´e pour obtenir
l’HABILITATION ` A DIRIGER DES RECHERCHES
Discipline : Math´ematiques
soutenu publiquement
par
Nalini Anantharaman
le 8 d´ecembre 2006
Titre :
Entropie et localisation des fonctions propres.
Th`ese soutenue au vu des rapports de :
M. Yves Colin de Verdi` ere
M. Peter Sarnak
M. Maciej Zworski
Jury
M. St´ephane Attal, Examinateur
M. Yves Colin de Verdi` ere, Rapporteur
M. Patrick G´ erard, Examinateur
M. Fran¸cois Ledrappier, Examinateur
M. Philippe Michel, Examinateur

Remerciements
En acceptant de rapporter mes travaux, Yves Colin de Verdi`ere, Pe-
ter Sarnak et Maciej Zworski me font un grand honneur et une grande
joie. Sans parler de leurs contributions scientifiques, j’admire beaucoup leur
´energie, leur g´en´erosit´e, leur disponibilit´e et leur ouverture `a des domaines
tr`es vari´es des math´ematiques. Yves Colin de Verdi`ere a suivi mes premi`eres
exp´erimentations semiclassiques, m’a patiemment expliqu´e tout ce que je
voulais savoir sur le sujet, tout en devant corriger continuellement mes con-
clusions erronn´ees. Je suis extrˆemement reconnaissante `a Peter Sarnak pour
le temps qu’il m’a consacr´e, et, en particulier, pour m’avoir invit´ee plusieurs
fois `a venir le rencontrer alors que j’´etais dans l’impasse et que lui-mˆeme
trouvait mon projet plutˆot hasardeux... L’int´erˆet que porte Maciej Zworski
`a mes travaux me fait grand plaisir, et je le remercie de les avoir lus avec
tant de soin.
Fran¸cois Ledrappier, depuis mes ann´ees de th`ese, a toujours cru que tout
ce que j’entreprenais finirait par aboutir. C’´etait un peu inconfortable, et il a
dˆu ˆetre plusieurs fois d´e¸cu, `a moins qu’il ne continue `a attendre les r´esultats
auxquels j’ai moi-mˆeme renonc´e... Je le remercie pour cette confiance.
Patrick G´erard, par ses ´ecrits et ses conseils, a guid´e ma d´ecouverte
des ´equations aux d´eriv´ees partielles. Je suis tr`es heureuse qu’il ait ac-
cept´e de prendre part au jury. J’ai souhait´e que l’aspect “arithm´etique”
de l’ergodicit´e quantique, que je m’efforce de comprendre, soit repr´esent´e
dans le jury, et c’est une grande fiert´e qu’il le soit par un math´ematicien de
l’envergure de Philippe Michel. C’est ´egalement un grand honneur d’avoir
dans ce jury un sp´ecialiste de la m´ecanique statistique quantique tel que
St´ephane Attal.
Je tiens `a remercier trois personnes qui ont eu, `a leur insu, une in-
fluence d´eterminante sur mon travail. Leonid Polterovich a suscit´e mon
int´erˆet pour les fonctions propres du laplacien en m’expliquant le probl`eme
de l’ergodicit´e quantique, lors d’un dˆıner de conf´erence en 2002. Apr`es deux
ans de recherches infructueuses, et alors que je pensais y mettre un point final
par un expos´e au “S´em’In”, Myl`ene Ma¨ıda et Viktor Kleptsyn ont r´eveill´e
mon envie de travailler en m’indiquant des r´ef´erences qui, finalement, m’ont
mise sur la bonne piste.
Je suis donc une adepte du concept du S´em’In, le s´eminaire interne de
l’UMPA, qui permet chaque semaine aux membres du laboratoire de se con-
ter leurs r´esultats, leurs lectures, leurs travaux en cours. Mais ce n’est qu’un
exemple parmi d’autres du climat de confiance et de bonne communication
scientifique qui r`egne `a l’UMPA. J’y ai particuli`erement appr´eci´e l’absence
de barri`eres entre les diff´erentes branches des math´ematiques, revendiqu´ee de
mani`ere presque militante. Merci `a tout le laboratoire pour cette ambiance
de recherche stimulante — il serait trop long de citer tous les noms des per-
1

sonnalit´es exceptionnelles qui le font vivre — et merci `a Virginia Goncalves,
Magalie Le Borgne, H´el`ene Schoch, Florence Koch, G´erard Lasseur et Herv´e
Gilquin pour leur gentillesse et leur comp´etence. Du cˆot´e de l’enseignement,
un grand merci `a Claire Des´ecures, et `a tous ceux avec qui j’ai partag´e les
bons et moins bons moments de la vie d’enseignant.
Il me faut encore remercier tout le groupe du projet ANR R´esonances
et d´ecoh´erence en chaos quantique : Fr´ed´eric Faure, Luc Hillairet, Colin
Guillarmou, Fr´ed´eric Naud, Viviane Baladi... avec qui les s´eances de travail
sont un vrai plaisir. Un remerciement sp´ecial `a St´ephane Nonnenmacher.
Je remercie Christiane Vilain du LUTH/Observatoire de Paris–Meudon
pour son introduction tr`es ´eclairante `a l’histoire de la m´ecanique, et pour
m’avoir communiqu´e ses notes de cours, extrˆemement int´eressantes. Elles
m’ont guid´ee dans la r´edaction du premier chapitre, mˆeme si je n’y ai finale-
ment pas consacr´e tout le temps que j’aurais voulu.
Merci, enfin, `a mes parents, dont je mesure de plus en plus avec les
ann´ees l’immense d´evouement.
2

Table des mati`eres
1 Les ´equations de la m´ecanique. 8
1.1 Action................................ 8
1.2 Premi`eres r`egles de quantification. . . . . . . . . . . . . . . . 11
1.3 Lois d’´evolution quantiques. . . . . . . . . . . . . . . . . . . . 14
1.4 Equivalence de la m´ecanique quantique et de la m´ecanique
ondulatoire............................. 18
1.5 M´ethodesB,K,W. ........................ 20
2 Int´egrales oscillantes et approximation semiclassique. 24
2.1 La propagation des singularit´es selon Schr¨odinger. . . . . . . 24
2.2 Transform´ee de Fourier. . . . . . . . . . . . . . . . . . . . . . 26
2.3 La m´ethode de la phase stationnaire. . . . . . . . . . . . . . . 26
2.4 Op´erateurs pseudodiff´erentiels. . . . . . . . . . . . . . . . . . 28
2.5 Microsupport, propagation des singularit´es. . . . . . . . . . . 32
2.6 ´ Etats stationnaires, mesures semiclassiques. . . . . . . . . . . 33
3 Limite semiclassique le long de l’axe imaginaire. 36
3.1 Int´egrales de Feynman . . . . . . . . . . . . . . . . . . . . . . 36
3.2 Solutions de viscosit´e pour Hamilton–Jacobi et th´eorie KAM
faible. ............................... 45
3.3 Non-unicit´e des solutions stationnaires. . . . . . . . . . . . . . 49
3.4 Effet tunnel de fond de puits. . . . . . . . . . . . . . . . . . . 53
4 Le cas r´eel. 67
4.1 Ergodicit´e quantique. . . . . . . . . . . . . . . . . . . . . . . . 67
4.2 Des contre-exemples. . . . . . . . . . . . . . . . . . . . . . . . 70
4.2.1 Lechat........................... 71
4.2.2 Leboulanger........................ 75
4.3 Sur l’entropie des mesures semiclassiques. . . . . . . . . . . . 78
4.3.1 L’estim´ee principale : d´ecroissance exponentielle de la
mesure des cylindres. . . . . . . . . . . . . . . . . . . 83
4.4 Le principe d’incertitude entropique. . . . . . . . . . . . . . . 86
3

Introduction.
Le probl`eme de la quantification des syst`emes hamiltoniens ergodiques est
´evoqu´e pour la premi`ere fois dans un texte d’Einstein, publi´e en 1917 [Ein17],
o`u il est question d’´etendre les conditions de quantification de Bohr, Som-
merfeld et Epstein au cas de syst`emes `a plusieurs degr´es de libert´e. Pour ce
faire, Einstein se voit oblig´e de supposer que l’espace des phases classique
est feuillet´e en tores lagrangiens invariants, autrement dit que le syst`eme est
compl`etement int´egrable. Il ´enonce alors le principe suivant :
ZγX
i
pidqi=nh (n∈Z),
c’est-`a-dire que l’int´egrale d’action ne peut prendre que des valeurs mul-
tiples de la contante de Planck h= 6,626068.10−34m2.kg/s, pour toute
courbe ferm´ee γtrac´ee sur un tore invariant. Cens´ee donner une recette pour
s´electionner les tores sur lesquels les ´etats invariants se localisent, cette r`egle
a ´et´e corrig´ee par Kramers, Brillouin et Wentzell [Kr26, Brill26, Wtz26], `a la
suite des travaux de Schr¨odinger, puis par Keller et Maslov [Kell58, Masl65] :
il faut ´ecrire RγPipidqi=³n+ind(γ)
4´h+O(h2) o`u ind est l’indice de
Maslov.
Aujourd’hui, on comprend donc plutˆot bien les propri´et´es spectrales de
l’op´erateur hamiltonien (quantique) associ´e `a syst`eme compl`etement int´egrable
(classiquement). Mais, d`es 1917, Einstein note qu’on ne sait plus d´ecrire le
spectre quantique `a partir de notre connaissance du syst`eme classique, quand
le nombre d’int´egrales du mouvement est insuffisant, le cas le pire ´etant celui
des syst`emes ergodiques (“[...] nur in diesem Falle ist die mikrokanonische
Gesamtheit der auf ein System sich beziehenden Zeitgesamtheit ¨aquivalent”
[Ein17]). Les ´equations de Heisenberg ou Schr¨odinger [H25, Schr26-II] se
r´esolvent formellement comme un syst`eme compl`etement int´egrable de di-
mension infinie, et il est difficile d’y percevoir trace de chaos : “Quan-
tenmechanisch l¨aßt sich eine Trennung in periodische und aperiodische Be-
wegungen im allgemeinen nicht durchf¨uhren” (Heisenberg [H25]). Il faut se
contenter de conjecturer, par exemple, qu’un syst`eme chaotique “g´en´erique”
´emet un spectre qui ressemble `a celui d’une matrice al´eatoire gaussienne de
grande dimension [Bo91].
4