THÈSE DE DOCTORAT DE L`UNIVERSITÉ PIERRE ET MARIE CURIE

THÈSE DE DOCTORAT DE
L’UNIVERSITÉ PIERRE ET MARIE CURIE
Spécialité :
Physique Mathématique
Présentée par
M. Emmanuel Schenck
pour obtenir le titre de
DOCTEUR DE l’UNIVERSITÉ
PIERRE ET MARIE CURIE
Sujet de la thèse :
Systèmes quantiques ouverts et méthodes semi-classiques
Soutenue le 17 novembre 2009 devant le jury composé de :
M. Stéphane Nonnenmacher (Directeur)
M. André Voros (Directeur)
M. Nicolas Burq (Rapporteur)
M. Michael Hitrik (Rapporteur)
M. Eugène Bogomolny
M. Herbert Koch
M. Nicolas Lerner

Résumé
Ce travail de thèse s’inscrit dans le domaine du chaos quantique, c’est à dire l’étude de propriétés
spectrales de systèmes quantiques dont la limite classique est chaotique. Nous nous sommes intéressés
aux systèmes dits ouverts, c’est à dire ne présentant pas d’états liés.
Dans une première partie, nous avons étudié des modèles unidimensionnels appelés applica-
tions quantiques “partiellement ouvertes”. Ces propagateurs modèles sont construits à partir de la
quantification d’un espace des phases classique modèle, le tore T2, muni d’une application symplec-
tique chaotique jouant le rôle de dynamique classique. Pour étudier les propriétés spectrales de ces
applications sous unitaires du fait de l’ouverture partielle, nous avons d’une part utilisé des tech-
niques d’analyse microlocale transposées sur le tore, et d’autre part le principe de correspondance
classique-quantique, ou théorème d’Egorov : ceci nous a permis, en employant des résultats de théo-
rie ergodique, d’obtenir des informations sur la densité spectrale de ces applications dans le plan
complexe, dans la limite semiclassique.
Dans une deuxième partie, nous avons étudié l’équation des ondes amorties sur une variété
riemannienne compacte de courbure négative. Sur de telles variétés, le flot géodésique est partout
hyperbolique. Sous l’hypothèse de négativité de la pression topologique d’une fonction faisant inter-
venir l’amortissement, (non équivalente à l’hypothèse de contrôle géométrique), nous avons montré
d’abord un trou spectral au voisinange de l’axe réel. Comme conséquence, nous avons obtenu une
décroissance exponentielle de l’énergie des ondes pour toutes données initiales assez régulières, et la
perte de dérivées a pu être calculée explicitement.
Mots-clés : chaos quantique, systèmes ouverts, systèmes Anosov, équation des ondes
amorties, contrôle et stabilisation, applications quantiques.
Abstract
The subject of this thesis concerns quantum chaos, which consists in the spectral study of
quantum systems which have a chaotic classical limit. We have focused on open systems, or systems
with no bound states.
In a first part, we studied some unidimensional models called “partially open quantum maps”.
These maps are constructed from the quantization of a simple phase space, the torus T2, endowed
with a chaotic symplectic map playing the role of classical dynamics. In order to study the spectral
properties of such quantum maps which are subunitary because of the opening, we used in one
hand some microlocal analysis tools adapted to the torus, and on the other hand the principle of
quantum-to-classical correspondence, or Egorov theorem. With the help of ergodic theory results,
we obtained some information on the spectral density of such maps in the complex plane in the
semiclassical limit.
In a second part, we studied the damped wave equation on a compact Riemannian manifold
of negative curvature. On such manifolds, the geodesic flow is everywhere hyperbolic. Under an
hypothesis on the negativity of the topological pressure of a function depending on the damping
(not equivalent to the geometric control assumption), we showed a spectral gap near the real axis.
As a consequence, we obtained an exponential energy decay of the waves for all initial data sufficiently
regular, and the loss of derivatives has been computed explicitely.
Key words : quantum chaos, open systems, Anosov systems, damped wave equations,
control and sabilization, quantum maps.

Remerciements
Je tiens tout d’abord à remercier mon directeur Stéphane Nonnenmacher pour la grande
qualité de son encadrement durant ce travail de thèse. Toujours avec gentillesse, il a donné
sans compter de son temps pour accompagner mes premiers pas dans le monde de la re-
cherche, et c’est une chance d’avoir pu travailler avec un directeur sachant doser si justement
patience, rigueur et exigence.
Si les contacts avec mon second directeur André Voros ont été plus épisodiques, ils n’en
furent pas moins chaleureux : je tiens en particulier à le remercier d’avoir accepté d’être
mon directeur “officiel” et de s’être toujours acquitté avec le sourire des diverses formalités
que ceci impliquait.
Je voudrais ensuite remercier Nicolas Burq et Michael Hitrik qui ont accepté d’être les
rapporteurs de ce travail de thèse, ainsi que les autres membres du jury, Eugène Bogomolny,
Herbert Koch et Nicolas Lerner qui ont répondu positivement à ma demande. J’apprécie
sincèrement que Herbert Koch et Michael Hitrik aient pu se déplacer, parfois de bien loin,
pour venir assister à la soutenance.
La recherche étant aussi un travail collectif, je pense également aux personnes qui m’ont
apporté d’autres lumières scientifiques – mais pas seulement ! Je remercie tout particuliè-
rement Maciej Zworski, qui m’a chaleureusement acueilli lors de mon séjour à Berkeley ;
Frédéric Faure et Nalini Anantharaman. C’est avec plaisir que je mentionne ici mon entou-
rage régulier à l’Orme des Merisiers : Christian Vergu, Clément Ruef et Hélène Grandclaude
avec qui j’ai partagé mon bureau, Pascale Beurtey, Patrick Berthelot et l’ensemble du service
informatique pour les nombreux dépannages, enfin Sylvie Zaffanella pour tous les services
divers et variés, mais souvent essentiels, qu’elle a pu me rendre pendant ma thèse.
Last, but not least, je remercie tous ceux, amis ou famille, avec qui j’ai partagé ces der-
nières années et qui ont dû tant bien que mal supporter mes variations d’humeur thésitives :
mes parents pour leur soutien constant, Marine, Mathieu, Clémence et Pierre dans les der-
nières lignes droites en particulier, Tristan et Alexis du côté de Jussieu, Nicolas, Stéphane,
Marie, Sébastien et Amanda pour nos rendez-vous d’altitude trop souvent manqués, et puis
Ivan, Charles, Veronica, Maria, Valentin, Émilie, Esther.......

Table des matières
1 Introduction 7
1.1 Chaos quantique et systèmes ouverts . . . . . . . . . . . . . . . . . . . . . . . 7
1.2 Sujets d’étude et méthodes . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
2 Systèmes dynamiques chaotiques 19
2.1 Deux systèmes dynamiques modèles . . . . . . . . . . . . . . . . . . . . . . . 19
2.1.1 Flot engendré par un champ de vecteurs . . . . . . . . . . . . . . . . . 19
2.1.2 Automorphismes hyperboliques du tore . . . . . . . . . . . . . . . . . 20
2.1.2.1 Applications du chat d’Arnold . . . . . . . . . . . . . . . . . 20
2.1.2.2 L’application du boulanger . . . . . . . . . . . . . . . . . . . 21
2.2 SystèmesAnosov.................................. 21
2.2.1 Hyperbolicité : cas des difféomorphismes . . . . . . . . . . . . . . . . . 22
2.2.2 Variétés stables, variétés instables . . . . . . . . . . . . . . . . . . . . . 22
2.2.3 FlotsAnosov ................................ 23
2.3 Théorieergodique ................................. 24
2.3.1 Le Théorème ergodique de Birkhoff . . . . . . . . . . . . . . . . . . . . 24
2.3.2 Entropies et pression topologique . . . . . . . . . . . . . . . . . . . . 26
2.3.2.1 Entropie topologique . . . . . . . . . . . . . . . . . . . . . . . 26
2.3.2.2 Entropie métrique . . . . . . . . . . . . . . . . . . . . . . . . 26
2.3.2.3 Pression topologique d’un difféomorphisme . . . . . . . . . . 27
2.3.2.4 Pression topologique d’un flot . . . . . . . . . . . . . . . . . . 28
2.3.2.5 États d’équilibre et principe variationnel . . . . . . . . . . . . 28
2.4 Dynamiquesymbolique............................... 29
2.4.1 Décalages .................................. 29
2.4.2 Matrice d’adjacence . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
2.4.3 L’opérateur de Ruelle . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
3 Analyse semiclassique 35
3.1 Opérateurs différentiels, symboles et mécanique classique . . . . . . . . . . . . 35
3.2 Quantification des symboles . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
3.2.1 Introduction d’un petit paramètre ~................... 37
3.2.2 Les classes de symboles standard . . . . . . . . . . . . . . . . . . . . . 38
3.2.3 ~−quantifications des symboles dans S(T∗Rd).............. 39
3.2.4 Quantification des symboles généraux . . . . . . . . . . . . . . . . . . 41
3.3 Opérateurs intégraux de Fourier . . . . . . . . . . . . . . . . . . . . . . . . . 47
3