G\`en\`ericit\`e au sens probabiliste dans les diff\`eomorphismes du

Généricité au sens probabiliste dans les
difféomorphismes du cercle
Michele Triestino
arXiv:1411.5265v2 [math.DS] 27 Nov 2014

Résumé
What kind of dynamics do we observe in general on the circle ? It depends somehow on the interpretation
of “in general”. Everything is quite well understood in the topological (Baire) setting, but what about
the probabilistic sense ? The main problem is that on an infinite dimensional group there is no analogue
of the Lebesgue measure, in a strict sense. There are however some analogues, quite natural and easy to
define : the Malliavin-Shavgulidze measures provide an example and constitute the main character of
this text. The first results show that there is no actual disagreement of general features of the dynamics
in the topological and probabilistic frames : it is the realm of hyperbolicity ! The most interesting
questions remain however unanswered...
This work, coming out from the author’s Ph.D. thesis, constitutes an opportunity to review
interesting results in mathematical topics that could interact more often : stochastic processes and
one-dimensional dynamics.
After an introductory overview, the following three chapters are a pedagogical summary of classical
results about measure theory on topological groups, Brownian Motion, theory of circle diffeomorphisms.
Then we present the construction of the Malliavin-Shavgulidze measures on the space of interval
and circle C1diffeomorphisms, and discuss their key property of quasi-invariance.
The last chapter is devoted to the study of dynamical features of a random Malliavin-Shavgulidze
diffeomorphism.

Chapitre I
Introduction
1 Généricité topologique et généricité probabiliste
Dans la théorie moderne des systèmes dynamiques, l’un des points cruciaux est de comprendre
leur propriétés génériques, puisqu’une connaissance globale s’avère tout simplement impossible pour
l’être humain. Durant les dernières années, d’importants et nombreux résultats ont élucidé le paysage,
pqrticulièrement celui de la dynamique décrite par un difféomorphisme C1 générique d’une variété
compacte fermée, sous l’impulsion du programme de Palis [Bon-Día-Via]. La notion de généricité
communément utilisée est topologique : dans un espace de Baire (comme par exemple l’espace Diffr ( M )
des difféomorphismes Cr d’une variété, r∈ [1 , + ∞ ]) un ensemble est générique (ou résiduel) s’il
contient une intersection dénombrable d’ouverts denses.
Cependant, atteindre cette seule description n’offre pas une vision satisfaisante et il faut lui accoster
une étude probabiliste : dans un espace mesuré ( X, µ )(par exemple le n -cube unité avec la mesure de
Lebesgue) un ensemble est générique – au sens probabiliste – si son complémentaire est de µ -mesure
nulle. Problème : dans un espace dynamiquement intéressant, comme Diffr ( M ), quelle mesure µ choisir ?
Il n’y en a pas d’intrinsèque et on doit souvent avoir recours aux approximations de dimension finie
(où l’on dispose de la mesure de Lebesgue, justement). À présent, la notion qui formalise ce genre
d’approche est celle de prévalence [Hun-Kal], inspirée par Kolmogorov [Kol].
Dans ce mémoire nous présentons en quelque sorte une « rareté » : lorsque la variété M est de
dimension 1(un intervalle ou un cercle), il existe une classe de candidats jouant le rôle de la mesure
de Lebesgue sur Diff1 ( M ): les mesures de Malliavin-Shavgulidze (MS), apparues dans la littérature
physico-mathématique vers la fin des année 1980. Nous entreprenons l’étude des propriétés génériques
d’un difféomorphisme tiré au hasard selon l’une de ces mesures.
Malheureusement, l’existence de classes de mesures possédant des propriétés semblables n’est pas
connue, ni pour des groupes de difféomorphismes de variétés de dimension majeure, ni pour des espaces
d’endomorphismes différentiables.
2 Mesures de type Haar
Les mesures MS ont la propriété remarquable d’être de type Haar : elles sont
1. compatibles avec la topologie (elles sont des mesures de Radon),
2. quasi-invariantes par l’action de translation (à gauche) d’un sous-groupe suffisamment grand, à
l’occasion Diff2(M)– à savoir les translations préservent les ensembles de mesure nulle.
De fait, l’existence d’une mesure de Haar sur un groupe topologique (donc, une mesure de Radon
quasi-invariante par l’action de translation du groupe entier sur lui-même) force le groupe à être
localement compact.
Nous ferons des rappels plus détaillés dans ce texte. Expliquons plutôt ici l’avantage théorique
et pratique de disposer d’une mesure de Haar sur un groupe, qui est le moteur des travaux autour
de Shavgulidze. Il est bien connu que tout groupe fini est isomorphe à un sous-groupe du groupe
i

symétrique sur un nombre d’objets égal à son ordre. Ainsi, le groupe symétrique sur n éléments contient
une copie de tous les groupes de cardinal au plus n . Notons que l’hypothèse de finitude n’est pas
nécessaire : tout groupe s’injecte dans le groupe des bijections d’un ensemble de cardinal égal à l’ordre
du groupe. En revanche, lorsque le cardinal n’est plus fini, le groupe symétrique est trop grand pour
être compris : nous nous en sortons avec l’emploi de l’analyse. Si un groupe G possède une mesure de
Haar µ, on peut regarder l’espace de Hilbert des fonctions L2sur G:
L2(G, µ) = f:G−→ Cmesurable ZG f2dµ < ∞.
Or, l’action de G par multiplication à gauche induit une action linéaire sur L2 ( G, µ ): étant donné
g∈G , on associe à f∈L2 ( G, µ )la fonction Lgf qui fait correspondre à tout x∈G la valeur f ( g−1x ).
Puisque la mesure µ est invariante, cette action est aussi unitaire. La conséquence que l’on en tire
est la suivante : tout groupe localement compact est isomorphe à un sous-groupe du groupe des
opérateurs unitaires dans un espace de Hilbert. D’après Shavgulidze, on peut développer une telle
analyse harmonique aussi pour un groupe de dimension infinie tel que le groupe des difféomorphismes
du cercle.
Une telle vision est utile lorsque l’on s’intéresse à la théorie des représentations linéaires d’un
groupe, mais elle est rarement d’utilité lorsque l’on veut étudier la dynamique non-linéaire. Une (rare ?)
exception apparait lorsque l’on se place dans le monde des groupes de Lie (on pense ici aux grands
résultats ergodiques obtenus pour les réseaux depuis Margulis). Mais encore, le dynamicien peut-il être
satisfait si un problème apparemment simple comme celui de comprendre l’image de la mesure de Haar
par l’application d’élévation à puissance g7→ gk , est difficilement abordable ? Même pour le groupe
linéaire GLn ( R )cette question n’est pas si simple (heureusement la décomposition spectrale nous
sauve !). Les mesures de Haar ne sont pas proprement dynamiques : les objets naturels en dynamique
sont ceux qui sont invariants par conjugaison, non par composition d’un coté ! 1
Cependant, en reprenant le discours initial, une mesure « homogène » comme la mesure de Haar
est assez appropriée pour décrire le comportement générique au sens probabiliste : très souvent on
rencontre les mêmes phénomènes génériques sous les deux différents points de vue (topologique et
probabiliste), même si parfois les deux descriptions peuvent être contradictoires. Pour donner un
exemple fortement relié à la dynamique sur le cercle, les nombres diophantiens forment une partie de
mesure de Lebesgue totale dans R, alors que les nombres de Liouville forment un ensemble résiduel.
D’une nature un peu différente était la motivation du travail autour de Malliavin : au lieu d’une
analyse harmonique en dimension infinie, le calcul de Malliavin offre (entre autres) le bon cadre pour une
théorie des distributions de Schwartz en dimension infinie. En dimension finie, l’intégration par parties
est au cœur de la définition des distributions : en commençant par comprendre les transformations
qui laissent quasi-invariante une mesure sur un espace de dimension infinie, il est possible d’étendre
l’intégration par parties et d’étudier la régularité des transformations de l’espace.
3 Les mesures de Malliavin-Shavgulidze
Esquissons brièvement la construction de Malliavin et Shavgulidze : l’idée est brillante, l’explication
très simple ! Depuis Wiener, nous savons choisir uniformément une fonction continue sur le cercle
de moyenne nulle : nous appelons une telle fonction aléatoire pont brownien. Ensuite on définit le
difféomorphisme aléatoire par intégration, en choisissant uniformément par rapport à la mesure de
Lebesgue l’image d’un point donné (par exemple 0) : en termes plus précis, si B = ( Bt )
t∈[0,1]
est un
pont brownien et λ une variable aléatoire uniforme sur [0 , 1] indépendante de B , nous définissons le
difféomorphisme aléatoire de Malliavin-Shavgulidze par
f(t) = Rt
0exp(Bs)ds
R1
0exp(Bs)ds +λ. (I.1)
1 . On pourrait argumenter qu’une mesure de Haar µ invariante à gauche permet de construire une mesure bi-invariante
(et donc invariante par conjugaison) : si ι : G−→ Gop est le morphisme vers le groupe opposé, ι ( g ) = g−1 , alors µ∗ι∗µ
est bi-invariante. Mais il s’agit d’une construction artificielle.
ii

Par suite, nous disposons d’une mesure µMS sur le groupe Diff 1
+
( S1 )que l’on appelle mesure de
Malliavin-Shavgulidze.
Un résultat de Cameron et Martin classique montre que la mesure de Wiener sur l’espace des
fonctions continues C0 ( S1 )est de type Haar. Il existe un autre théorème, moins connu, de Cameron et
Martin [Cam-Mar 2], qui implique entre autres que la mesure de Malliavin-Shavgulidze est de type
Haar pour Diff 1
+(S1): le sous-groupe des difféomorphismes C2préserve la classe de la mesure MS.
Dans le chapitre V, nous avons recueilli les résultats principaux sur les mesures MS, en rajoutant des
détails aux preuves qui en nécessitent. En particulier nous présentons le théorème de Shavgulidze qui
explicite la dérivée de Radon-Nikodym associée à l’action par multiplication à gauche de Diff 3
+
([0 , 1])
sur (Diff 1
+(S1), µMS ):
d(Lϕ)∗µMS
dµMS
(f) = exp ZS1Sϕ(f(t)) (f0(t))2dt,
puis nous rappelons le théorème de Kosyak qui montre l’ergodicité de cette action.
Bien évidemment, lorsque l’on dispose d’une mesure quasi-invariante à gauche comme µMS , on
peut définir la mesure d˜µMS ( f ) = dµMS ( f−1 ), qui est naturellement quasi-invariante à droite. Ensuite,
par convolution on peut obtenir aussi une mesure quasi-bi-invariante µMS ∗˜µMS : elle est peut-être
plus intéressante d’un point de vue dynamique, puisqu’elle est également quasi-invariante par l’action
de conjugaison. Par rapport à cette mesure, un difféomorphisme aléatoire s’écrit sous la forme f+◦f−1
−
,
où les f±sont de difféomorphismes aléatoires du type (I.1).
Il ne faudra pas cacher que beaucoup d’autres mathématiciens ont construit des mesures sur les
groupes de difféomorphismes des variétés. Malgré tous les efforts, il est très difficile d’obtenir de belles
mesures lorsque les variétés sont de dimension plus grande que 1: l’une des difficultés majeures est la
nature algébrique de ces groupes de Lie de dimension infinie, qui devient trop compliquée, alors qu’une
autre provient de la régularité qui s’affaiblit lorsque l’on monte en dimension (comme par exemple
dans le cas des immersions de Sobolev). Il serait très intéressant de disposer d’une construction simple
de mesure quasi-invariante sur les difféomorphismes du tore ou du disque, qui préservent l’aire. À ce
propos, rappelons que Shavgulidze a défini d’autres mesures quasi-invariantes, par exemple sur l’espace
des difféomorphismes C4du disque, mais il s’agit de constructions assez indirectes.
Nous n’essaierons pas de décrire d’autres exemples de mesures, car chacune porte ses caractéristiques
spécifiques et il est presque impossible de les présenter sous une théorie unificatrice. La simplicité, la
propriété de quasi-invariance et les propriétés de régularité nous ont convaincus que les mesures MS
méritent un certain regard.
4 Étude de la dynamique générique
Dans le chapitre VI, nous entreprenons l’étude dynamique. Comme d’habitude, on essaie de décrire
le comportement d’un difféomorphisme à conjugaison près. Depuis le travail fondateur de Poincaré [Poi],
il est très naturel de comprendre, en premier lieu, quelle pourrait être la distribution du nombre de
rotation, qui est l’invariant de conjugaison le plus célèbre.
2
Il s’avère que ce problème semble difficile
d’accès.
À cause de la présence de difféomorphismes avec orbites périodiques hyperboliques, les difféomor-
phismes avec orbites périodiques (et donc nombre de rotation rationnel), constituent une partie de
mesure strictement positive.
Que peut-on dire sur les orbites d’un difféomorphisme choisi uniformément par rapport à la mesure
MS ? Existe-t-il presque toujours une orbite périodique ?
Nos résultats donnent une bonne description une fois que l’on a conditionné à qu’il y ait des orbites
périodiques :
Théorème 4.1. Les difféomorphismes du cercle qui possèdent un nombre fini d’orbites périodiques
forment une partie de mesure MS totale parmi ceux qui ont des points périodiques.
2 . Pour le lecteur qui n’est pas initié à la théorie des difféomorphismes du cercle, nous parcourons les aspects principaux
dans le chapitre IV.
iii