Résultats Récents sur la Conjugaison Differentiable

Proceedings of the International Congress of Mathematicians
Helsinki, 1978
Résultats Récents sur la Conjugaison Differentiable
Michael Robert Herman
1. Introduction. On pose Tn=Rn/Zn et on désigne la mesure de Haar de Tn par m.
1.1 Si M est une variété compacte connexe Ä-analytique, on désigne par
Diffr (M) (resp. DifPJ. (M)) le groupe des difféomorphismes de classe Cr de M
(resp. qui sont Cr-isotopes à l'identité).
On munit Diffr (M) de la Cr topologie et Diff+ (M) est alors la composante
connexe de Pld. Ici rG{0, +«>, co}u {x£R\x^l}; si /-=0, c'est le groupe des
homéomorphismes de Tn; si r>l, r£Ä*—N9 c'est le groupe des difféomorphismes
de classe C vérifiant une condition d'Hölder d'exposant r—[r] sur la [r]èmo
dérivée; si r=co c'est le groupe des difféomorphismes jR-analytiques de M. Si
rÇiVu{+a>} alors Diffr (M) est un groupe topologique Polonais pour la Cr-
topologie.
1.1 Problème 1. Etudier la structure de groupe de Diffr (M).
Par exemple. Quand / et g sont-ils Cr-conjugués (i.e. il existe h6Diff£ (M),
tel que f=h~1ogoh)l
Quelle structure peuvent avoir les C-centralisateurs
(i.e. Centp(/) = {g£TXÎP(M)\gofog-i=/})l
1.2 REMARQUE. Si / et ggDiff00 (M)9 il y a une infinité de problèmes: à quelles
conditions / et g sont-ils C°, C\ ... etc conjugués?
1.3. EXEMPLE. Soient T2=R2/Z2 et /(^1,^2)=(x1+a,^2 + ç)(A:1)) modZ2,
avec ae^-ß/Z et pGC00^1) vérifiant fT1<p(0)dO=Q. On montre (voir [H])

812 Michael Robert Herman
que/est C'-conjugué à Riat0): (xl9 ^2)^(^1+^ ^2) dans Diff £ ( J2) si et seulement
s'il existe xj/^C^T1) vérifiant \l/—\l/oRa=(p (considérer (xl9 x2)-+(xl9 ^2+^(^1)))-
Si a est un nombre de Liouville (i.e. a est irrationnel et pour tout entier i^\9
il existe pilqi£Q,(pi9qi) = l9 q^Z vérifiant |a —(/V^Htff"') et si r£N est
donné, on peut choisir cp tel que xj/ soit de classe C mais non Cr+S. Dans ce
cas on peut montrer que Cent00 (/) contient un sous-groupe fermé pour la C°°-
topologie, qui est monothétique, non localement compact et totalement discontinu.
1.4 Pour le problème de la simplicité des groupes DifFj. (M), voir [MaJ, [HJ,
[HJ, [Th]; pour les applications aux feuilletages voir [Ma2], [Law].
1.5 Une question importante est la suivante:
Problème 2. Soit /ÇDiff °° (M)9 à quelles conditions sur M et f existe-t-il un
C°°-voisinage ouvert de l'IdO, tel que l'ensemble 0£v={g-1ofog\geVc:Diiï~ (M)}
soit localement fermé et de codimension finie au voisinage de f (le tout pour la C°°-
topologie) ?
On posera dans la suite: C^0 = {g"1o/og|^€Diff^ (M)}.
2. Cas de T". Nous allons rapidement décrire les exemples connus sur
Tn=R"/Z"; on considère les translations RK: x-+x+a9 a6T".
2.1 DéFINITION. La translation Ra de Tn satisfait à une condition diophantienne,
s'il existe jß>0, C>0, tel que pour tout (kl9 ..., kn)£Zn — {0} on ait
Sb*
i=l
^ C(sup |/cJ)-0
avec a=(al5 ...,a„) et si x£T191|#|| est la distance à l'entier le plus proche d'un
relevé de A: à JR.
2.2. THéORèME (KOLMOGOROV [KoJ, ARNOLD [AJ, MOSER [MoJ.). Soit Ru
une translation de Tn satisfaisant à une condition diophantienne. Il existe un voisinage
VR de Ra dans Differ') tel que si f e VR , il existe X£Tn et g£Dift~(Tn9 0) =
{fivifff (T")\f(0) = 0} vérifiant
De plus (voir [MoJ) cette décomposition est localement unique.
2.3. Pour démontrer le Théorème 2.2 Kolmogorov [KoJ, [Ko2] a proposé
d'utiliser la démonstration des fonctions implicites en remplaçant la méthode
d'itération de Picard par la méthode de Newton et en utilisant des opérateurs de
lissage (pour pouvoir continuer l'itération); ou, ce qui revient au même en JR-
analytique, en diminuant les domaines de convergence des complexifies. Nash [N]
a utilisé une idée semblable pour résoudre le problème du plongement isomét-
rique en C°° (les principales) références pour ce problème sont dans [GR]).
Pans [MoJ, Moser à la suite de J. T. Schwartz [Schi], [Sch2] a donné une forme

Résultats sur la Conjugaison Differentiable 813
abstraite à la version de Nash. Ceci a suscité de nombreux travaux, par exemple
Sergereart [Se], Hamilton [Ha], Hörmander [Hor J et [Hör J. Plus proche des travaux
d'Arnold [AJ, [AJ, [AJ, [AA] et de Moser [MoJ, [Mo3] sur les tores invariants
(voir aussi [J]), on trouvera une très belle simplification due à Rüssmann [RJ.
L'idée de Rüssmann [RJ a été reprise dans Zehnder [ZJ, [ZJ et [RJ. On trouvera
une démonstration de 2.2 en suivant [RJ dans [H, annexe].
La difficulté de la démonstration est la suivante: Soit l'application
$RK: (X9 g)eT-XDffirCn -ÄAOg-ioJ^oggEHffrCr).
la «dérivée» de $R pour X=0 et g=ïd est l'application linéaire
(X9 cp)6RnXC00(T\ Rn)-+X + cp-cpoRa£C°°(Tn9 Rn).
Si on donne
*l(x) = 2 f\(k)e^^x)C.C°°(Tn9Rn)9
k£Zn
on peut résoudre l'équation
cp-cpoRa+X = rj
formellement par
X = fj(0) et
<p(x) ~ 2,^(fc)(1"ßW<*,">)"1«w(*,x>.
(Ra est une translation ergodique de J"oVA:^0,1—e27t/^,aM0). On montre
que si Rx satisfait à une condition diophantienne, alors (p£C°°(Tn9Rn) et si
rj€C(Tn9Rn)9 r>/?, alors cp est «en général» seulement Cr~ß~8 pour tout e>0.
Si Ra est une translation ergodique de Tn ne satisfaisant pas à une condition
diophantienne «en général», (pour la catégorie de Baire) pour fi€C00(Tn9Rn) il
n'existe pas de cp dans ^(m) ni même /w-mesurable (voir [HJ). La perte de
dérivabilité en C (r fini) est une des sources principales des difficultés de 2.2. Il
est aussi indispensable pour un Théorème des Fonctions implicites dans les Fréchet
que les applications satisfassent des conditions restrictives (cf. [LZ]) mais dans
le cas considéré, l'action venant du groupe des difféomorphismes, une suite d'in-
égalités se trouve automatiquement vérifiée pour $R (voir [Se], [ZJ).
2.4 Problème 2 (suite). Si 0£v est localement fermé et de codimension finie
pour un C00-ouvert V9 est-ce-que M est dijféomorphe à Tn? Une question analogue
se pose pour Véquation linéarisée de la conjugaison.
2.5. En utilisant 2.2 on peut montrer (voir [H], [HJ et l'unicité locale de [Mo2]):
PROPOSITION. Si Ra est une translation de Tn satisfaisant à une condition dio-
phantienne, alors il existe un ra€R* tel que si /6DifFj°(Tw) est C«-conjugué à Ra9
f est C°°-conjugué à Ra.
2.6 Problème 3. Déterminer le plus petit réel ra>*0 tel que 2.5 soit vraie.
Nous nous proposons dans ce qui suit d'aborder ces problèmes dans le cas parti-
culier du cercle T1; c'est-à-dire le seul cas que l'on sache étudier à l'heure actuelle.

814 Michael Robert Herman
3. Nombre de rotation des homeomorphismes du cercle [P] (voir aussi [H]).
3.1 On considère i)r(J1) = {/6Diffr(JR)|/-Id=ç)6Cr(J1)} où C^T1) est
identifié aux fonctions de JR dans R9 Z-périodiques.
On a Diff;(J1)=i)r(r1)/C (ou encore Dr(T*) (modi)) où C=Centre de
D'(T*)={Rp\p£Z}.
3.2 Si feD^T1) avec/=Id+ç> (cptC^T1)) et si n£N on a/w=Id+2?ro>o/
(f" dénote l'itérée w-ième de /).
On montre que si «-> + «), (fn—Id)/n converge uniformément vers une constante
Q(f)£R. La fonction Q(J) est appelée nombre de rotation de f.
3.3 On montre les propriétés suivantes (qui sont dues à Poincaré):
(a) L'application Q de /^(T1) dans R est continue pour la C°-topologie.
(b) Q(f+l) = Q(f) + l.
(c) QÌ.f)=zQÌS'~lof0s) pour tout élément g de D*(TX). Q est donc un invariant
de conjugasion.
(d)
8(iy=a.
D'après la propriété (b), Q définit par passage au quotient sur Differ1) =
D^J^/C un invariant de conjugaison à valeur dans T\ que l'on appelle nombre
de rotation (et que l'on note encore Q).
(e) Soit fç.Diff\ (T1)'. les deux propriétés suivantes sont équivalentes:
Q(f)œ-Qiz.
f n'admet pas de point périodique sur r1.
En outre Q(f)=p/q (mod 1), (p9q) = l9 est équivalent à: q est le plus petit entier >0
tel que f9 ait un point fixe.
(f) Soit /gDiff£ (T1) et supposons que / soit conjugué à une rotation Ra9
avec a irrationnel (mod 1), par deux homeomorphismes h± et h2 (i.e.
f=hf1oRaohi9i=l92)9 alors il existe XÇ.T1 tel que h1=RAoh2. (Le centralisateur
d'une rotation irrationnelle est le groupe des rotations.)
(g) Si ueP-Q/Z et si
Q(RJiof)
= Q(f)=a alors X=0.
Si /=A""1oi?ao/2 alors o(/)=a. On est ainsi amené à voir dans quelle mesure
Q caractérise la conjugaison à une rotation.
4. Cas Q(f)=p/q (mod 1).
4.1 PROPOSITION. Les deux affirmations suivantes sont équivalentes.
/ÇDiffJ. (T1) est Cr-conjugué à la rotation Rp/q.
fq=ldTl.
Considérons Ur={f£Diiï^(T1)\Q(f)=p/qeQ/Z et /*-Id change de signe}.
4.2 PROPOSITION [H]. Si O^r^co Ur est un ouvert C-dense de DiffJ. (J1)«!
De plus on montre (voir [AJ) que si r> 1, Ur contient l'ouvert dense Vr= {/€ Ur
les points périodiques de / sont hyperboliques} et tout g£Vr est structurellement
stable.

Résultats sur la Conjugaison Differentiable 815
4.3 Par 4.1 et 4.2 on voit que la fonction Q nombre de rotation ne caractérise
pas «en général» la conjugaison à une rotation rationnelle. On peut montrer (cf,
[MaJ) que si /ÇDiff~(J1) vérifie Q(f)=p/q£Q/Z alors Ö~ (l'adhérence de
OJT dans Differ1)) est de codimension infinie dans Diff~ (T1).
5. Cas ^(/)=aÇT1— Q/Z. A. Denjoy a démontré le théorème suivant (voir
[H] pour plusieurs remarques) :
5,1 THéORèME DE DENJOY ([DJ, [DJ). Soit/G Diff* (J1). Supposons que g(f) =
aer1—Q/Z alors il existe A£Diff°. (T1) tel que f=h~1oRaoh. De plus pour tout
OLZT^—Q/Z il existe /eDiff*. (T1) tel que f ne soit pas C°-conjugué à Ra.
5.2. Le problème qui se pose est le suivant (voir 3.3 f):
Problème 4. Soit fÇX>ift+ (T1) vérifiant Q(f)=a£T1-Q/Z9 quelle est la classe
de dijférentiabilité de Thoméomorphisme h du théorème de Denjoy?
5.3 Arnold [AJ a montré qu'il existe un difféomorphisme jR-analytique de
nombre de rotation irrationnel tel que Thoméomorphisme h du théorème de
Denjoy soit singulier par rapport à la mesure de Haar m de T1 (la dérivée de
h existe wi-presque partout et on a Dh=Dh~1=0 presque partout). On peut
monter [H] qu'un tel exemple existe dans la famille de difféomorphismes JR-analytique
x-+x+asin2nx+b (modi) 0<fl<l/2rc, beT1.
5.4 On montre [H] que pour tout nombre de Liouville a il existe un difféo-
morphisme / de classe C°°, de nombre de rotation a, qui ne soit pas Cx-conjugué
à Ra. Pour l'étude du cas C avec perte de différentiabilité (voir [H]).
5.5 II résulte de 2.2 et 3.3 (g) que si a satisfait à une condition diophantienne et
si /eDiff~ (T1), g(/)=a, et si / est «suffisamment» C°°-proche de Ra9 alors
/ est C°°-conjugué à Rx.
5.6 Problème 5. Si fÇDiff™ (T1) et Q(f)=a satisfait à une condition diophantienne
alors f est-il C°°-conjugué à Ra?
6. Le résultat principal de conjugaison.
6.1 Soit A l'ensemble des nombres de T1 qui satisfont à la condition A suivante:
a,£A si a est irrationnel et si le développement en fractions continues de a=
«o+l/fai +1/(^2 + — vérifie
lim lim sup ( 2 Log(l+flf)/ 2 Log(l + flf)) = 0.
at^B
On montre que l'ensemble A est de mesure de Haar égale à 1 (voir [H]).
6.2 THéORèME [H]. Soient 3<szr*zco et a satisfaisant à la condition A. Si
/ÇDiff^r1) vérifie e(/)=a alors f=h-1oRaoh avec heDiff^-PÇT1) (pour
tout /?>(ty si f est un difféomorphisme de classe C°° (resp. C°°) alors h est de
classe C°° (resp. C").