Récurrence ou non minimalité des adhérences des orbites irrégulières du flot horocyclique

RÉCURRENCE OU NON MINIMALITÉ DES ADHÉRENCES DES
D’ORBITES IRRÉGULIÈRES DU FLOT HOROCYCLIQUE DE
FINESSE INFINIE
MASSEYE GAYE ET AMADOU SY
Résumé. La dynamique topologique du flot horocyclique hRsur le fibré tan-
gent unitaire d’une surface hyperbolique géométriquement finie est bien connue.
En particulier sur une telle surface le flot hRest minimal ou les ensembles mi-
nimaux sont les orbites périodiques. Lorsque la surface est géométriquement
infinie, la situation est plus complexe et la présence d’éventuelles d’orbites non
fermées et non denses, appelées orbites irrégulières, rend la description des
ensembles minimaux compliquée. Dans ce texte, nous allons montrer une telle
orbite est récurrente ou son adhérence est non hRminimal. Ce qui permettrait
de presque finir la description des ensembles hR-minimaux.
Abstract. The topological dynamics of the horocyclic flow hRon the unit
tangent bundle of a geometrically finite hyperbolic surface is well known. In
particular, on such a surface, the flow hRis minimal, or the minimal sets are
the periodic orbits. When the surface is geometrically infinite, the situation is
more complex, and the presence of possible non-closed and non-dense orbits,
called irregular orbits, complicates the description of minimal sets. In this text,
we will show that such an orbit is recurrent, or its closure is non-hRminimal.
This would allow us to almost complete the description of hR-minimal sets.
Mots clés : horocycli orbits, minimal set, asymptotic finness, recurrence.
AMS 2010 Mathematics Subject Classification. Primary 37D40; Secondary 20H10,
14H55, 30F35.
1. Introduction
Dans l’étude des systèmes dynamiques, une question importante est de com-
prendre les ensembles minimaux, c’est-à-dire les fermés non vide, invariants et qui
ne contient aucun fermé propre, non vide et invariant. Pour le flot horocyclique hR
sur une surface hyperbolique géométriquement infinie restreint à son ensemble non-
errant Ωh, cette question est encore ouverte. Mais il est bien connu que comprendre
les ensembles hRminimaux revient à comprendre les adhérences des orbites irrégu-
lières (non fermée et non dense dans l’ensemble non errant Ωh), voir par exemple
[2],[3], [7],[10] et [12]. Pour u∈Ωh, un argument classique pour avoir la non mini-
malité de hR(u)est de montrer que l’ensemble Tu={t∈R∗;gt(u)∈hR(u)} ̸=∅;
c’est-à-dire l’orbite géodésique gR(u)rencontre l’adhérence de l’orbite horocyclique
hR(u)en un temps non nul. L’étude de cette intersection est liée à la compréhension
de la limite inférieure du rayon d’injectivité le long de la demi géodésique u(R+),
appelée finesse asymptotique de u(R+)et notée Inj(u(R+)). Dans [2],[3]), A. Bellis
montre que :
1

2 MASSEYE GAYE ET AMADOU SY
Pour une surface hyperbolique Σgéométriquement infinie, si uest un élément
de Ωhtelle que hR(u)non fermée et que 0≤Inj(u(R+)) <+∞. Alors hR(u)n’est
pas hR-minimale.
Au vu du résultat ci-dessus on se pose la question que passe t-il si la finesse est
infinie ?
Autrement dit la situation Inj(u(R+)) = +∞donne t-elle lieu à de nouveaux
types d’ensembles hR-minimaux ? Récemment dans [5], les auteurs ont construit
pour la première fois :
un exemple de surfaces hyperboliques géométriquement infinies Σpour lesquelles
il existe u0∈Ωhtel que :
hR(u0)est non fermée , non dense, de finesse asymptotique Inj(u0(R+)) = +∞
et hR(u)est minimale.
Dans ce papier, nous montrons le résultat suivant qui est une dichotomie entre
la réccurence des orbites irrégulières de finesse infinie et la non minimalité de leur
adhérence.
Théorème 1.1. Soit Σ=Γ\Hune surface hyperbolique géométriquement infinie
oú Γest un groupe fuschien sans élément elliptique. Soit u0∈Ωhtel que hR(u0)est
irrégulière (non fermé et non dense) et de finesse asymptotique Inj(u0(R+)) = +∞.
Alors :
- soit hR(u0)est récurrente ;
- soit l’adhérence hR(u0)n’est pas hR-minimale.
Puisqu’un ensemble hR-minimal est l’adhérence d’une orbite, les résultats du
théorème 1.1 combinés avec ceux de Bellis dans [3]), nous dit les éventuels ensemble
minimaux pour le flot horocyclique sur une surface hyperbolique géométriquement
infinie restreint à son ensemble non-errent sont ses orbites fermées ou l’adhérence
de ses orbites irréguliéres non récurrentes de finesse infinie.
Question : l’adhérence d’une orbite irrégulière récurrente de finesse infine est
-elle toujours minimale ?
La suite du papier est organisée comme suit : la première section est resevée
aux préliminaires dont nous aurons besoin dans la deuxième section consacrés à la
démonstration du théorème 1.1.
2. Préliminaires
Dans cette section, nous rappelons seulement les notions et les résultats dont
nous aurons besoin pour la démonstration du théorème 1.1.
2.1. Nature des points de l’ensemble limite. Soit Σ = Γ\Hun surface hyper-
bolique oú Γest un groupe fuschien sans élément elliptique. Notons Λ = Γ.i \Γ.i
l’ensemble limite du groupe Γ.Dans Λnous distinguons quatre types de points
selon l’orbite Γ.i intersetcte les horidisques ouverts basé en ce point limite (voir
[6]).
— un point ξde Λest dit horocyclique si pour tout horodisque ouvert Oξbasé
en ξ, l’ensemble Γ.i ∩ Oξest infini. On note Λhl’ensemble de ces points.
— un point ξde Λest dit discret si pour tout horodisque ouvert Oξbasés,
l’ensemble Γ.i ∩ Oξest fini. On note Λdl’ensemble de ces points.
— un point ξde Λest dit parabolique s’il est fixé par une isométrie parabolique
de Γ. On note Λpl’ensemble de ces points.

RÉCURRENCE OU NON MINIMALITÉ DES ADHÉRENCES DES D’ORBITES IRRÉGULIÈRES.3
— un point ξde Λest dit irrégulier s’il n’est ni horocyclique, ni discret et ni
parabolique. On note Λirr l’ensemble de ces points.
Les ensembles Λh,Λd,Λpet Λirr forment une partition Γinvariante de Λ.
Remarque 2.1. Soit ∞est un point de l’ensemble limite de Λ.
-∞/∈∆hsi et seulement s’il existe M > 0tel pour tout γ∈Γ, Im(γ(i)) ≤M.
-∞/∈∆ds’il existe une suite non constante (Im(γn(i)))n≥1qui tend vers l > 0.
Le théor `me suivant bien connu (voir par exemple [4]) donne une caractérisation
de la finitude de la surface en fonction des points limites
Théorème 2.1. La surface Σ = Γ \Hest géométriquement finie si et seulement si
Λ=λh∪Λp.
2.2. Birapport et intersection de géodésiques. La référence que nous utilisons
pour cette sous section est [11].
Définition 2.2. Soient a, b, c et d quatre points distincts du bord de H. Le birapport
de ces points est défini par :
[a;b;c;d] = (a−c)(b−d)
(a−d)(b−c)avec la convention [a;b;c;∞] = a−c b−c.
Lemme 2.3. Voir[11] ; prop 2.1.16 Soient (a, b)et (c, d)deux géodésiques s’inter-
sectant en un point x. Si les points du bord sont ordonnés comme suit (a;c;b;d),
alors l’angle β∈[0, π]entre les géodésiques (a, b)et (c, d)vérifie :
[a;c;d;b] = cos(β)+1
2.
2.3. Nature topologique des orbites du flot horocyclique. Sur une surface
hyperbolique géométriquement finie, la dynamique topologique du flot horocyclique
hRest bien connue : les orbites sont denses ou périodique. En particulier le flot hR
est minimal ou les ensembles hR-minimaux sont ses orbites périodiques.
Lorsque la surface hyperbolique est géométriquement infinie, la dynamique to-
pologique est plus compliquée et dépend de l’action de Γsur le bord à l’infini ∂H.
L’ensemble des orbites de hRse divise en quatre sous ensemble de nature topolo-
gique différente :
— l’ensemble des orbites denses dans Ωh;
— l’ensemble des orbites périodique (compactes) ;
— l’ensemble des orbites fermés non compactes ;
— l’ensemble des orbites irrégulières (ni fermée, ni dense dans Ωh) ;
et il existe toujours une orbites qui n’est ni dense et ni périodique, voir [13], [6]. Il
est donc naturel de se demander que devient la rigidité du flot hRobservée dans le
cadre géométriquement finie. Nous remarquons alors :
—le flot hRn’est pas minimal, c’est-à-dire Ωhn’est pas un ensemble minimal ;
—les orbites fermées de hRsont des ensembles minimaux pour hR;
—les éventuels ensembles hR-minimaux différent orbites fermées, sont les adhé-
rences de ses orbites irrégulières.
Jusqu’à présent toutes les investigations menées sur une large classe de surfaces
hyperboliques géométrqiement infinies, montrent que les adhérences des orbites
irrégulières ne sont pas des ensembles hR-minimaux (voir par exemple [7], [10],
[12]).

4 MASSEYE GAYE ET AMADOU SY
2.4. Correspondance entre point limite et nature topologique des orbites.
Pour u∈T1Σ,nous notons euun relevé de uet u+l’extrémité positive de la
géodésique de Hdéfinie par eu. Il est bien connu que uappartient à Ωhsi et seulement
si l’extrémité u+appartient à l’ensemble Λ. Il existe donc une correspondance entre
la nature topologique de l’orbite hR(u)et la nature du point limite u+appartenant
àΛ(voir par exemple [13] et [6]). Plus précisément nous avons la correspondance
suivante :
— l’orbite hR(u)est dense dans Ωhsi et seulement si u+∈Λh,
— l’orbite hR(u)est périodique si et seulement si u+∈Λp,
— l’orbite hR(u)est fermée et non périodique si et seulement si u+∈Λd,
— l’orbite hR(u)est irrégulière (orbite qui n’est ni fermée, ni dense dans Ωh) si
et seulement si u+∈Λirr .
2.5. Convergence dans T1Σ.Il s’agit ici de rappeler des résultats sur la conver-
gence dans T1Σqui seront nécessaire pour démontrer le théorème 1.1. Pour x∈
Σ, u ∈T1Σnotons respectivement exet eudes relevés quelconques de xet de u
dans Het dans T1H.Notons également par (eu(t))t≥0la paramétrisation par unité
de loungueur du demi rayon géodésique eu(R+)de H, défini par eud’origine eu(0)
et d’extrémité eu(∞).Désignons aussi par u(R+)le démi- rayon géodésique de Σ,
définie par u, paramétré par (u(t))t≥0le projeté de (eu(t))t≥0dans Σ. Pour zdans
H, notons Beu(∞)(eu(0), z)le cocycle de Busemann centré en eu(∞), calculé en eu(0), z.
L’ensemble {z∈H, Beu(∞)(eu(0), z)=0}est l’horocycle centre en eu(∞)et passant
par eu(0) (pour les propriétés sur le cocylce de Busemann on peut voir [4]). À présent
nous allons voir que montrer qu’un réel test dans l’en semble Tu, est équivalent
à construire une suite (γn)n≥0d’éléments de Γ, qui vérifie deux propriétés. Cela
repose sur la convergence horocyclique démontrée dans [2]). Plus précisément nous
avons la proposition suivante :
Proposition 2.4. (Dans [2], Chap 2, Prop 2.3.2) Soient uet vdeux éléments T1Σ.
Alors vappartient à l’adhérence hR(u)si et seulement s’il existe une suite (γn)n≥0
d’éléments de Γtelle que les deux conditions suivantes soient vérifiées :
(i) lim
n→+∞γneu(∞) = ev(∞).
(ii) lim
n→+∞Beu(∞)(γ−1
ni, eu(0)) = Bev(∞)(i, ev(0)).
Pour t̸= 0,en posant v=gtu, alors il existe α∈Γtel que ev(∞)=αeu(∞)et
que ev(0)) = egtαeu(0).Les points (i)et (ii)de la proposition précédente deviennent
alors :
(i)′lim
n→+∞γneu(∞)=αeu(∞).
(ii)′lim
n→+∞Beu(∞)(γ−1
ni, eu(0)) = Bαeu(∞)(i, αegteu(0)) = Beu(∞)(α−1i, eu(0)) + t.
Nous obtenons alors :
Corollaire 2.5. Soit uun élément de T1Σ. Alors un réel tnon nul est dans l’en-
semble Tusi et seulement s’ils existent α∈Γet une suite (γn)n≥0d’éléments de
Γtelle que les deux conditions suivantes soient vérifiées :
(i) lim
n→+∞γneu(∞)=αeu(∞).
(ii) lim
n→+∞Beu(∞)(γ−1
ni, α−1i)=t

RÉCURRENCE OU NON MINIMALITÉ DES ADHÉRENCES DES D’ORBITES IRRÉGULIÈRES.5
Corollaire 2.6. Soit uun élément de T1Σ. Alors l’orbite hR(u)est récurrente si
et seulement s’il existe tune suite (γn)n≥0d’éléments de Γtous distincts telle que
les deux conditions suivantes soient vérifiées :
(i) lim
n→+∞γneu(∞) = eu(∞).
(ii) lim
n→+∞Beu(∞)(γ−1
ni, i) = 0
3. Démonstration du théorèreme 1.1
Soit Σ=Γ\Hune surface hyperbolique géométriquement infinie oú Γest un
groupe fuschien sans élément elliptique. Soit u0∈Ωhtel que hR(u0)est irrégulière
(non fermé et non dense) et de finesse asymptotique Inj(u0(R+)) = +∞. La dé-
monstration du théorème 1.1 se fait en plusieurs étapes. Elle consiste à construire
une suite (γn)n≥0d’éléments de Γqui permet d’appliquer le corollaire 2.5 ou le
corollaire 2.6. Placons nous dans le demi-plan de Poincaré Het quitte á conjuguer
Γpar un élément de P SL2(R), nous suposerons u0(R+)est le projeté sur Σde la
demi-géodisique orientée [i∞)de H. Ainsi dans la suite de ce texte, u0le projeté
sur de l élément eu0de T1Hbasé en iet pointant vers ∞qui est un point limite
irrégulier du groupe Γ.
Lemme 3.1. Soit Γun groupe fuschien géométriquement infinie sans élément el-
liptique et ∞ ∈ Λirr . Alors ils existent deux réels M >m>0et une suite (γn)n≥1
d’éléments de Γtelle que la suite (γn(i))n≥1est non constante et vérifie :
m≤Im(γn(i)) ≤M, lim
n→+∞γn(i)=∞et lim n→+∞γn(∞)=∞
Démonstration : Puisque ∞n’est pas un point limite horocyclique ni un point
limite discret, pour le groupe Γ,d’après la remarque 2.1, ils existent M>m>0
et une suite (αn)n≥1d’éléments de Γtelle que la suite (Im(αn(i)))n≥1est non
constante et vérifie m≤Im(αn(i)) ≤M. Comme la suite (αn(i))n≥1n’est pas
constante á partir d’un certain rang et que 0<m≤Im(αn(i)), alors ∞est
l’unique point d’accumalation de la suite (αn(i))n≥1. Par suite il existe un sous
suite (γn(i))n≥1de la suite (αn(i))n≥1qui vérifie :
m≤Im(γn(i)) ≤Met lim
n→+∞γn(i)=∞.
Montrons à présent que γn(∞)tend vers ∞. Pour tout entier n≥1,pour tout z
dans H,posons : γn(z) = anz+bn
cnz+dn
avec an, bn, cnet dndans Ret andn−bncn= 1.
Comme le point ∞n’est fixé par aucun élément de Γ\{Id}, alors pour tout entier
n≥1, cn̸= 0 et γn(∞) = an
cn
. Pour tout entier n≥1,nous avons également
m≤Im(γn(i)) = 1
c2
n+d2 n≤M. Il en résulte que lees suites (cn)n≥1et (dn)n≥1
sont bornées et quitte à extraire sumultanément deux sous suites notées encore
(cn)n≥1et (dn)n≥1, alors elles convergent respectivement vers cet dvérifiant
c2+d2≥1
M>0.
Par un calcul direct nous avons également ℜ(γn(i)) = an
cn−dn cn(d2
n+c2 n). Si
c̸= 0,la suite dn
cn(d2
n+c2 n)converge vers d
c(d2+c2). Comme γn(i)tend vers ∞et