GÉOMÉTRIE ET SUITES RÉCURRENTES Laurent DENIS (*) 1

Bull. Soc. math. France,
122, 1994, p. 13–27.
G´ EOM´ ETRIE ET SUITES R´ ECURRENTES
PAR
Laurent DENIS (*)
R´
ESUM´ E. — On s’int´eresse au probl`eme suivant : une vari´et´ealg´ebrique peut-
elle contenir ´enorm´ement de termes d’une suite r´ecurrente d´efinie par un morphisme
alg´ebrique sans ˆetre stable sous une puissance de ce morphisme ? On r´epond `a cette
question quand le morphisme est un automorphisme de l’espace projectif ambiant. Sous
certaines hypoth`eses de densit´e portant sur le nombre de points de l’intersection de la
vari´et´e et de l’ensemble des termes de la suite r´ecurrente, on aboutit au r´esultat pour
un morphisme plat et surjectif.
ABSTRACT. — We ask the following question : can an algebraic variety contain
many terms of a recurrence sequence defined by an algebraic morphism, without being
stable under a power of that morphism ? We answer the question when the morphism
is an automorphism of the projective ambiant space. Under some density assumption
on the set of points which occurs in the intersection of the variety and the recurrence
sequence we are also able to give the result for a surjective and flat morphism.
1. Motivations
Un cas particulier int´eressant des r´ecents th´eor`emes de G. FALTINGS
(anciennement conjectures de Lang-Manin-Mumford) est le suivant :
soit Vune sous-vari´et´ealg´ebrique d’une vari´et´eab´elienne A,soittPla
translation par un point Pde A;siPn’est pas de torsion et si
n∈N;(tP)n(0) = [n]P∈V
est infini, alors Vcontient le translat´e d’une sous-vari´et´eab´elienne de A.
Quand Aest remplac´e par une vari´et´ealg´ebrique Xquelconque, on peut
essayer d’imaginer un analogue `aceprobl`eme. Pour simplifier, on suppose
X=PNet on va regarder les morphismes de PN.
(*) Texte re¸cu le 4 mai 1992, r´evis´ele1f´evrier 1993.
L. DENIS,Probl`emes diophantiens, U.R.A 763 du CNRS, Universit´e Pierre-et-Marie-
Curie, tour 45–46, 5e´etage, 5 place Jussieu, 75252 Paris, France.
Classification AMS : 11 G.
BULLETINDELASOCI
´
ET´ EMATH
´
EMATIQUE DE FRANCE 0037–9484/1994/13/$ 5.00
c
Soci´et´emath´ematique de France

14 L. DENIS
On s’int´eresse alors au probl`eme suivant : une vari´et´e projective peut-
elle rencontrer une infinit´e d’it´er´es d’un point sous l’action d’un mor-
phisme de l’espace ambiant ? ´ Enon¸cons cette question de mani`ere plus
pr´ecise.
Dans tout le texte, on entend par vari´et´eune sous-vari´et´ealg´ebrique
r´eduite de PN. Le morphisme αest un morphisme alg´ebrique de PN
dans PNet Pest un point. On suppose que tous les αi(P)(o`ui∈N)
sont distincts (ou, en d’autres termes, que Pn’est pas un point p´eriodique
de α)etond´esigne par
EV,P,α =i∈N;αi(P)∈V.
QUESTION 1. — A-t-on l’une des alternatives suivantes ?
a) EV,P,α est fini.
b) Il existe des entiers i0≥0, a>0 et une sous-vari´et´eWPde V,de
dimension ≥1, contenant αi0(P) telle que αa(WP)=WP.
R´
EPONSE. — Non ! Tout au moins, peut-on construire des exemples o`u
ceci est faux en caract´eristique finie (voir paragraphe 3). Cependant, ce
r´esultat est vrai pour un automorphisme en caract´eristique nulle :
TH´
EOR` EME 1. — Soient Vune vari´et´e,αun automorphisme de PNet
Pun point de PNd´efinis sur un corps de caract´eristique nulle. Si Pn’est
pas un point p´eriodique de α,on a l’une des alternatives suivantes :
a) Le cardinal de EV,P,α est fini.
b) Il existe des entiers i0≥0, a>0et une sous-vari´et´eWPde V,
de dimension ≥1, contenant αi0(P)telle que αa(WP)=WP.
Pour le cas de caract´eristique quelconque, on utilisera la notion sui-
vante :
D´
EFINITION 1. — Soit Sune partie de l’ensemble des entiers naturels N.
On appelle d(S), densit´e banachique sup´erieure de S, la limite sup´erieure
des nombres card(I∩S)/card(I), o`uId´ecrit les intervalles de Net la
longueur de Itend vers l’infini.
QUESTION 2. — A-t-on une des alternatives suivantes ?
a) La densit´esup´erieure banachique de EV,P,α est nulle.
b) Il existe des entiers i0≥0, a>0 et une sous-vari´et´eWPde V,de
dimension ≥1, contenant αi0(P) telle que αa(WP)=WP.
On se propose de montrer au paragraphe 2 que — pour les automor-
phismes — la r´eponse est oui.
TOME 122 — 1994 — N◦1

G´ EOM´ ETRIE ET SUITES R´ ECURRENTES 15
TH´
EOR` EME 2. — Soient Vune vari´et´e,αun automorphisme de PNet
Pun point de PN.SiPn’est pas un poin t p´eriodique de α,on a l’une des
alternatives suivantes :
a) La densit´esup´erieure banachique de EV,P,α est nulle.
b) Il existe des entiers i0≥0, a>0et une sous-vari´et´eWPde V,
de dimension ≥1, contenant αi0(P)telle que αa(WP)=WP.
La m´ethode utilise un th´eor`eme de SZ´
EM´ EREDI (cf. [S]) qui affirme
l’existence d’une progression arithm´etique dans un ensemble de densit´e
banachique non nulle. Pour un morphisme quelconque, on utilisera une
hypoth`ese de mˆeme nature, mais plus restrictive.
D´
EFINITION 2. — Soient Sune partie de l’ensemble des entiers natu-
rels Net kun entier ≥1. On dira que Sest tr`es dense `a l’ordre ksi, pour
tout entier , il existe des entiers r, b > 0avec
r≤maxLog(k)(),1
tels que ar +b∈Spour 0 ≤a≤, la notation Log(u)d´esignant la u-i`eme
it´eration du logarithme.
Une m´ethode inspir´ee de celle du lemme de z´ero avec isog´enies de [Hi]
nous permet d’aboutir au paragraphe 3 au r´esultat suivant :
TH´
EOR` EME 3. — Soit Vune vari´et´e. On suppose que αest un mor-
phisme plat et surjectif et que EV,P,α est tr`es dense `a l’ordre 2dimV−1.
Alors il existe un entier a>0et une sous-vari´et´eWPde Vde dimen-
sion ≥1, contenant un αi0(P), telle que αa(WP)=WP
REMARQUE. — La preuve de SZ´ EM´ EREDI (cf. [S]) n’est pas effective ;
il serait int´eressant de voir si une hypoth`ese du type d(E)≥1−εentraˆıne
que l’ensemble Eest tr`es dense `a l’ordre 1.
Nous verrons au paragraphe 2 que les TH´
EOR` EMES 1et2sed´eduisent
de r´esultats concernant l’´etude des z´eros des suites r´ecurrentes lin´eaires.
Au paragraphe 3, on donne une seconde preuve du TH´
EOR` EME 2 par une
m´ethode g´eom´etrique. Cette m´ethode est adapt´ee au paragraphe 4 pour
prouver le TH´
EOR` EME 3.
L’auteur remercie le referee pour d’utiles suggestions lui ayant permis
d’am´eliorer la r´edaction et de corriger une faute dans une version pr´eli-
minairedecetexte.
BULLETINDELASOCI
´
ET´ EMATH
´
EMATIQUE DE FRANCE

16 L. DENIS
2. Suites r´ecurrentes
On montre dans la partie A, que le TH´
EOR` EME 2 (resp. 1) implique
le r´esultat de B´ezivin sur les suites r´ecurrentes en caract´eristique fi-
nie(resp.leth´eor`eme de Skolem-Mahler-Lech en caract´eristique nulle
(voir [Le] et [Ma])). Puis dans la partie B, on prouve les TH´
EOR` EMES
1et2`apartirdesr´esultats correspondants sur les suites r´ecurrentes.
A. Traduction des th´eor`emes 1 et 2.
Dans [B], B´
EZIVIN prouve le th´eor`eme suivant :
TH´
EOR` EME (cf. [B, p. 230 et rem., p. 233]). — Soient Kun corps com-
mutatif de caract´eristique quelconque,u(n)une suite r´ecurrente lin´eaire
d’´el´ements de K.Ilexisteunentierd≥1, tel que,en notant
Ar=k;u(kd +r)=0
,0≤r≤d−1,
on ait l’alternative suivante :
a) Arest de densit´e banachique nulle,
b) Ar=N.
Montrons rapidement comment on peut retrouver ce th´eor`eme, comme
cas particulier du TH´
EOR` EME 2. On se donne donc une suite r´ecurrente
(un)n∈Nd´etermin´ee par (u0,...,u
h−1) et une relation
un+h=ah−1un+h−1+···+a0un
o`ulesaisont dans un corps Ket a0= 0. On choisit alors pour α
l’automorphisme de (Ga)hdonn´e par la matrice compagnon :
010 0
.
.
....0
0··· ··· 1
a0a1··· ah−1
.
On prolonge alors α`a Phen y plongeant naturellement (Ga)het en
posant :
α(X0,...,X
h)=X0,α(X1,...,X h).
Soit Vl’ensemble des z´eros du polynˆome X1.SoientP0le point de
coordonn´ees (1,u
0,...,u h−1)etPn=αn(P0). Le point Pnest dans V
si et seulement si unest nul.
TOME 122 — 1994 — N◦1

G´ EOM´ ETRIE ET SUITES R´ ECURRENTES 17
a) On sait (voir [R] et [B, th. 8]) qu’on peut ´ecrire unsous la forme
un=
1≤i≤t
bi(ai)n
o`ulesbisont dans une extension finie de Ket les aisont distincts.
On peut alors choisir mtel que pour toutes les sous-suites ukm+raucun
quotient ai/ajne soit une racine de l’unit´e. Pour retrouver le th´eor`eme de
B´ezivin, on est donc ramen´eaucaso`ulasuiteunv´erifie cette hypoth`ese.
Si la densit´e banachique de l’ensemble des indices o`ulasuites’annule
est >0, celle de l’ensemble des indices o`ulesit´er´es de P0rencontrent V
l’est ´egalement. La conclusion du TH´
EOR` EME 2 dit qu’il existe une sous-
vari´et´eWde Vstable sous une puissance de α, ceci veut bien dire qu’on a
une progression arithm´etique kd+rtelle que ukd+r= 0 pour tout kassez
grand. Si on avait d≥2, on en d´eduirait que le quotient de deux des aiest
une racine de l’unit´e (comme dans [B, p. 233]) contrairement `acequ’on
a suppos´e. Donc d= 1 et on a bien retrouv´eleth´eor`eme de B´ezivin.
b) On sait qu’on peut ´ecrire unsous la forme
un=
1≤i≤t
Pi(n)(ai)n
o`ulesPisont des polynˆomes et les aisont distincts. On peut alors
choisir mtel que pour toutes les sous-suites ukm+raucun quotient ai/ajne
soit une racine de l’unit´e. Pour retrouver le th´eor`eme de Skolem-Mahler-
Lech, on est donc ramen´eaucaso`ulasuiteunv´erifie cette hypoth`ese.
Si il y a une infinit´e d’indices o`ulasuiteuns’annule et si on est en ca-
ract´eristique nulle, la conclusion du TH´
EOR` EME 1 fournit une progression
arithm´etique kd +rtelle que ukd+r= 0 pour tout kassez grand. Si on
avait d≥2, on en d´eduirait que le quotient de deux des aiest une racine
de l’unit´e contrairement `a ce qu’on a suppos´e. Donc d=1etonabien
retrouv´eleth´eor`eme de Skolem-Mahler-Lech.
REMARQUE. — L’exemple de LECH donn´e dans [B, p. 230] :
un=(1+z)n−1−zn,
donne alors la r´eponse n´egative de la question 1 (puisqu’il donne la mˆeme
r´eponse pour les suites r´ecurrentes). En effet en caract´eristique p>0, si
zest bien choisi, cette suite ne s’annule que lorsque nest une puissance
de p. Remarquons cependant que dans cet exemple les it´er´es du point P0
ne sont pas distincts modulo l’action du Frobenius.
BULLETINDELASOCI
´
ET´ EMATH
´
EMATIQUE DE FRANCE