pdf2 - Université de Valenciennes

Math. Z. 225, 453–465 (1997)
c
Springer-Verlag 1997
Actions sans points fixes sur les surfaces compactes
M. Belliart
URA au CNRS 751, Universit´ e de Valenciennes, Le Mont Houy, F-59326 Valenciennes Cedex,
France
Received 28 November 1994; in final form 20 July 1995
0. Introduction
Soit une action continue d’un groupe de Lie connexe Gsur une vari´ et´ e connexe
M; on dit que m∈Mest un point fixe s’il est invariant sous l’action de G. Les
points fixes ´ etant les singularit´ es les plus ´ el´ ementaires des actions de G,ilest
naturel d’´ etudier leurs conditions d’existence. Nous nous restreignons ici au cas
o` uMest une surface compacte. Ce cas est ` a la fois int´ eressant et pratique :
—Int´ eressant, par exemple parce qu’il est peut-ˆ etre possible d’´ etendre la formule
de l’indice de Poincar´ e aux actions de certains groupes de Lie, ce qui constitue
un enjeu utile pour la compr´ ehension de ces actions (voir ` a ce sujet [Pl3]) ;
les surfaces constituent ` a cet ´ egard un “terrain d’exp´ eriences” favorable.
—Pratique, parce qu’on peut utiliser le manque de dimension pour des preuves
de nature topologique : ainsi, une orbite a la dimension 0,1 ou 2. Si c’est 0,
l’orbite est un point fixe, et nous sommes renseign´ es ; si c’est 1, elle s´ epare
localement l’espace ; si c’est 2, elle est ouverte. Ce type de raisonnement
n’est plus possible en dimension sup´ erieure.
Dans le cas le plus simple o` uG=,Unr
´
esultat classique dˆ u` a Poincar´ e
([Po]) affirme que si la caract´ eristique d’Euler χ(M)deMest non nulle, il
existe toujours un point fixe. Plus g´ en´ eralement, Plante a montr´ e dans [Pl1] que
si χ(M)/=0etGest nilpotent, toute action de Gsur Ma un point fixe (voir
aussi [Pl2], [Pl3] pour d’autres r´ esultats).
Etant donn´ es une action du groupe G0et un morphisme surjectif πde G
sur G0, on peut construire l’action induite de G, qui est donn´
ee par la formule
g.m:= π(g).m. Il est clair qu’en tant qu’action de G, celle-ci est sans int´ erˆ et
(c’est une action du groupe G0de dimension inf´
erieure). Pour ´ ecarter ce genre
de construction, on a recours ` a une d´ efinition : on dit que Gagit effectivement
sur Msi le seul ´ el´ ement de Gqui stabilise tout point de Mest 1. Ceci ram` ene

454 M. Belliart
le probl` eme pr´ ec´ edent ` al’
´
etude des actions effectives de Gsur M. Selon [Pl2],
si Gagit effectivement sur une surface compacte Mtelle que χ(M)<0, Gest
r´ esoluble et la longueur de sa suite d´ eriv´ ee est au plus 3. Par ailleurs, le groupe
affine r´
eel Gagit effectivement et sans point fixe sur toute surface compacte
selon [Pl1].
Soient Gun groupe de Lie connexe, Mune surface connexe et compacte. Nous
allons r´ epondre compl` etement au probl` eme suivant :
Existe-t-il une action continue de G sur M sans point fixe ?
Pour cela, `
a toute surface Mnous associerons une liste finie (et tr` es courte)
de groupes de Lie G1, ..., Gket nous montrerons que Gagit sans point fixe
sur Msi et seulement si Ga l’un des Gipour quotient. Attention : ceci veut
simplement dire qu’il existe un morphisme surjectif de Gsur (par exemple) G1,
ce qui n’implique pas que l’action soit induite ; celle-ci peut au contraire ˆ etre
globalement tr` es compliqu´ ee.
Nous notons 1le cercle /. Nous d´
ecrirons au paragraphe suivant des groupes
de Lie r´ esolubles de petite dimension G,Get Gα(α∈ − ). Notre r´
esultat
est le suivant :
Th´ eor` eme Principal. Le groupe de Lie G poss` ede une action continue et sans
point fixe sur la surface compacte M dont la caract´ eristique d’Euler-Poincar´ e est
χ(M)si et seulement si G poss` ede pour quotient l’un des groupes suivants:
1. Cas o` uχ<0:G.
2. Cas o` uχ=0: 1ou PSL(2,).
3. Cas o` uχ>0:G,G,G
αou PSL(2,);
´
egalement PSO(3), PSL(3,)et PSL(2,)si M est sans bord.
On obtient ce th´ eor` eme essentiellement en mettant bout ` a bout les r´ esultats suiv-
ants :
Th´ eor` eme A. Si G est r´ esoluble et χ(M)>0, il existe une action continue et
sans point fixe de G sur M si et seulement si G a pour quotient G ,G ou Gα
(ce qui est possible si et seulement si G n’est pas nilpotent).
Th´ eor` eme B. Si χ(M)<0, il existe une action continue et sans point fixe de G
sur M si et seulement si G admet G pour quotient.
Th´ eor` eme C. Si G est semi-simple, il existe une action sans point fixe de G sur
M si et seulement si χ(M)≥0et
1. G a PSL(2,)pour quotient, ou
2. χ(M)>0, M est sans bord et G a PSL(3,), PSL(2,)ou PSO(3) pour
quotient.
Ces r´ esultats am´ eliorent et compl` etent ceux de l’article [Be], dont le but ´ etait de
r´ epondre aux trois questions suivantes, pos´ ees par Plante dans [Pl1] :

Actions sur les surfaces compactes 455
(1) Si Gest ` a croissance exponentielle, agit-il sans point fixe sur toute surface
compacte Mtelle que χ(M)≥0 ? Que se passe-t-il dans le cas particulier
o` uGest r´ esoluble ?
(2) Si Gest r´ esoluble et si ad(X) a une valeur propre r´ eelle non nulle pour un
certain Xdans l’alg` ebre de Lie de G, est-ce que Gpeut agir sans point fixe
sur toute surface compacte ?
(3) Si Gest ` a croissance polynomiale, est-ce que toute action de Gsur une
surface compacte telle que χ(M)<0 a un point fixe ?
Aux §§ 1, 2 et 3, nous prouvons les th´ eor` emes A, B et C. Ceci nous permet
d’obtenir le th´ eor` eme principal et une r´ eponse aux questions de Plante dans un
quatri` eme paragraphe. Nous utiliserons beaucoup la classification donn´ ee dans
[Mo], §10 des actions transitives de groupes de Lie sur les surfaces, ce qui nous
´
epargnera les preuves – ´ el´ ementaires mais fastidieuses – utilis´ ees dans [Be]. En
fait, les r´ esultats non classiques utilis´ es ici proviennent presque exclusivement
des deux articles [Pl1] et [Mo].
1. Gr´ esoluble, χ>0.
Nous d´ ecrivons d’abord quelques groupes de Lie r´ esolubles non nilpotents qui
joueront un rˆ ole essentiel dans la preuve du th´ eor` eme A.
(*) Le groupe affine r´ eel Gest le groupe des transformations de ayant la
forme : x→ax +b/(a,b)∈∗
+×
Son alg` ebre de Lie est l’alg` ebre engendr´ ee par deux vecteurs X,Yet le
crochet [X,Y]=X; nous la noterons G.
(*) Le groupe affine complexe Gest le groupe des transformations de ayant
la forme : z→uz +v/(u,v)∈∗×
Quand on le voit comme un groupe r´ eel, son alg` ebre est engendr´ ee par quatre
vecteurs X1,X2,Y1,Y2et les crochets
[X1,Y1]=X
1[X 2
,Y
1
]=X
2[X 1
,Y
2
]=X
2[X
2
,Y
2
]=−X
1
[X
1
,X
2
]=0 [Y
1
,Y
2
]=0.
Nous noterons cette alg` ebre G.
(*) Soit α∈ − ; notons <(α)et=(α) ses parties r´ eelle et imaginaire. Soit
Gαl’alg`
ebre de dimension 3 dont une base X1,X2,Yv´ erifie :
[X1,Y]=<(α)X
1+=(α)X 2[X 2
,Y]=−=(α)X1+<(α)X2
[X1,X2]=0.
Puisque Gαa un centre trivial, il existe un unique groupe de Lie Gα`
a centre
trivial dont l’alg` ebre est Gα. Bien que ceci ne nous soit d’aucune utilit´
e dans

456 M. Belliart
la suite, nous remarquons que deux groupes Gαet Gβsont isomorphes si et
seulement si l’un des nombres α/β, αβ est r´ eel. De plus, Gαest simplement
connexe si et seulement si αn’est pas imaginaire pur. Le revˆ etement universel
de Gαest le produit semi-direct o`
uagit sur par :
(z,t)→etαz.
Remarque. Comme les groupes G,Get Gαsont `
a centre trivial, si Gest l’un
de ces groupes et si Hest un groupe connexe ayant la mˆ eme alg` ebre que G,
Hest un revˆ etement de G. Une premi` ere preuve de l’utilit´ e de ces groupes (ou
plutˆ ot de leurs alg` ebres) est le
Lemme 1. Soit Gune alg` ebre r´ esoluble. Les ´ enonc´ es suivants sont ´ equivalents:
1. Gest non nilpotente.
2. Ga pour quotient l’une des alg` ebres G,Gou Gα.
Preuve. Il est clair que le second point implique le premier. Nous montrons la
r´ eciproque. Nous admettrons de nombreux faits classiques sur les alg` ebres de Lie
r´ esolubles et leurs repr´ esentations ; ceux-ci se trouvent par exemple dans [Bo].
Soient G0et G00 les deux premi`
eres alg` ebres d´ eriv´ ees de G.SiGn’est pas
nilpotente, G/G00 n’est pas nilpotente, aussi on peut se ramener `
aG00 ={0}.
Notons τla repr´ esentation adjointe de G/G0dans l’alg`
ebre Der(G0) des
d´ erivations de G0. Nous remarquons que tout sous-espace vectoriel de G0stable
par τest un id´ eal de G, ce qui r´ esulte trivialement de la d´ efinition de τ. Par
ailleurs, comme τn’est pas nilpotente, il existe un sous-espace stable (peut-ˆ etre
nul) Itel que τsoit irr´ eductible sur G0/I. En quotientant par l’id´
eal I,on
s’est ramen´ e` aτirr´ eductible.
Nous notons qu’il existe e Y∈G/G0tel que τ(e
Y) soit un automor-
phisme inversible de l’espace vectoriel G0. Ceci r´
esulte de la classification des
repr´ esentations irr´ eductibles des alg` ebres ab´ eliennes dans les espaces r´ eels ; selon
cette classification, τa la forme τ0◦πo`
uπest une projection de G/G0sur
ou et τ0est l’une des trois repr´
esentations
τ:→Der( ),(x,y)→xy
ou
τ:→Der ( ),(u,v)→uv
ou
τα(α∈ − ): →Der ( ),(x,z)→xαz.
Pour obtenir e Y, il suffit de le prendre hors de Ker(π).
Soit e Z1, ..., f
Znune base du noyau de π; soient Y,Z1, ..., Zndes ´ el´ ements de G
se projetant sur e Y,e Z1, ..., f
Zndans G/G0. Par d´ efinition de G0, on a pour tout
indice i
[Y,Zi]d´
ef
=Xi∈G0.

Actions sur les surfaces compactes 457
Par construction de Y, il existe Ti∈G0tel que [Y,Ti]=X
i, et en remplac¸ant Zi
par Zi−Ti(qui est ´ egalement un repr´ esentant de e Zi)onseram
`
ene ` a[Y,Z
i]=0.
L’identit´ e de Jacobi implique alors pour tout U∈G:
[[U,Zi],Y]=[[U,Y],Z
i]
|{z }
∈[G0,Zi]
+[U,[Zi,Y]]
|{z }
=[U,0]
=0.
Comme ad(Y) est inversible sur G0, ceci implique que [U,Zi] = 0, ce qui prouve
que les Ziengendrent un id´
eal de G. En quotientant, on s’est ramen´ e` aτfid` ele
(= sans noyau). La classification pr´ ec´ edemment cit´ ee implique que τest l’une
des repr´ esentations τ,τ ou τα, et la construction des alg`
ebres correspondantes
termine la preuve.
Du lemme pr´ ec´ edent d´ ecoule la
Proposition 2. Si G est r´ esoluble non nilpotent, il a un quotient G ,G ou Gα.
Preuve. Nous nous ramenons au lemme 1 par un raisonnement en trois points.
Soient Hl’un des groupes G,Gou Gα,Hson alg`
ebre, e Gle revˆ etement
universel de G:
1. Si GaHpour quotient, GaHpour quotient.
2. Si GaHpour quotient, e GaHpour quotient.
3. Si e GaHpour quotient, GaHpour quotient.
Le point (1) est trivial. Nous montrons le point (2). Il n’est pas trivial ` a cause
d’un probl` eme technique : ` a un quotient G/Nne correspond un quotient G/N
que si le groupe N tangent ` aNest ferm´ e dans G. Toutefois, dans notre situation,
Gest simplement connexe et on peut utiliser un r´ esultat de [Mo] :
Proposition. Soient A un groupe de Lie simplement connexe, B un sous-groupe
normal connexe. Alors, B est un sous-groupe ferm´ edeA.
Ceci prouve le point (2). Nous montrons le point (3). Comme Ha un centre
trivial, Hest un quotient de e G/Zo` uZest le centre de e G; comme e Gest un
revˆ etement de G,Gadmet e G/Zpour quotient : ceci prouve le point (3).
Ce qui pr´ ec` ede suffit d´ ej` a pour obtenir le
Th´ eor` eme A. Si G est r´ esoluble et χ(M)>0, il existe une action continue et
sans point fixe de G sur M si et seulement si G a pour quotient G ,G ou Gα.
D´ emonstration. Selon la proposition 2, ou bien Ga pour quotient G,Gou
Gα, ou bien Gest nilpotent. Si Gest nilpotent, son action a un point fixe par
le th´ eor` eme de Plante. Si Ga pour quotient G0l’un des groupes consid´
er´ es,
toute action sans point fixe de G0induit une action sans point fixe de G. Plante
a construit des actions sans point fixe de Get Gαsur les trois surfaces de
caract´ eristique >0 ; nous construisons des actions de Gsans point fixe sur ces
surfaces, ce qui ach` eve la preuve.