SUR UN THÉOR`EME DE CASTELNUOVO JÉRÉMY BLANC, IVAN

SUR UN TH´ EOR` EME DE CASTELNUOVO
J´ ER´ EMY BLANC, IVAN PAN1et THIERRY VUST
R´ esum´ e. Nous poursuivons l’´etude faite par G. Castelnuovo en 1892 au su-
jet du groupe des transformations birationnelles du plan complexe qui fixent
points par points une courbe de genre >1 ; nous nous servons comme lui des
syst`emes lin´eaires adjoints de la courbe fixe.
Nous d´emontrons que ces groupes sont ab´eliens, et qu’ils sont soit finis,
d’ordre 2 ou 3, soit conjugu´es `a un sous-groupe du groupe de de Jonqui`eres.
Nous montrons ´egalement que ces r´esultats ne se g´en´eralisent pas aux courbes
de genre ≤1.
Mots-cl´ es. transformations de Cremona, transformations birationnelles, courbes
fixes, courbes de genre sup´erieur, syst`emes lin´eaires adjoints, transformations
de de Jonqui`eres.
Abstract. We continue the study of G. Castelnuovo on the group of birational
transformation of the complex plane that fix each point of a curve of genus
>1 ; we use adjoint linear system of the curve as Castelnuovo does.
We prove that these groups are abelian, and that these are either finite, of
order 2 or 3, or conjuguate to a subgroup of the de Jonqui`eres group. We show
also that these results do not generalise to curves of genus ≤1.
Keywords. Cremona transformations, birational transformations, fixed curves,
curves of big genus, adjoint linear system, de Jonqui`eres transformations.
Mathematical subject classification. 14E07, 14J26, 14H50.
1. Introduction
On d´esigne par P2=P2
Cle plan projectif sur le corps Cdes nombres com-
plexes ; une transformation de Cremona de P2est une application birationnelle
P2//___ P2et on dit qu’une telle transformation est de de Jonqui`eres si elle
pr´eserve un pinceau de droites. L’ensemble des transformations de Cremona forme
un groupe, appel´e groupe de Cremona.
L’origine de ce travail est l’envie de comprendre le tr`es beau th´eor`eme de G.
Castelnuovo [Cas] :
Se una transformazione Cremoniana fra due piani sovrapposti muta in s`e stesso
ciascun punto di una curva irreduttibile C di genere superiore ad 1, la transforma-
zione o `e riduttibile al tipo Jonqui`eres, oppure `e ciclica di 2◦,3◦o4◦grado2.
Il affirme en particulier : une transformation de Cremona d’ordre infini qui fixe
points par points une courbe irr´eductible de genre (g´eom´etrique) >1 est conjugu´ee
1Partiellement soutenu par le CNPq-Brasil et la Section de Math´ematiques de l’Universit´e de
Gen`eve
2Traduction litt´erale : Si une transformation Cremonienne entre deux plans superpos´es envoie
sur eux-mˆemes chaque point d’une courbe irr´eductible Cde genre sup´erieur `a 1, la transformation
ou bien est r´eductible au type Jonqui`eres, ou alors est cyclique du 2◦,3◦ou 4◦degr´e.
1

2 french - SUR UN TH´ EOR` EME DE CASTELNUOVO
`a une transformation de de Jonqui`eres. C’est ce r´esultat qui est peut-ˆetre le plus
int´eressant puisque on n’a que peu de prise sur les transformations d’ordre infini.
Dans cette note nous d´emontrons une version un peu plus pr´ecise du th´eor`eme
de Castelnuovo :
Th´eor`eme 1.1. Soit F:P2//___ P2une transformation de Cremona diff´erente
de l’identit´e qui fixe points par points une courbe irr´eductible de genre >1. Alors
Fest conjugu´ee `a une transformation de de Jonqui`eres ou bien Fest d’ordre 2 ou
3. De plus, dans le premier cas, si Fest d’ordre fini, c’est une involution.
Rappelons les exemples suivants.
Exemples 1.2.([Hud], [God], [Coo], [SeRo], [BaBe], [dFe], [Bla1])
a) Les involutions de Geiser fixent une courbe non hyperelliptique de genre 3.
b) Les involutions de Bertini fixent une courbe non hyperelliptique de genre 4 `a
mod`ele lisse sur un cˆone quadratique.
c) Les involutions de de Jonqui`eres fixent une courbe hyperelliptique.
Exemple 1.3.([dFe], [DoIs], [Bla1]). Dans l’espace projectif `a poids P(3,1,1,2)
consid´erons une surface lisse Sd’´equation w2=z3+F6(x, y) o`u F6est homog`ene
de degr´e 6 : c’est un type particulier de surfaces de Del Pezzo de degr´e 1. La
restriction de (w:x:y:z)7→ (w:x:y:ωz), o`u ω6= 1 est une racine cubique de
l’unit´e, d´efinit un automorphisme de Sd’ordre 3 dont l’ensemble des points fixes
contient une courbe irr´eductible de genre 2.
Voici encore un autre type d’exemple.
Exemple 1.4.Soit h∈C[x] un polynˆome de degr´e 2g+ 2 sans racines multiples.
Notons Jhle tore de PGL(2,C(x)) image du sous-groupe
Th:= na1ha2
a2a1:ai∈C(x), a2
1−ha2 26= 0o
de GL(2,C(x)).
Alors, pour tout A∈Th, en d´esignant par al’image de Adans Jh, l’application
rationnelle Fa:C2//___ C2d´efinie par
(x, y)7→ x, a1y+ha2
a2y+a1
est de de Jonqui`eres et laisse fixe la courbe hyperelliptique Cd’´equation (y2=
h(x)). Lorsque a1= 0, on retrouve l’exemple 1.2c).
On observe que Thest isomorphe au groupe multiplicatif C(C)∗du corps C(C)
des fonctions rationnelles sur Cet donc que Jhest isomorphe `a C(C)∗/C(x)∗.
En fait, les exemples 1.2, 1.3 et 1.4 d´ecrivent tous les types de transformations
´etudi´ees par Castelnuovo, et ceci mˆeme lorsqu’on ´etend la recherche `a des sous-
groupes du groupe de Cremona, comme l’´enonce le th´eor`eme 1.5 ci-dessous.
Si p∈P2, on d´esigne par Jonp(P2) le groupe des transformations de de Jonqui`eres
en p, c’est-`a-dire celles qui stabilisent le pinceau des droites par p.´ Evidemment, si
q∈P2, le groupe Jonq(P2) est conjugu´e `a Jonp(P2) dans le groupe de Cremona ;
pour all´eger on ´ecrira Jon(P2).

french - SUR UN TH´ EOR` EME DE CASTELNUOVO 3
Th´eor`eme 1.5. Soit M6={id}un sous-groupe du groupe de Cremona de P2;
supposons qu’il existe une courbe irr´eductible Cde genre >1qui est laiss´ee fixe
points par points par tous les ´el´ements de M. Alors Mest cyclique d’ordre 2 ou
3 engendr´e par l’une des transformations des exemples 1.2, 1.3, ou bien Mest
conjugu´e `a un sous-groupe de Jh(exemple 1.4) ; en particulier si Mest infini, C
est hyperelliptique et Mest ab´elien conjugu´e `a un sous-groupe de Jon(P2).
Notre d´emarche suit exactement celle de Castelnuovo qui consiste `a montrer
qu’il existe un pinceau de courbes rationnelles ou elliptiques qui est laiss´e fixe par
la transformation Fdans l’´enonc´e du th´eor`eme 1.1 (resp. par toute µ∈Mdans 1.5).
Ce pinceau est obtenu en construisant les syst`emes lin´eaires adjoints successifs de
la courbe de points fixes de F. Cette m´ethode est ´egalement d´ecrite dans les livres
de L. Godeaux [God, chap. VIII, §2]3et de J. L. Coolidge [Coo, Book IV, chap.
VII, §3, Thm. 14]4
Lorsque Mest fini, l’existence de ce pinceau se d´emontre aussi avec des m´ethodes
plus modernes. En effet, pour commencer on observe qu’il existe une surface ra-
tionnelle lisse Set une application birationnelle ϕ:S//___ P2telle que ϕ−1µϕ
est un automorphisme bir´egulier de S, ceci pour tout µ∈M([dFE], [DoIs]). On
peut donc supposer que Mest un sous-groupe d’automorphismes de Set de plus
qu’on se trouve dans l’une des situations suivantes ([Isk], [DoIs]) :
1) il existe un fibr´e en coniques π:S→P1et un homomorphisme
M→Aut(P1), µ 7→ µ
tel que π◦µ=µ◦π;
2) Sest une surface de Del Pezzo.
Dans le premier cas, puisque Mfixe une courbe Cde genre ≥1, on a µ=id
pour tout µ∈M: autrement dit Mfixe un pinceau de courbes rationnelles.
Dans le second cas, consid´erons l’application rationnelle anticanonique
γ:S//___ | − KS|∨
qui est ´equivariante. Puisque aucun ´el´ement du syst`eme anticanonique ne peut
contenir C(voir lemme 2.16), la courbe γ(C) engendre |−KS|∨et par cons´equent M
op`ere trivialement au but (i.e. , d’o`u l’existence d’un pinceau de courbes elliptiques
laiss´e fixe par M.
Par contre, si Mest infini, la m´ethode des “adjoints successifs” reste d’actualit´e.
Finalement, nous d´emontrerons `a la derni`ere section (Proposition 4.1) que les
th´eor`emes 1.1 et 1.5 ne se g´en´eralisent pas aux courbes rationnelles ou elliptiques
(de genre 0 ou 1). Pour une ´etude plus approfondie du cas des courbes elliptiques
(fait avec d’autres m´ethodes, l’utilisation des adjoints ´etant impossible), voir [Bla2].
Les auteurs remercient le rapporteur pour ses remarques concernant le pr´esent
article.
3Citation du th´eor`eme de Castelnuovo selon [God] : Si une transformation birationnelle poss`ede
une courbe unie irr´eductible (ou une partie irr´eductible de la courbe unie) de genre sup´erieur
`a l’unit´e, elle peut se ramener, par une transformation birationnelle, `a une transformation de
Jonqui`eres , ou c’est une transformation cyclique de p´eriode deux, trois ou quatre.
4Citation du th´eor`eme de Castelnuovo selon [Coo] : If, in a Cremona transformation, there be
a curve of fixed points of genus greater than 1, the transformation is either equivalent to a De
Jonqui`eres transformation, or periodic with a period of two, three, four, or six.

4 french - SUR UN TH´ EOR` EME DE CASTELNUOVO
2. Syst` eme adjoint
On adoptera la convention suivante : toutes les surfaces consid´er´ees sont tacite-
ment suppos´ees projectives lisses, rationnelles et connexes.
Soit Cune courbe irr´eductible contenue dans la surface Xet π:Y→Xune
r´esolution plong´ee des singularit´es de C; notons e Cla transform´ee stricte inverse de
Cpar π. Si h0(e C+KY)>1, autrement dit si le syst`eme lin´eaire |e C+KY|n’est pas
vide ni r´eduit `a un seul diviseur, on note Adj(C) le syst`eme lin´eaire π∗|e C+KY|priv´e
de ses ´eventuelles composantes fixes : c’est le syst`eme adjoint de C. Ce syst`eme est
ind´ependant de la r´esolution choisie : soient en effet πi:Yi→X(i= 1,2) deux
r´esolutions de C; Consid´erons alors un diagramme commutatif
Y
σ1
~~}
}
}
}
}
}
}σ2
A
A
A
A
A
A
A
Y1
π1
A
A
A
A
A
A
AY2
π2
~~}
}
}
}
}
}
}
X
o`u σi(i= 1,2) sont des morphismes birationnels, et notons f Ci,e Cles transform´ees
strictes inverses de Cpar πiet πi◦σirespectivement. Soit maintenant Di∈ |f Ci+
KYi|et supposons pour simplifier que σiest l’´eclatement d’un point Oi; alors le
transform´e total σ∗
iDide Diappartient `a |e
C+miEi+KY−Ei|o`u Eid´esigne la
fibre exceptionnelle de σiet mi∈ {0,1}la multiplicit´e de e Cien Oi; par cons´equent
σ∗
iDi+ (1 −mi)Ei∈ | e
C+KY|et donc Di∈(σi)∗|e C+KY|. En d´ecomposant σien
une succession d’´eclatements, on d´emontre ainsi que
(σi)∗|e C+KY|=|e Ci+KYi|
d’o`u r´esulte
(π1)∗|e C1+KY1|= (π1σ1)∗|e C+KY|
= (π2σ2)∗|e C+KY|
= (π2)∗|e C2+KY2|.
Insistons sur le fait que si h0(e C+KY)≤1, alors le syst`eme lin´eaire adjoint de
Cn’existe pas, par d´efinition. En g´en´eral, lorsqu’on parlera de syst`eme lin´eaire, il
est sous-entendu que celui-ci contient au moins un pinceau, c’est-`a-dire un syst`eme
lin´eaire de dimension 1.
Proposition 2.1. Le syst`eme adjoint Adj(C)existe si et seulement si g(C)>1.
De plus, dans ce cas, l’intersection avec Cinduit un isomorphisme Adj(C)' |KC|.
Ici g(C) d´esigne le genre de la normalisation e Cde Cet KCl’image par π:e C→C
d’un diviseur canonique sur e C.
D´emonstration. Consid´erons la suite exacte
0//OY(−e
C)//OY//Oe
C//0

french - SUR UN TH´ EOR` EME DE CASTELNUOVO 5
qui, apr`es tensorisation avec OY(e C+KY) induit la suite exacte
· · · H0(Y, KY)//H0(Y, e
C+KY)//H0(e
C, K e
C)//H1(Y, KY)//· · ·
(pour simplifier les notations, dans les groupes de cohomologie nous identifions
les diviseurs `a leurs faisceaux associ´es). Puisque Yest rationnelle les deux termes
extrˆemes sont r´eduits `a {0}, d’o`u le r´esultat. 
Exemple 2.2.Soit C⊂P2une courbe irr´eductible de degr´e d, avec des singularit´es
p1, . . . , p`, de multiplicit´es m1, . . . , m`≥2 respectivement (`≥0). Supposons que
g(C)≥2 ; observons qu’alors dest au moins ´egal `a 4.
a) Si toutes les singularit´es p1, . . . , p`sont ordinaires, une r´esolution plong´ee des
singularit´es de Cest obtenue en prenant pour π:Y→P2l’´eclatement de p1, . . . , p`
dans P2. Alors Adj(C) est le syst`eme lin´eaire
π∗|(d−3)L−
`
X
i=1
(mi−1)Ei|
priv´e de ses composantes fixes, o`u Ld´esigne l’image inverse par πd’une droite
g´en´erale et Eiest la courbe exceptionnelle au dessus de pi. C’est le syst`eme lin´eaire
des courbes de degr´e d−3 qui passent par piavec multiplicit´e mi−1 (i= 1, . . . , `),
priv´e de ses composantes fixes.
b) Supposons que Cposs`ede des singularit´es non ordinaires. Toute r´esolution
plong´ee πde Cse factorise `a travers l’´eclatement de p1, . . . , p`dans P2, mais elle
peut ˆetre diff´erente de celui-ci. N´eanmoins, si la r´esolution est minimale, Adj(C)
est un syst`eme lin´eaire de la forme
π∗(d−3)L−
`
X
i=1
(mi−1)Ei−Xaij Fij 
priv´e de ses composantes fixes, o`u Fij est un diviseur effectif contract´e par πsur pi
et aij >0.
Remarque 2.3.Comme il suit de l’exemple pr´ec´edent, lorsque Cest une courbe
plane, le degr´e des ´el´ements de Adj(C) est ≤deg(C)−3.
Exemple 2.4.a) Soit C=Cg+2 ⊂P2une courbe g´en´erale de degr´e g+ 2 ≥2 avec
un point singulier ordinaire pde multiplicit´e g(donc g(C) = g). Si g≤1 le syst`eme
Adj(C) n’existe pas et si g≥2, il est constitu´e de (g−1) droites passant par p.
b) Si C⊂P2est une sextique avec deux points triples ordinaires pet q, alors,
Adj(C) est obtenu `a partir du syst`eme des cubiques avec point double en pet qen
suprimant la droite pq qui est une composante fixe : ainsi Adj(C) est le syst`eme
lin´eaire des coniques passant par pet q.
c) Le syst`eme lin´eaire Ddes cubiques planes passant par un ensemble Ide 7
points en position g´en´erale d´efinit une application rationnelle γ:P2//___ P2de
degr´e 2, l’involution correspondante σ´etant une involution de Geiser. Consid´erons
l’´eclatement π:X→P2de I: alors σ0:= π−1σπ est un automorphisme de X
(c.f. [BaBe]). Puisque le groupe des classes de diviseurs sur Xinvariants par σ0est
engendr´e par KX, la courbe Cdes points fixes de σest de degr´e 3davec multiplicit´e
den les points de I. Par ailleurs, la restriction de γ`a un membre g´en´eral Dde D
est un revˆetement double D→P1ramifi´e en 4 points puisque g(D) = 1. Ainsi
l’intersection libre de Cet Dest constitu´ee de 4 points, d’o`u aussitˆot d= 2 : la