LA THÉORIE DES GROUPES ALGÉBRIQUES

53
LA THÉORIE DES GROUPES ALGÉBRIQUES
Par G. GHEVALLEY
1. La notion de groupe algébrique
La notion de groupe algébrique repose sur celle de variété algébrique,
de la même manière que eelle de groupe topologique dépend de la notion
d'espace topologique. Il ne saurait être question d'exposer ici avec pré-
cision la définition des variétés algébriques; nous allons cependant in-
diquer les caractères essentiels de ce type d'objets mathématiques. Une
variété algébrique peut être définie par les données d'un ensemble U, son
ensemble de points, et d'un ensemble de fonctions, son corps de fonctions
rationnelles; ces fonctions sont des applications de parties de U dans
un corps algébriquement clos K, qu'on appelle le corps des constantes:
par ailleurs, elles forment un corps relativement à des opérations
d'addition et de multiplication qui jouissent des propriétés suivantes:
si des fonctions rationnelles u et v sont définies en un point x,u + vetuv
sont également définies en x et y prennent les valeurs u{x) + v{x) et
u{x) v{x) respectivement; de plus, si u est définie en x et u{x) =(= 0, u~x est
définie en x; les applications constantes de U dans K sont des fonctions
rationnelles, et forment un corps isomorphe à K. Une variété algébrique
est munie d'une topologie dont la famille d'ouverts est engendrée par
les ensembles de définition des fonctions rationnelles; cette topologie
est d'un type très particulier, puisque les ouverts non vides y sont tous
denses dans l'espace entier. Pour tout point x de la variété, il existe un
voisinage A{x) de x et un certain nombre de fonctions rationnelles
ux, ...,un, partout définies sur A{x), telles que l'application
x'^(u1(x')9...9un(x'))
soit une bijection de A{x) sur un sous-ensemble algébrique de l'espace
numérique Kn (une partie de Kn est dite algébrique si elle se compose
de tous les points dont les coordonnées satisfont à un certain système
d'équations algébriques); de plus, toute fonction rationnelle u sur U
s'exprime comme fraction rationnelle en %,...,un, et même comme
polynôme si elle est définie en tout point de A{x); on dit alors que
%,...,un forment un système de coordonnées en x sur U. Une applica-
tion / d'une variété V dans une variété U est dite rationnelle (on dit
alors aussi que / est un morphisme) si / est continue et possède la pro-
priété suivante : si y e V et si u±,..., un est un système de coordonnées sur

54 C. CHEVALLEY
Uenf{y), il y a un système de coordonnées {vv ...,vm) en y sur V tel que,
au voisinage de y, les ui{f{y)) s'expriment comme polynômes en les v^y).
Si U et U' sont des variétés, le produit cartésien UxU' possède une
structure de variété qui possède la propriété suivante: si %,...,um
(resp. u[, ...,u'm) forment un système de coordonnées sur U (resp. U')
en un point xQ (resp. x'0), les fonctions {x, x') -> u^x), {x,x') ->Uj{x')
forment un système de coordonnées en {x0, x'Q) sur U x U'.
Un groupe algébrique est un groupe G qui est muni d'une structure de
variété algébrique et qui possède la propriété suivante: l'application
{s, t) -> st-1 est un morphisme de G x G dans G.
Par exemple, le groupe GL{n) des matrices inversibles de degré n à
coefficients dans K est un groupe algébrique (les fonctions rationnelles
sur le groupe étant les fonctions de matrices qui peuvent s'exprimer
comme fonctions rationnelles des coefficients des matrices).
Un autre exemple se construit comme suit. Soit G le corps des com-
plexes, et soit n un entier > 0; soit P un sous-groupe discret de O
engendré par 2n points linéairement indépendants sur le corps R des
réels. Le groupe O/P = Z est alors un groupe commutatif compact;
il est muni d'une structure de groupe de Lie complexe de dimension
complexe n. Soit maintenant L le corps des fonctions méromorphes sur
Cn qui admettent tous les éléments du groupe P comme périodes.
A chaque fonction de L est associée une fonction définie sur une partie
de Z, à savoir l'image par l'application canonique O -> O/P de l'en-
semble des points où la fonction donnée est holomorphe. En général,
le corps L ne contiendra que les constantes. Cependant, si le groupe P
satisfait à certaines conditions (qui s'expriment au moyen de la théorie
des matrices de Riemann), le corps L contiendra 'assez de fonctions'
dans le sens que, pour deux points distincts de Z, on pourra trouver une
fonction de L qui soit définie en ces deux points et y prenne des valeurs
distinctes. On montre alors que l'on peut munir le groupe Z d'une
structure de groupe algébrique en définissant les fonctions rationnelles
comme étant les fonctions sur Z définies parles éléments de L. Les groupes
algébriques ainsi définis s'appellent les variétés abéliennes; il vaudrait
sans doute mieux les appeler groupes abéliens, n'était la confusion
fâcheuse qui tend à se produire entre ce sens du mot abélien et le sens
usuel de 'commutatif. Il importe de noter que les divers groupes
algébriques qu'on peut obtenir ainsi à partir des divers groupes P satis-
faisant aux conditions requises ne sont pas tous isomorphes entre eux,
alors que les groupes de Lie complexes dont ils proviennent sont tous
isomorphes.

LA THÉORIE DES GROUPES ALGÉBRIQUES 55
Soit G un groupe algébrique, et soit H un sous-groupe de G qui est
une partie fermée de G (au sens de la topologie définie ci-dessus sur la
variété G). On montre alors que la composante connexe HQ de l'élément
neutre dans H est un sous-groupe distingué d'indice fini de H, et est une
partie fermée de G; de plus, H0 peut être muni d'une structure de groupe
algébrique, une fonction rationnelle sur H0 coïncidant localement (au
voisinage de chaque point de son ensemble de définition) avec la restric-
tion à H0 d'une fonction rationnelle sur G. Un groupe HQ défini de cette
manière s'appelle un sous-groupe algébrique de G.
Par exemple, le groupe des éléments de déterminant 1 de GL{n) est
un sous-groupe algébrique de GL{n); il en est de même du groupe des
matrices orthogonales de déterminant 1 contenues dans GL{n), et, si
n est pair, du groupe des matrices symplectiques contenues dans GL{n).
Citons encore le groupe des matrices triangulaires {a^) {ai:} = 0 si i < j),
le groupe des matrices triangulaires unipotentes {a^ = 0 si i < j, au = 1),
le groupe des matrices diagonales.
Les sous-groupes algébriques des variétés abéliennes sont eux-mêmes
des variétés abéliennes.
2. Garactérisation des deux types de groupes algébriques
Les groupes algébriques qui sont isomorphes à des sous-groupes
fermés de groupes du type GL{n) sont appelés les groupes linéaires ; les
propriétés de ces groupes sont très différentes de celles des variétés
abéliennes définies plus haut. Il est remarquable que le fait pour un
groupe algébrique G d'être du type linéaire ou du type abélien puisse
se reconnaître par le seul examen de la variété du groupe, abstraction
faite de sa loi de composition.
Commençons par les groupes linéaires. On dit qu'une variété algé-
brique U est affine s'il existe un système de coordonnées sur U valable
sur toute la variété, c'est-à-dire d'une manière plus précise si U est
isomorphe à une sous-variété fermée d'un espace numérique Kn. Ceci
étant, on montre qu'une condition nécessaire et suffisante pour qu'un
groupe algébrique soit linéaire est que sa variété soit une variété affine.
La condition est évidemment nécessaire. Si elle est satisfaite, on montre
qu'on peut former des sous-espaces vectoriels de dimensions finies de
l'algèbre des fonctions partout définies sur le groupe (c'est-à-dire des
fonctions qui s'expriment comme polynômes en les coordonnées d'un
système de coordonnées valable sur toute la variété) qui sont invariants
par les opérations de translation du groupe; ces espaces fournissent des

56 C. CHEVALLEY
représentations linéaires du groupe qui permettent de construire un
isomorphisme du groupe avec un groupe linéaire.
Passons maintenant aux groupes du type abélien. Ces groupes n'ont
été introduits jusqu'ici que dans le cas où le corps de base est celui des
complexes; c'est Weil qui a donné la généralisation de ces groupes au cas
d'un corps de base de caractéristique quelconque. La définition des
variétés abéliennes repose sur la notion de variété complète qui généralise
en géométrie algébrique celle des espaces compacts (on observera que
les variétés abéliennes introduites plus haut sont, du point de vue des
groupes de Lie, des groupes compacts). Considérons une variété U et
un morphisme / d'une sous-variété ouverte V d'une variété V dans U;
le graphe de/ est une partie V de la variété produit U x V; prenons son
adhérence F. Bien que l'application / ne soit pas définie aux points de
V—V, il peut se produire que, si y e V— Y', il y ait un ou des points
x e U tels que {x,y) e F; on dit alors que x est une valeur d'adhérence
de/en y. La variété U étant donnée, si pour tous choix de V, V et/et
pour tout y eV—V il existe au moins une valeur d'adhérence de/ en
y, on dit que la variété U est complète. Ceci étant, si K est le corps des
complexes, on peut montrer que les variétés abéliennes comme définies
plus haut sont exactement tous les groupes algébriques qui sont des
variétés complètes. Il est donc naturel, pour un corps de base quel-
conque, d'appeler variétés abéliennes les groupes algébriques qui sont des
variétés complètes. Ces groupes sont nécessairement commutatifs; leur
étude est à certains égards plus difficile que celle des groupes linéaires;
le simple fait qu'ils soient commutatifs oblige par exemple à aller chercher
beaucoup plus profondément les éléments de structure propres à les
caractériser. Cette étude a été cependant poussée très loin dans les
travaux de Weil et de ses successeurs; nous y reviendrons.
Tandis qu'un groupe linéaire admet une représentation linéaire fidèle,
un groupe du type abélien n'admet aucune représentation linéaire non
triviale; un groupe ne peut donc être à fois linéaire et du type abélien
sans se réduire à son élément neutre.
Par contre, on peut montrer que les groupes algébriques les plus
généraux peuvent se construire à partir des groupes linéaires et des
groupes du type abélien. Indiquons d'abord que, si G est un groupe
algébrique et H un sous-groupe algébrique de G, l'ensemble G\H des
classes (à droite ou à gauche) de G suivant H peut être muni de manière
naturelle d'une structure de variété; l'application naturelle /: G->G/H
est un morphisme, et tout morphisme de G dans une variété qui est
constant sur chaque classe suivant H se décompose en l'application /

LA THÉORIE DES GROUPES ALGÉBRIQUES 57
suivie d'un morphisme de GjH. Si H est de plus distingué, GjH est un
groupe, et, muni de la structure de variété dont on vient de parler, un
groupe algébrique. Ceci étant, on peut montrer que tout groupe algé-
brique G admet un sous-groupe algébrique distingué H et un seul tel
que H soit linéaire et GjH complet (i.e. du type abélien); il existe
diverses démonstrations de ce théorème, dont deux publiées, l'une par
Barsotti et l'autre par Rosenlicht. On a encore peu de renseignements
sur le problème réciproque, à savoir le problème de déterminer les groupes
algébriques admettant un sous-groupe distingué linéaire H donné
admettant comme quotient un groupe donné de type abélien. Cependant,
des cas importants ont été étudiés par Rosenlieht, Serre et Lang; cette
question très importante est liée aux généralisations de la théorie du
corps de classes aux variétés algébriques.
3. Variétés abéliennes
3.1. Décomposition en variétés simples. Isogénies. Une variété
abélienne A est dite simple si elle ne se réduit pas à son élément neutre
et si elle n'a aucun sous-groupe fermé connexe non trivial autre que la
variété tout entière. On est naturellement conduit à chercher à décom-
poser une variété abélienne quelconque en produit de variétés abéliennes
simples. Cependant, il se produit ici un phénomène analogue à celui que
l'on rencontre dans la théorie des groupes de Lie semi-simples, un groupe
de Lie semi-simple étant seulement localement, mais en général pas
globalement, isomorphe à un produit de groupes simples. Pour en
arriver à un énoncé exact, on introduit la notion d'isogénie de variétés
abéliennes. On appelle en général homomorphisme d'une variété
abélienne A dans une variété abélienne B une application de A dans B
qui est à la fois un homomorphisme de groupes et un morphisme de
variétés. On dit que A est isogène à B s'il existe un homomorphisme
surjectif de noyau fini de A dans B; cette relation, évidemment reflexive
et transitive, se trouve être aussi symétrique. Ceci étant, on montre que
toute variété abélienne A est isogène à un produit de variétés abéliennes
simples; le nombre des facteurs du produit qui sont isogènes à une
variété abélienne simple quelconque ne dépend que de A.
3.2. L'anneau des endomorphismes. Soit A une variété abélienne;
un élément de structure d'importance fondamentale que l'on peut
attacher à A est son anneau d'endomorphismes %{A); il se compose de
tous les homomorphismes de A dans A, avec les lois de composition