Une introduction aux Groupes algébriques

Une introduction aux
Groupes alg´ebriques
Bernard Le Stum
Universit´e de Rennes 1
Version du 30 mars 2007
Table des mati`eres
1 D´efinitions 3
1.1 Legroupelin´eaire............................. 3
1.2 Le groupe orthogonal et le groupe symplectique . . . . . . . . . . . . 4
1.3 Groupes classiques et vari´et´es alg´ebriques . . . . . . . . . . . . . . . . 5
1.4 Groupes alg´ebriques . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
1.5 Foncteursengroupes........................... 13
2 Propri´et´es ´el´ementaires 16
2.1 Vari´et´es alg´ebriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
2.2 Composantes connexes . . . . . . . . . . . . . . . . . . . . . . . . . . 17
2.3 Sous-groupes, noyaux et images . . . . . . . . . . . . . . . . . . . . . 21
2.4 Sous-groupes engendr´es . . . . . . . . . . . . . . . . . . . . . . . . . . 22
3 Action de groupe 24
3.1 G´en´eralit´es ................................ 24
3.2 G-vari´et´es ................................. 25
3.3 Repr´esentations de dimension finie . . . . . . . . . . . . . . . . . . . 29
4 D´ecomposition de Jordan 32
4.1 Rappels d’alg`ebre lin´eaire . . . . . . . . . . . . . . . . . . . . . . . . 32
4.2 Application aux groupes alg´ebriques . . . . . . . . . . . . . . . . . . . 35
4.3 Groupesunipotents............................ 39
1

Groupes Alg. – Version du March 30, 2007 2
4.4 Groupescommutatifs........................... 41
4.5 Groupes diagonalisables . . . . . . . . . . . . . . . . . . . . . . . . . 42
5 G´eom´etrie des groupes 46
5.1 Lissit´e ................................... 46
5.2 Morphismes dominants . . . . . . . . . . . . . . . . . . . . . . . . . . 49
5.3 Platitude.................................. 50
6 Diff´erentielles 52
6.1 Module des diff´erentielles . . . . . . . . . . . . . . . . . . . . . . . . . 52
6.2 Diff´erentielles sur les groupes . . . . . . . . . . . . . . . . . . . . . . 54
6.3 Alg`ebredeLie............................... 57
6.4 Exemples ................................. 61
7 Quotients et applications 63
7.1 Sous-groupes et repr´esentations . . . . . . . . . . . . . . . . . . . . . 63
7.2 Quotients ................................. 65
7.3 Vari´et´es compl`etes . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70
7.4 Sous-groupes paraboliques . . . . . . . . . . . . . . . . . . . . . . . . 71
7.5 Th´eor`eme du point fixe . . . . . . . . . . . . . . . . . . . . . . . . . . 72
8 Exercices 75
Introduction
Un syst`eme hamiltonien est un syst`eme diff´erentiel de la forme
x0
i=∂H/∂yiy0 i=−∂H/∂xi
ou Hest ce qu’on appelle l’´energie totale (mouvement d’une toupie par exemple).
Liouville avait montr´e qu’un tel syst`eme est int´egrable s’il y a «suffisamment d’int´egrales
premi`eres qui commutent ». A un syst`eme diff´erentiel, on peut associer un groupe
alg´ebrique, son groupe de Galois (une fois fix´ee une solution). Le th´eor`eme de Ra-
mis et Morales formalise le th´eor`eme de Liouville en montrant que le syst`eme est
int´egrable si et seulement si la composante neutre (composante connexe de l’unit´e)
du groupe de Galois est un groupe commutatif. Ce n’est qu’un exemple de l’utilit´e
des groupes alg´ebriques en math´ematiques.
Le but de ce cours est de pr´esenter la th´eorie des groupes alg´ebriques dans un
cours de Master. Nous voulons comprendre comment les propri´et´es g´eom´etriques et

Groupes Alg. – Version du March 30, 2007 3
les propri´et´e alg´ebriques s’interp´en`etrent. Nous verrons par exemple qu’un groupe
affine connexe est r´esoluble (propri´et´e alg´ebrique) s’il n’a pas de sous-groupe ferm´e
parabolique (propri´et´e g´eom´etrique). Mais les notions de groupes r´eductif ou semi-
simple ne seront pas ´etudi´ees, pas plus que celle de syst`emes de racines. Ce ne serait
pas raisonnable dans un cours sans pr´erequis.
On introduira le vocabulaire de la g´eom´etrie alg´ebrique au fur et `a mesure qu’il ap-
paraˆıtra. L’´etudiant pourra en parall`ele lire la premi`ere partie du livre de Hartshorne
([2]). Nous utiliserons le vocabulaire des cat´egories qui sera introduit progressive-
ment dans le premier chapitre du cours. L’´etudiant pourra en parall`ele lire le d´ebut
du livre de Strooker ([6]) par exemple. En fait, on pourrait se limiter aux groupes
affines et `a leur action sur des vari´et´es quasi-projectives, mais ce cours est aussi aussi
un tremplin vers la g´eom´etrie alg´ebrique, voire mˆeme arithm´etique.
L’ouvrage de r´ef´erence pour ce cours est le livre de Springer ([5]) qui lui mˆeme
s’inspire de celui de Humphreys ([3]). Il y a aussi le livre de Borel ([1]) et celui de
Waterhouse ([7]).
Nous illustrerons nos r´esultats `a l’aide des groupes classiques (sp´ecial, orthogonal,
symplectique, etc.). Ceux-ci sont ´etudi´es en d´etail dans le cours de Jacobson ([4])
par exemple.
1 D´efinitions
1.1 Le groupe lin´eaire
Si kest un corps et n∈N, on note GLn(k) le groupe des matrices carr´ees inver-
sibles d’ordre n. Si Eest un espace vectoriel de dimension finie sur un corps k, on
note GL(E) le groupes des applications lin´eaires bijectives de Edans E(automor-
phismes). Si dimkE=n, on a un isomorphismes de groupes GL(E)'GLn(k)
qui correspond au choix d’une base de E. Plus g´en´eralement, si Aest un anneau
commutatif et Mun A-module libre de rang n, on d´efinit GLn(A) et GL(M) de la
mˆeme mani`ere et on a encore GL(M)'GLn(A).
On peut consid´erer des sous groupes remarquables du groupe lin´eaire GLn:
– Le groupe sp´ecial lin´eaire SLndes matrices `a d´eterminant 1.
– Le groupe Dndes matrices diagonales inversibles.
– Le groupe Tndes matrices triangulaires sup´erieures inversibles.
– Le groupe Undes matrices triangulaires sup´erieures avec des 1 sur la diagonale.
Remarquons d`es maintenant que la m´ethode du pivot de Gauss permet de montrer
que SLn(k) est engendr´e par les matrices I+λ1ij avec λ∈kavec (1ij) d´esignant
la base canonique de Mn(k) (exercice).
On note Gmle groupe multiplicatif d´efini par Gm(A) := A∗. Bien sˆur, on a tout
simplement Gm=GL1et on voit que, plus g´en´eralement, Gn
m'Dn.
On note de mˆeme Gale groupe additif o`u Ga(A) n’est autre que le groupe additif

Groupes Alg. – Version du March 30, 2007 4
de l’anneau A. On a alors un isomorphisme
Ga'U2, f 7→ 1f
0 1 .
Un autre groupe int´eressant est le groupe µndes racines n-i`emes de l’unit´e, qui est
d´efini comme le noyau de la puissance ndans Gm. On a donc
µn(A) := {f∈A, fn= 1}.
On peut remarquer que l’application
Z/nZ→µn(C), r 7→ e2irπ/n
est un isomorphisme. Si Aest une C-alg`ebre int`egre, on peut g´en´eraliser cet isomor-
phisme en Z/nZ'µn(A). Cet isomorphisme est valide plus g´en´eralement pour les
k-alg`ebres int`egres si la caract´eristique de kne divise pas nmais on a
µp(k) = 1 6=Z/pZ
si cark=p.
On rappelle qu’une k-alg`ebre est tout simplement un anneau Amuni d’un morphisme
d’anneaux k→A(n´ecessairement injectif si A6= 0).
1.2 Le groupe orthogonal et le groupe symplectique
Soit Eun espace vectoriel de dimension finie sur k. Une forme bilin´eaire non
d´eg´en´er´ee sur Eest une application
E×E//k
(v, w)//hv, wi
induisant un isomorphisme
E'
b//ˇ
E
v//hv, .i
ou ˇ E:= L(E, k) est l’espace vectoriel dual de E(espace des formes lin´eaires sur E).
Un morphisme φ:E→E0est compatible avec des formes bilin´eaire non-d´eg´en´er´ees
bet b0respectivement si le diagramme
Eφ//
'
b
E0
'
b0
ˇ
Eˇ E0
ˇ
φ
oo
,
ou ˇ φ:ˇ E0→ˇ Eest l’application duale de φdonn´ee par ˇ φ(f0)(v) = f0(φ(v)), est
commutatif, i.e. ˇ φ◦b0◦φ=b. Notons que φest alors n´ecessairement bijective.

Groupes Alg. – Version du March 30, 2007 5
En particulier, un endomorphisme (autrement appel´e op´erateur) φde Eest compa-
tible `a une forme bilin´eaire non-d´eg´en´er´ee bsi et seulement si ˇ φ◦b◦φ=b. Ceux-ci
forment un sous-groupe de GL(E).
Une forme bilin´eaire non d´eg´en´er´ee bsur Eest dite altern´ee si
∀v∈E, hv, vi= 0.
On dit alors que (E, b) est un espace symplectique. Un op´erateur compatible `a b
est dit symplectique. Les op´erateurs symplectiques forment donc un groupe Sp(E, b)
appel´e groupe symplectique de (E, b). On peut montrer que ce groupe est engendr´e
par les transvections symplectiques
v7→ v+chv, uiu
avec c∈ket u∈E. En fait, si dim E= 2n, on a un isomorphisme
Sp(E)'Sp2n(k) := {M∈GL2n(k),tMJM =J}
avec
J:= 0I
−I0.
On peut remarquer que cette derni`ere d´efinition a aussi un sens sur n’importe quel
anneau A.
Une forme bilin´eaire non d´eg´en´er´ee bsur Eest dite sym´etrique si
∀v, w ∈E, hv, wi=hw, vi.
Un op´erateur compatible `a best dit orthogonal. Les op´erateurs orthogonaux forment
un groupe O(E) appel´e groupe orthogonal de E. On peut montrer (th´eor`eme de
Cartan-Dieudonn´e) que ce groupe est engendr´e par les sym´etries orthogonales
v7→ v−2hv, ui
hu, uiu
avec c∈ket u∈E(si car k6= 2). Lorsque kest alg´ebriquement clos, si dim E=n,
on a un isomorphisme
O(E)'On(k) := {M∈GLn(k),tMM =I}
et on peut remarquer `a nouveau que cette derni`ere d´efinition a aussi un sens sur
n’importe quel anneau A.
1.3 Groupes classiques et vari´et´es alg´ebriques
Remarquons tout d’abord que Mnest un espace affine muni des coordonn´ees
Tij :
a11 ··· a1m
.
.
..
.
.
an1··· anm
7→ aij.