CHAPITRE 5 SOUS-GROUPES DE BOREL ET VARIÉTÉS DE DRAPEAUX Version du 10 janvier 2006 15. Théorème du point fixe et sous-groupes de Borel 15.1. Morphismes propres et variétés complètes. — Définition 15.1. — 1) Un morphisme de variétés algébriques f : X → Y est propre s’il est universellement fermé, c.-à-d., si pour toute variété Z, le morphisme f × idZ : X × Z → Y × Z est fermé. f g 2) On voit facilement que si X −→ Y et Y −→ Z sont propres, alors g ◦ f l’est aussi. Définition 15.2. — Soit X une variété algébrique sur k. On dit que X est propre (ou encore, complète) si le morphisme X → pt = Max(k) est propre, c.à.d. si, pour toute variété Z le morphisme prZ : X × Z → Z est fermé. Remarque 15.3. — A1 = k n’est pas propre car, par exemple, la projection sur k du fermé {(x, y) ∈ k × k | xy = 1} est k ∗ , qui n’est pas fermé dans k. Théorème 15.4. — Pn est propre, pour tout n. Démonstration. — Voir, par exemple, [Die, §3.3, Th. 1], [Sp, Th. 6.1.3] ou [Las, §6.5]. Proposition 15.5. — Soit X une variété propre. 1) Toute sous-variété fermée Y de X est propre. 2) Si Y est propre alors X × Y l’est aussi. 3) Si φ : X → Y est un morphisme surjectif, alors Y est propre. 4) Soit φ : X → Y un morphisme. Alors φ(X) est une sous-variété fermée et propre. 5) Si X est connexe, alors k[X] = k. 100 CHAPITRE 5. SOUS-GROUPES DE BOREL ET VARIÉTÉS DE DRAPEAUX 6) Si X est de plus affine, alors X est un ensemble fini. Plus généralement, si X est connexe, tout morphisme de X vers une variété affine est constant. Démonstration. — Soit Z une variété arbitraire. 1) Y ×Z est fermé dans X ×Z donc si F est fermé dans Y × Z il l’est aussi dans X × Z et donc prZ (F ) est fermé. p q 2) Notons X × Y × Z −→ Y × Z −→ Z. Alors prZ = q ◦ p. Si F est un fermé de X × Y × Z alors p(F ) est un fermé de Y × Z, car X est propre, et prZ (F ) = q(p(F )) est un fermé de Z, car Y est propre. 3) Soit F une sous-variété fermée de Y × Z. Considérons le diagramme π=(φ,idZ ) X × Z −−−−−−→ Y × Z⊇ F prY X prZ y y Z Z Z Comme φ est surjectif, π l’est aussi et donc prZY (F ) = prZX (π −1 (F )). Par conséquent, prZY (F ) est fermé. Ceci montre que Y est propre. Pour démontrer 4), on a besoin du lemme suivant. Lemme 15.6. — Soit φ : X → Y un morphisme de variétés. Alors son graphe Γφ := {(x, φ(x)), x ∈ X} est une sous-variété fermée de X × Y , isomorphe à X. Démonstration. — Considérons le morphisme θ = (φ, idY ) : X × Y −→ Y × Y , (x, y) 7→ (φ(x), y). Alors Γφ = θ−1 (∆Y ), où ∆Y est la diagonale dans Y × Y , qui est une sous-variété fermée. Donc Γφ est une sous-variété fermée. De plus, si p désigne la restriction à Γφ de la projection prX , alors p et (idX , φ) sont des morphismes inverses l’un de l’autre. Revenons à la preuve de 4). On a φ(X) = prY Γφ , donc φ(X) est une sousvariété fermée de Y . Elle est propre, d’après 3). 5) Soit f ∈ k[X]. Alors f (X) est une sous-variété fermée connexe et propre de k. Comme k n’est pas complet, alors f (X) est un point, i.e. f est constante. 6) Soient X1 , . . . , Xr les composantes irréductibles de X. Alors chaque Xi est propre et connexe, donc k[Xi ] = k. Comme Xi est affine, ceci entraîne que Xi est un point, et donc X est fini. Soit φ : X → Y un morphisme, avec Y affine. Alors φ(X) est une sousvariété fermée, donc propre et aussi affine. Donc φ(X) est fini, et égal à un point si X est connexe. Corollaire 15.7. — a) Toute variété projective est propre. b) Toute variété quasi-projective propre est projective. Démonstration. — a) résulte du théorème et de 1) ; b) résulte de 4). 15. THÉORÈME DU POINT FIXE ET SOUS-GROUPES DE BOREL 101 Lemme 15.8. — Soient G un groupe algébrique, X, Y des G-variétés homogènes, et φ : X → Y un morphisme bijectif G-équivariant. Si Y est complète, X l’est aussi. Démonstration. — Soient Z une variété et θ = (φ, idZ ) : X × Z → Y × Z. Alors θ est un morphisme bijectif ; il est ouvert, d’après le corollaire 14.6, c’est donc un homéomorphisme. Donc, si F est un fermé de X × Z, θ(F ) est un fermé de Y × Z. Or, prZX (F ) = prZY (F ) ◦ θ, donc si Y complète alors prZX (F ) est un fermé de Z. Ceci prouve le lemme. Remarque 15.9. — On peut en fait montrer que tout morphisme bijectif entre variétés normales est propre, cf. la sous-section suivante. 15.2. Morphismes finis et normalisation. — Cette sous-section ne sera pas utilisée dans la suite. Définition et proposition 15.10. — Soit f : X → Y un morphisme de variétés. 1) On dit que f est affine si, pour tout ouvert affine U de Y , f −1 (U ) est un ouvert affine de X. On peut montrer qu’il suffit que ce soit le cas pour un recouvrement donné (Ui ) de Y par des ouverts affines. 2) On dit que f est fini s’il est affine et si, pour tout ouvert affine U de Y , le comorphisme f ∗ fait de k[f −1 (U )] un k[U ]-module de type fini. On peut montrer qu’il suffit que cette propriété soit vérifiée pour un recouvrement donné (Ui ) de Y par des ouverts affines. En particulier, si Y = Max(A) et X = Max(B) sont affines, alors f est fini si, et seulement si, f ∗ fait de B un A-module de type fini. f g 3) Il résulte de la définition que si X −→ Y et Y −→ Z sont finis, alors g ◦ f l’est aussi. Proposition 15.11. — Tout morphisme fini est propre. Démonstration. — Soit f : X → Y un morphisme fini. Alors, pour tout Z, le morphisme f × idZ est fini. Par conséquent, il suffit de montrer que tout morphisme fini est fermé. Ceci résulte du théorème de montée (going-up) de Cohen-Seidenberg ; voir [Die, §4.4, Prop. 11] ou [Sp, Lemma 5.2.3]. Pour une autre démonstration, voir [Las, Prop.6.7.10], qui montre que tout morphisme fini est projectif, et donc propre. Soit X une variété. On rappelle (cf. 13.31) qu’un point x ∈ X est dit normal si l’anneau local OX,x est intègre et intégralement clos, et X est normale si chaque point x ∈ X est normal. D’après la proposition 13.29 et le théorème 13.32, l’ensemble des points normaux de X contient un ouvert dense de X. D’autre part, toute variété irréductible X est birationnellement dominée par une variété normale, d’après le théorème ci-dessous. 102 CHAPITRE 5. SOUS-GROUPES DE BOREL ET VARIÉTÉS DE DRAPEAUX Théorème 15.12 (Normalisées d’une variété). — Soit X une variété iréductible. e et un morphisme fini biration1) Il existe une variété irréductible normale X e nel π : X → X vérifiant la propriété universelle suivante : pour tout morphisme birationnel fini f : X 0 → X, où X 0 est irréductible, il existe un unique more → X 0 tel que f ◦ π 0 = π. On appelle X e la normalisée de phisme π 0 : X X. 2) Plus généralement, soit L un corps, extension de degré fini de k(X). Il eL telle que k(X eL ) = L, et un morexiste une variété irréductible normale X e phisme fini πL : XL → X vérifiant la propriété universelle suivante : pour tout morphisme surjectif fini f : X 0 → X, où X 0 est irréductible et k(X 0 ) ⊆ L, il eL → X 0 tel que f ◦ π 0 = πL . On appelle X eL existe un unique morphisme πL0 : X L la normalisée de X dans L. Démonstration. — Voir [Die, §5.3, Prop.5] Définition 15.13. — Une extension de corps L/K est radicielle si L = K ou n bien si car(K) = p > 0 et si pour tout x ∈ L il existe n ≥ 1 tel que xp ∈ K. Théorème 15.14 (Autre version du théorème principal de Zariski) Soient X, Y des variétés irréductibles normales et f : X → Y un morphisme bijectif. Alors l’extension k(Y ) ⊆ k(X) est radicielle, donc algébrique et de degré fini, X s’identifie à la normalisée de Y dans k(X), et donc f est un morphisme fini. Démonstration. — Voir [Die, §5.4, Cor. 4] 15.3. Théorème du point fixe de Borel. — Lemme 15.15. — Soient H un groupe algébrique et Z une H-variété. Alors Z H := {z ∈ Z | hz = z, ∀h ∈ H} est une sous-variété fermée de Z. T Démonstration. — En effet, Z H = h∈H Z h , et Z h = φ−1 h (∆Z ), où ∆Z est la diagonale de Z × Z et φh le morphisme Z → Z × Z, z 7→ (z, hz). Théorème 15.16 (Théorème du point fixe de Borel). — Soit G un groupe résoluble connexe, et X une G-variété complète non vide. Alors G a un point fixe dans X. Démonstration. — Démontrons le théorème par récurrence sur d = dim G. C’est vrai si d = 0, car alors G = {1}. Si G 6= {1} alors D(G) := N est un sous-groupe fermé connexe propre, donc de dimension < d. Par hypothèse de récurrence, X N := Y est non-vide. D’après le lemme, c’est une sous-variété 15. THÉORÈME DU POINT FIXE ET SOUS-GROUPES DE BOREL 103 fermée, et donc complète, de X. Puisque N est normal dans G, alors Y est G-stable ; en effet, si y ∈ Y , g ∈ G, h ∈ N alors hgy = g (g −1 hg)y = gy. Soit y ∈ Y tel que l’orbite Gy soit de dimension minimale, et donc fermée. Comme Gy contient D(G), c’est un sous-groupe fermé normal et donc la variété G/Gy est affine et connexe. D’autre part, le morphisme φ : G/Gy → Gy est équivariant et bijectif, et Gy est complète. Donc, d’après le lemme 15.8, G/Gy est complète. On a donc obtenu que G/Gy est complète, connexe et affine. Elle est donc réduite à un point, et il en est de même de Gy ; par conséquent y est un point fixe. Le théorème est démontré. On déduit du théorème du point fixe une autre démonstration du théorème de Lie-Kolchin pour les groupes résolubles connexes : Corollaire 15.17 (Théorème de Lie-Kolchin, cas résoluble connexe) Soient G un groupe résoluble connexe et V un G-module rationnel de dimension finie. Alors G a un point fixe dans la variété des drapeaux F(V ), c.-à-d., G stabilise un drapeau de V . Démonstration. — La variété des drapeaux F(V ) de V est une sous-variété Q Qn−1 i fermée de la variété projective n−1 i=1 Gri (V ) ⊆ i=1 P(Λ V ) (où n = dim V ), et G y agit morphiquement. Par conséquent, G y a un point fixe. 15.4. Sous-groupes et paires de Borel. — Soit G un groupe algébrique affine. Définition 15.18. — On appelle sous-groupe de Borel de G tout sous-groupe fermé résoluble connexe maximal. Théorème 15.19 (Sous-groupes de Borel). — Soit G un groupe algébrique affine connexe. Tous les sous-groupes de Borel de G sont conjugués, et si B est l’un d’eux la variété G/B est projective. Démonstration. — Soit S un sous-groupe de Borel de dimension maximale. D’après le théorème de Chevalley, il existe un G-module rationnel de dimension finie V et une droite V1 ⊆ V tels que S = StabG (V1 ) ; de plus on peut supposer que V est fidèle, quitte à remplacer V par V ⊕ E, où E est un G-module rationnel fidèle de dimension finie. Observons que S stabilise un drapeau F0 = (V1 ⊆ V2 ⊆ · · · ⊆ Vn = V ) dont le premier terme est V1 . En effet, S agit dans V /V1 , et on peut appliquer le théorème de Lie-Kolchin dans V /V1 (S étant résoluble connexe). 104 CHAPITRE 5. SOUS-GROUPES DE BOREL ET VARIÉTÉS DE DRAPEAUX Alors S ⊆ StabG (F0 ), mais l’on a aussi StabG (F0 ) ⊆ StabG (V1 ) = S et donc S = StabG (F0 ). Par conséquent, on a un morphisme bijectif (∗) bijectif G/S −−−−→ GF0 ⊆ F(V ). Montrons que l’orbite GF0 est fermée. Soit F ∈ F(V ) un drapeau arbitraire. Alors GF est résoluble, puisque GF est triangulaire dans toute base adaptée à F. Donc, par l’hypothèse de maximalité faite sur dim S, on a dim GF ≤ dim S (car dim GF = dim G0F ), et donc dim GF ≥ dim GF0 . Donc GF0 est une orbite de dimension minimale, elle est donc fermée, et complète. Donc, d’après le lemme 15.8 et (∗), G/S est complète. Enfin, soit B un sous-groupe de Borel arbitraire. Il agit par translation à gauche sur G/S, et y possède donc un point fixe gS. Alors Bg ⊆ gS, d’où B ⊆ g −1 Sg. Mais g −1 Sg est fermé résoluble connexe, et donc la maximalité de B entraîne B = g −1 Sg, d’où la première assertion du théorème. De plus, clairement, Int(g) induit un isomorphisme de variétés G/S ∼ = G/B et donc G/B est complète. Le théorème est démontré. Définition 15.20. — On appelle paire de Borel de G tout couple (T, B) où B est un sous-groupe de Borel de G et T un tore maximal de G contenu dans B. Corollaire 15.21. — (Conjugaison des tores maximaux et paires de Borel) a) Tout tore maximal est contenu dans un sous-groupe de Borel, et toutes les paires de Borel sont conjuguées. b) Les sous-groupes fermés connexes unipotents maximaux de G sont tous conjugués, et chacun est de la forme Bu , pour B un sous-groupe de Borel. Démonstration. — a) Soit T un tore maximal. Comme T est fermé, connexe et résoluble (car abélien), il est contenu dans un Borel B. Par maximalité, c’est un tore maximal de B. Soit (T 0 , B 0 ) une autre paire de Borel. D’après le théorème précédent, il existe g ∈ G tel que gB 0 g −1 = B. Alors, gT 0 g −1 est un tore maximal de B et, d’après le résultat établi dans le cas résoluble (théorèmes 12.14 ou 12.23), T et gT 0 g −1 sont conjugués par un élément b ∈ C ∞ (B). Le point a) en découle. Pour b), la démonstration est analogue et laissée au lecteur. Définition 15.22. — Soient G un groupe algébrique affine connexe et P un sousgroupe fermé. On dit que P est un sous-groupe parabolique si la variété G/P est complète (et donc projective). Proposition 15.23 (Caractérisation des paraboliques). — P est parabolique ⇔ P contient un Borel. Par conséquent, B est un Borel ⇔ B est parabolique, résoluble et connexe. 15. THÉORÈME DU POINT FIXE ET SOUS-GROUPES DE BOREL 105 Démonstration. — ⇒ Supposons G/P complet et soit B un Borel. Alors B a un point fixe gP dans G/P et donc Bg ⊆ gP , d’où g −1 Bg ⊆ P . ⇐ Le morphisme G → G/P se factorise à travers G/B. On a donc un morphisme surjectif G/B → G/P , avec G/B complète. Donc G/P est complète, d’après la proposition 15.5.3). La deuxième assertion s’obtient facilement. Théorème 15.24. — (Tores et sous-groupes de Borel d’un groupe quotient) Soit φ : G → G0 un morphisme surjectif de groupes algébriques affines et soit H un sous-groupe fermé de G de l’un des types suivants : parabolique, Borel, tore maximal, unipotent connexe maximal. Alors φ(H) est du même type, et tout sous-groupe de G0 de ce type est obtenu de cette manière. Démonstration. — On considère G0 comme un G-espace homogène, via gg 0 = φ(g)g 0 , pour g ∈ G, g 0 ∈ G0 . Alors φ se factorise en un morphisme Géquivariant, et donc surjectif, G/H → G0 /φ(H). Donc, d’après la proposition 15.5.3), si H est parabolique, φ(H) l’est aussi. Si H est un Borel, φ(H) est parabolique, résoluble et connexe, donc un Borel. Si H est unipotent connexe maximal, alors H = Bu pour un Borel B, d’où φ(Bu ) = φ(B)u (car φ(b)u = φ(bu )). Comme φ(B) est un Borel de G0 , il en résulte que φ(H) est unipotent connexe maximal. Si H est un tore maximal, contenu dans un Borel B, on a B = T Bu et donc φ(B) = φ(T )φ(B)u . On en déduit, d’après le théorème 12.23, que φ(T ) est un tore maximal de φ(B), et donc de G0 . De plus, si H 0 est un Borel, tore maximal, ou unipotent connexe maximal de G0 , et si H est du même type, il existe g 0 = φ(g) tel que H 0 = g 0 φ(H)g 0−1 = φ(gHg −1 ). Enfin, si P 0 est un parabolique de G0 , il contient un Borel φ(B). Alors P := φ−1 (P 0 ) contient B et est donc parabolique ; et P 0 = φ(P ). 15.5. Centralisateurs de tores, sous-groupes de Cartan. — Lemme 15.25. — Soit G connexe et B un Borel de G. Si f est un automorphisme de G tel que f|B = id, alors f = id. Par conséquent, si g ∈ G centralise B alors g ∈ Z(G). En particulier, Z(B) ⊆ Z(G). Démonstration. — Soit f ∈ Aut(G) tel que f|B = id. Considérons le morphisme ψ : G → G défini par ψ(g) = f (g)g −1 . Alors ψ se factorise à travers ψ 0 : G/B → G, i.e. ψ(g) = ψ 0 (gB) pour tout g. Comme G/B est complète et G affine, il vient ψ 0 (G/B) = ψ 0 (e) = e, d’où f = id. La deuxième assertion en résulte en prenant f = Int(g). Donc Z(B) ⊆ Z(G). Proposition 15.26. — Soit G un groupe algébrique affine, B un sous-groupe de Borel. Si B est nilpotent, alors G0 = B. 106 CHAPITRE 5. SOUS-GROUPES DE BOREL ET VARIÉTÉS DE DRAPEAUX Démonstration. — On peut supposer G connexe. On procède par récurrence sur d = dim G. Si B = {1} alors G = G/B est affine, complète et connexe, donc égale à {1}. Sinon, B est nilpotent connexe non-trivial et donc H := Z(B)0 6= {1}. D’après le lemme précédent, H est central dans G. On peut donc former le groupe quotient G/H, qui est de dimension < dim G. De plus, d’après le théorème 15.24, B/H est un sous-groupe de Borel, nilpotent, de G/H. Par hypothèse de récurrence, il vient G/H = B/H, d’où G = B. Corollaire 15.27. — Soit G connexe, de dimension ≤ 2. Alors G est résoluble. Démonstration. — Soit B un sous-groupe de Borel de G. Montrons que G = B. On a B = T Bu , où T est un tore maximal de B. Si on avait dim B ≤ 1, on aurait B = T ou B = Bu , d’où B nilpotent, et G = B d’après la proposition précédente. On en déduit que dim B = 2, d’où B = G. Corollaire 15.28. — Soit G un groupe algébrique affine connexe. 1) Si G = Gs alors G est un tore. 2) Si Gu est un sous-groupe, G est résoluble. 3) Si Gs est un sous-groupe, G est nilpotent. Démonstration. — Soient B un Borel de G, et B = T Bu . Prouvons 1). Si G = Gs , alors B = T . Donc B = Z(B) ⊆ Z(G), et donc B est normal. Alors G/B est affine, connexe, et complète, donc un point, d’où G = B = T . 2) Gu est un sous-groupe fermé normal, et donc H = G/Gu est un groupe algébrique affine connexe. De plus, H est formé d’éléments semi-simples (car H = {π(gs ), g ∈ G}). Donc H est un tore, donc commutatif. Il en résulte que G est résoluble, puisque 1 → Gu → G → T → 1. 3) Supposons que Gs soit un sous-groupe de G. Alors Bs = B ∩ Gs est un sous-groupe normal de B, commutatif d’après 12.23. Il est donc fermé car, d’après le lemme 7.14, on peut plonger B dans un GLn de sorte que Bs = B ∩ Dn . Donc Bs est un sous-groupe diagonalisable normal, et donc central dans B, d’après le théorème de rigidité. Donc B est nilpotent, et G = B d’après la proposition précédente. Remarque 15.29. — On peut aussi montrer que si Gs est fermé alors G est nilpotent. Proposition 15.30. — Soient T un tore maximal, et C = CG (T )0 . Alors C est nilpotent, et C = NG (C)0 . Démonstration. — Soit B un sous-groupe de Borel de C. Alors T est un tore maximal de B. Comme T est central, B est nilpotent d’après la proposition 12.16, et donc C = B d’après la proposition 15.26. 15. THÉORÈME DU POINT FIXE ET SOUS-GROUPES DE BOREL 107 Par le théorème de rigidité, on a C = NG (T )0 . Montrons que NG (C) ⊆ NG (T ), d’où résultera l’égalité voulue. Soit x ∈ NG (C). Alors Int(x) est un automorphisme de C, qui stabilise T car T = Cs . Donc x ∈ NG (T ). La proposition est démontrée. Définition 15.31. — Si T est un tore maximal, C = CG (T )0 est appelé un sous-groupe de Cartan. En fait, on verra plus loin que CG (T ) est connexe. 15.6. La réunion des sous-groupes de Borel. — Lemme 15.32. — Soient G connexe, H un sous-groupe fermé connexe, et X = S −1 . gHg g∈G a) X contient un ouvert dense de X. b) Si G/H est complète, X est fermé. c) Si NG (H)/H est fini et s’il existe un élément de G qui n’est contenu que dans un nombre fini de conjugués de H, alors X = G. Démonstration. — Soit M = {(x, y) ∈ G × G | y ∈ xHx−1 }. C’est une sousvariété fermée irréductible de G × G car c’est l’image de G × H par l’isomorphisme G × G ∼ = G × G, (x, z) 7→ (x, xzx−1 ). Comme±X = pr2 (M ), on obtient a). Considérons le morphisme ψ : G × G → (G × G) (H × {1}) = G/H × G ; il est ouvert. On a M = ψ −1 ψ(M ) : en effet, si (x, y) ∈ M et h ∈ H alors (xh, y) ∈ M . Donc V := ψ(M ) est une sous-variété fermée de G/H × G. Comme X = prG (V ), on obtient b). Notons q et π les restrictions à V de prG/H et prG . Comme V = {(xH, y) | y ∈ xHx−1 }, on voit que q est surjective et que dim q −1 (q(v)) = dim H, pour tout v. On en déduit que dim V = dim G. Supposons que |NG (H)/H| < ∞ et qu’il existe y ∈ G qui ne soit contenu que dans un nombre fini de conjugués de H, disons g1 Hg1−1 , . . . , gr Hgr−1 . Alors, π −1 (y) = {xH ∈ G/H | y ∈ xHx−1 } est la réunion des classes gi NG (H)/H et est donc fini. L’égalité 0 = dim π −1 (y) ≥ dim V − dim X entraîne alors dim X = dim V = dim G. Le lemme est démontré. Théorème 15.33 (Union des sous-groupes de Cartan ou Borel) Soit G connexe. a) La réunion des CG (T )0 , pour T un tore maximal, contient un ouvert dense. b) G est la réunion de ses sous-groupes de Borel. c) Tout élément semi-simple de G appartient à un tore maximal. d) Tout élément unipotent de G appartient à un sous-groupe unipotent connexe maximal. 108 CHAPITRE 5. SOUS-GROUPES DE BOREL ET VARIÉTÉS DE DRAPEAUX Démonstration. — a) Soient T un tore maximal et C = CG (T )0 . D’après la proposition 15.30, C = NG (C)0 et donc NG (C)/C est fini. D’après le lemme 8.5, il existe t ∈ T tel que CG (T ) = CG (t). Soit x ∈ G tel que t ∈ xCx−1 . Alors x−1 tx ∈ C, d’où x−1 tx ∈ T puisque T = Cs . Alors, C ⊆ CG (x−1 tx) = x−1 CG (t)x = x−1 CG (T )x, et on en déduit que C = x−1 Cx. Ceci montre que C est l’unique conjugué de C contenant t, et a) résulte alors de la proposition 15.32. b) C est connexe et nilpotent donc contenu dans un Borel. Par conséquent, la réunion des sous-groupes de Borel est un fermé contenant un ouvert dense, d’où b). c) Soit t semi-simple. D’après b), t est contenu dans un Borel B, puis t est contenu dans un tore maximal de B d’après le théorème 12.14. Enfin, soit u unipotent. Il est contenu dans un Borel B, et donc dans Bu . Le théorème est démontré. Corollaire 15.34. — Soit G connexe contenant un sous-groupe de Borel B normal. Alors G = B, c.-à-d., G est résoluble. Démonstration. — B est le seul sous-groupe de Borel de G, puisqu’ils sont tous conjugués. Comme, d’après le théorème précédent, leur réunion est G, on obtient G = B. Corollaire 15.35. — Soit G connexe. Alors Z(G) = Z(B), pour tout Borel B. Démonstration. — Soit x ∈ Z(G). D’après le théorème, x est contenu dans un Borel, mais alors dans tous puisqu’ils sont conjugués. Donc x ∈ Z(B), pour tout B. L’inclusion réciproque a été vue dans la proposition 15.25. 15.7. Connexité des centralisateurs de tores. — Lemme 15.36. — Soient G connexe, S un sous-groupe résoluble connexe, et x ∈ G commutant à S. Il existe un sous-groupe de Borel contenant S et x. Démonstration. — D’après le théorème 15.33, il existe un Borel B contenant x. Donc la sous-variété fermée X = (G/B)x = {gB | xg ∈ gB} est non-vide (elle contient eB). Si gB ∈ X et s ∈ S, alors x sgB = sxgB = sgB. Donc X est stable par S. Comme S est résoluble connexe, et X complète et non-vide, S a un point fixe gB dans X. Alors le Borel gBg −1 contient x et S. Théorème 15.37. — (Sous-groupes de Borel du centralisateur d’un tore) Soient G connexe, S un tore de G. a) CG (S) est connexe. b) Soit B un sous-groupe de Borel de G contenant S. Alors B ∩ CG (S) est un sous-groupe de Borel de CG (S). 15. THÉORÈME DU POINT FIXE ET SOUS-GROUPES DE BOREL 109 c) De plus, tout sous-groupe de Borel de CG (S) est obtenu de cette façon. Démonstration. — a) Soit x ∈ CG (S). D’après le lemme, x et S sont contenus dans un Borel B. Mais alors x ∈ CB (S), qui est connexe d’après le résultat établi dans le cas connexe (théorème 12.14). Donc x ∈ CG (S)0 . Ceci montre que CG (S) = CG (S)0 . b) Posons C = CG (S). Alors B ∩ C = CB (S) est résoluble et connexe. Pour montrer que c’est un sous-groupe de Borel de C, il suffit de montrer que la variété C/C ∩ B est propre. Notons eB le point B/B de G/B. Alors StabC (eB ) = C ∩ B et donc on a un morphisme bijectif C-équivariant C/C ∩ B −→ CeB . D’après le lemme 15.8, il suffit de montrer que CeB est complète, i.e. que l’orbite CeB est fermée. Donnons deux démonstrations de ce fait ; la seconde établira Comme π : G → G/B est ouvert, il suffit de montrer que Y := π −1 (CeB ) = CB est fermé dans G. Comme Y est une orbite du groupe connexe C × B, alors Y est irréductible, et il en est de même de son adhérence Y . Comme S ⊆ B, alors pour tout y ∈ Y = CG (S)B, on a y −1 Sy ⊆ B et, par continuité, ceci vaut aussi pour tout y ∈ Y , c.-à-d., (1) y −1 Sy ⊆ B ∀y ∈ Y , Soit T un tore maximal de B contenant S. Soit π la projection B/Bu ; elle induit un isomorphisme de T sur B/Bu . Considérons le morphisme ψ : Y × S → B/Bu , (y, s) 7→ π(y −1 sy). D’après le théorème de rigidité 8.16, ψ est indépendant de la variable y ∈ Y , c.-à-d., on a : (2) ∀y ∈ Y , π(y −1 sy) = π(s). Fixons y ∈ Y . Alors y −1 Sy est un tore de B, donc il existe u ∈ Bu tel que u−1 y −1 Syu ⊆ T. Alors, d’après (2), pour tout s ∈ S on a π(u−1 y −1 syu) = π(y −1 sy) = π(s); et comme la restriction de π à T est bijective, il vient u−1 y −1 syu = s pour tout s ∈ S, et donc c := yu appartient à CG (S) = C. Donc y = cu−1 appartient à Y . Ceci montre que Y est fermé. L’assertion b) est démontrée. L’assertion c) en découle, par conjugaison des sous-groupes de Borel. En effet, si H est un sous-groupe de Borel de CG (S), il existe g ∈ CG (S) tel que H = g(B ∩ CG (S))g −1 = gBg −1 ∩ CG (S), 110 CHAPITRE 5. SOUS-GROUPES DE BOREL ET VARIÉTÉS DE DRAPEAUX et gBg −1 est un sous-groupe de Borel de G contenant gSg −1 = S. Le théorème est démontré. Corollaire 15.38. — Soient G connexe, T un tore maximal, C = CG (T ). a) C est connexe, nilpotent, et égal à NG (C)0 . b) Tout Borel contenant T contient aussi C. Démonstration. — a) découle du théorème et de la proposition 15.30. Voyons b). Soit B un Borel contenant T . D’après le théorème, B ∩ C est un Borel de C, et comme C est nilpotent connexe il vient B ∩ C = C, d’où C ⊆ B. 15.8. Normalisateur d’un sous-groupe de Borel. — Théorème 15.39 (Chevalley). — Soit G connexe. i) Pour tout Borel B, on a NG (B) = B. ii) Pour tout parabolique P , on a NG (P ) = P = P 0 . iii) Pour tout Borel B, on a NG (Bu ) = B. Démonstration. — Prouvons i) par récurrence sur dim G. Si dim G ≤ 2 alors G est résoluble, d’après 15.27, d’où B = G. Posons N = NG (B) et soit n ∈ N . On va montrer que n ∈ B. Soit T un tore maximal de B, alors nT n−1 en est un autre, donc il existe b ∈ B tel que bnT (bn)−1 = T . Donc, remplaçant n par bn, on peut supposer que n normalise T . Alors, ψ : T → T, t 7→ ntn−1 t−1 est un morphisme de groupes algébriques ; soit S = (Ker ψ)0 . Alors n appartient à CG (S), qui est un groupe connexe. Distinguons deux cas. a) S 6= {1}. Alors n normalise B ∩ CG (S), qui est un sous-groupe de Borel du groupe connexe CG (S). Donc, si CG (S) 6= G, il résulte de l’hypothèse de récurrence que n ∈ B ∩ CG (S), d’où n ∈ B. Sinon, si CG (S) = G, alors S est central et on peut passer au groupe quotient G = G/S, qui est connexe et de dimension < dim G. Alors B/S est un Borel de G, normalisé par n. Donc, par hypothèse de récurrence, n ∈ B/S, d’où n ∈ B. Ceci règle le premier cas. b) Si S = {1}, alors ψ est surjective (car son image est un sous-groupe fermé connexe de même dimension que T ). D’après le théorème des semi-invariants de Chevalley, N est le stabilisateur d’une droite kv dans une représentation V de G. Donc N agit sur kv via un caractère χ, qui est trivial sur Bu mais aussi sur T , puisque tout élément de T est un commutateur dans N (car ψ est surjective). Donc le morphisme φv : G → V , g 7→ gv se factorise à travers G/B. Comme G/B est propre et connexe, ceci entraîne que φv est constant, c.-à-d., v est fixé 16. GÉOMÉTRIE DE LA VARIÉTÉ DES DRAPEAUX 111 par G, d’où G = N . Mais alors B est normal dans G, d’où G = B d’après le corollaire 15.34. L’assertion i) est démontrée. Démontrons ii). Soit P un parabolique, contenant un Borel B. Alors B ⊆ P 0 , puisque B est connexe. Soit x ∈ NG (P ). Alors xBx−1 est un Borel de P 0 . Donc il existe p ∈ P 0 tel que xBx−1 = pBp−1 , d’où p−1 x ∈ NG (B) = B, et x ∈ pB ⊆ P 0 . Ceci montre que NG (P ) = P 0 , d’où ii). Démontrons iii). Posons U = Bu et N = NG (U ). D’abord, B normalise U , donc B est un Borel de N 0 . Alors, d’après le Théorème 15.33, tout élément unipotent de N 0 appartient à un conjugué sous N 0 de U . Or U est normal dans N , et est donc égal à l’ensemble des éléments unipotents de N 0 . On en déduit que N 0 /U est un groupe affine connexe formé d’éléments semi-simples, donc un tore, d’après le corollaire 15.28. Il en résulte N 0 est résoluble et connexe. Comme B ⊆ N 0 , il vient N 0 = B, et N ⊆ NG (B) = B (car N normalise N 0 ). Le théorème est démontré. Corollaire 15.40. — Soient G connexe, B un Borel, et P, Q deux paraboliques contenant B et conjugués dans G. Alors P = Q. Démonstration. — Si Q = x−1 P x, alors B et x−1 Bx sont deux sous-groupes de Borel de Q. Donc il existe q ∈ Q tel que q −1 Bq = x−1 Bx, d’où xq −1 ∈ NG (B) = B, et x ∈ Bq ⊆ Q. Alors P = xQx−1 = Q. 16. Géométrie de la variété des drapeaux 16.1. Radical et radical unipotent. — Définition et proposition 16.1. — Soit G un groupe algébrique affine. On pose : ¡T ¢0 a) R(G) = ; c’est le plus grand sous-groupe fermé connexe résoB∈B B luble normal de G, on l’appelle le radical de G. ¡T ¢0 b) On a R(G)u = ; c’est le plus grand sous-groupe fermé B∈B Bu connexe unipotent normal de G, on l’appelle le radical unipotent de G. On le note aussi Ru (G). Démonstration. — a) Il est clair que R(G) est un sous-groupe ¡T fermé¢connexe résoluble. De plus, tout automorphisme de G stabilise H := B∈B B et donc aussi R(G). A fortiori, R(G) est normal. Réciproquement, si S est un sousgroupe fermé connexe résoluble normal, il est contenu dans un sous-groupe de Borel et donc dans tous, d’où S ⊆ H, et S ⊆ R(G). b) Puisque R(G) est résoluble connexe, R(G)u est un sous-groupe fermé unipotent connexe. Il est normal, et en fait caractéristique, car tout automorphisme de G stabilise R(G) et donc R(G)u . Si U est un sous-groupe fermé connexe unipotent normal, il est contenu dans R(G), et donc dans R(G)u . 112 CHAPITRE 5. SOUS-GROUPES DE BOREL ET VARIÉTÉS DE DRAPEAUX Ceci prouve l’inclusion ⊇. Mais R(G)u , étant fermé connexe unipotent et normal, est contenu dans un Bu et donc dans tous, d’où l’inclusion ⊆. 16.2. Groupes réductifs et semi-simples. — Définition 16.2. — Soit G un groupe algébrique affine. On dit que G est réductif, resp semi-simple, si Ru (G) = {1}, resp. R(G) = {1}. φ Lemme 16.3. — Soit 1 → N → M → H → 1 une suite exacte de groupes algébriques. Si N, K sont unipotents, M l’est aussi. Démonstration. — Soit g ∈ M et soit g = gs gu sa décomposition de Jordan. Alors φ(gs )φ(gu ) est la décomposition de Jordan de φ(g). Comme ce dernier est unipotent, par hypothèse, on a φ(gs ) = 1, c.-à-d., gs ∈ Ker φ = N . Comme tout élément de N est unipotent, on obtient gs = 1. Ceci montre que M est unipotent. Proposition 16.4. — a) G/R(G) est semi-simple. b) G/Ru (G) est réductif. Démonstration. — a) Soient π : G → G/R(G) et H un sous-groupe fermé connexe résoluble normal de G/R(G). Alors π −1 (H) est un sous-groupe fermé normal, résoluble d’après le lemme 10.4, et connexe d’après le lemme 12.2.b). Donc π −1 (H) = R(G), i.e. H = {1}. En utilisant le lemme précédent, on démontre b) de façon analogue. 16.3. La variété des sous-groupes de Borel. — Définition 16.5. — Soient G connexe et B un Borel de G. Tout Borel de G est de la forme gBg −1 et, comme NG (B) = B, alors : gBg −1 = hBh−1 ⇔ h ∈ gB. Par conséquent, l’ensemble B = B(G) de tous les sous-groupes de Borel de G s’identifie à G/B. On munit ainsi B d’une structure de G-variété projective homogène. On l’appelle la variété des drapeaux de G, car pour G = GL(V ) elle s’identifie à la variété des drapeaux de V . Remarque 16.6. — 1) La structure de variété de B ne dépend pas, à isomorphisme près, du choix de B. En effet, si B0 = g0 Bg0−1 est un autre Borel, on a un diagramme commutatif Int(g0 ) G/B −−−−→ G/B0 gB7→gBg −1 y yhB0 7→hB0 h−1 B Int(g0 ) −−−−→ B 2) Observons que, pour B ∈ B et g ∈ G, on a g · B = gBg −1 . 16. GÉOMÉTRIE DE LA VARIÉTÉ DES DRAPEAUX 113 Lemme 16.7. — Si S est un sous-ensemble quelconque de G, on note BS = T s s∈S B l’ensemble des points fixes de S dans B ; c’est une sous-variété fermée. De plus, on a BS = {B Borel de G | B contient S}. Démonstration. — On a déjà vu que BS est fermée (éventuellement vide). De plus, s fixe B ⇔ s ∈ NG (B) = B, d’où la 2ème assertion. 16.4. Groupe de Weyl et points fixes de T dans B. — Définition et proposition 16.8. — Soient G connexe, T un tore maximal. On pose W = W (T ) = NG (T )/CG (T ). Alors W est un groupe fini, qui ne dépend que de G. On l’appelle le groupe de Weyl de G. Démonstration. — On a déjà vu que W (T ) est un groupe fini (théorème 8.16). Si T 0 est un autre tore maximal de G, il existe g ∈ G tel que T 0 = gT g −1 , et alors Int(g) induit un isomorphisme W (T ) ∼ = W (T 0 ). Théorème 16.9 (Points fixes de T dans B). — Soient G connexe, B la variété des drapeaux de G, et T un tore maximal. Alors W (T ) agit de façon simplement transitive sur BT . Par conséquent, |BT | = |W | < ∞. Démonstration. — Si n ∈ NG (T ) et B ∈ B T , alors n · B = nBn−1 contient nT n−1 = T , d’où n · B ∈ BT . Donc NG (T ) stabilise B T . D’autre part, si B est un Borel contenant T alors, d’après le théorème 15.37.b, il contient aussi CG (T ), et est donc un point fixe de CG (T ). Donc CG (T ) agit trivialement B T , et l’action de NG (T ) se factorise à travers W (T ). Montrons que l’action est transitive. Soient B et B 0 = gBg −1 dans B T . Alors T et g −1 T g sont deux tores maximaux de B, donc il existe b ∈ B tel que g −1 T g = b−1 T b. Alors gb−1 := n appartient à NG (T ), et g = nb, d’où B 0 = nBn−1 = n·B. Il reste à voir que le stabilisateur de B dans NG (T ) est égal à CG (T ). Si nBn−1 = B, alors n ∈ B ∩ NG (T ) = NB (T ). Or NB (T ) = CB (T ), d’après le théorème 12.14. Rappelons l’argument : si g ∈ NB (T ), alors, pour tout t ∈ T , on a (gtg −1 ) t−1 ∈ T ∩ D(B) = {1}, donc g centralise T . Soient G, G0 affines, π : G → G0 un morphisme surjectif, et B = B(G), B 0 = B(G0 ). D’après la proposition 15.24, pour tout B ∈ B, on a π(B) ∈ B 0 , et tout Borel de G0 est obtenu de la sorte. Donc π induit une application surjective B → B0 , encore notée π. De plus, si Ker π est contenu dans un Borel, il est contenu dans tous (car normal), et donc l’on a π −1 (π(B)) = B pour tout B ∈ B. Donc dans ce cas φ est une bijection. Proposition 16.10 (Groupe de Weyl d’un groupe quotient) Soient π : G → G0 comme plus haut, T un tore maximal de G, B ∈ BT et 0 T = π(T ), B 0 = π(B). 1) π induit un morphisme de groupes ϕ : WG (T ) → WG0 (T 0 ). 114 CHAPITRE 5. SOUS-GROUPES DE BOREL ET VARIÉTÉS DE DRAPEAUX 0 2) φ(BT ) = B0T , et l’on a un diagramme commutatif : ϕ WG (T ) −−−−→ WG0 (T 0 ) 0 0 0 w7→w·B y yw 7→w ·B π 0 BT −−−−→ B0T . Par conséquent, ϕ est surjectif. 3) Si Ker π est contenu dans un Borel, alors ϕ est un isomorphisme. Démonstration. — D’abord, T 0 est un tore maximal de G0 , d’après la proposition 15.24. Il est clair que π envoie normalisateur et centralisateur de T dans leur analogues pour T 0 , d’où 1). Voyons 2). Si B ∈ BT , alors π(B) contient 0 π(T ) = T 0 . Donc φ(BT ) ⊆ B 0T . La commutativité du diagramme est immé0 0 diate. Montrons que B0T = φ(BT ). Soit B 0 ∈ B 0T . D’après la proposition 15.24, à nouveau, il existe B0 ∈ B tel que π(B0 ) = B 0 . Alors T est un tore maximal de P := π −1 (B 0 ), donc est contenu dans un Borel B de P . Or B0 est un Borel de G contenu dans P , donc aussi un Borel de P . Alors B et B0 sont conjugués, donc B est aussi un Borel de G (∗). Alors, d’après la proposition 15.24, π(B) est un Borel de G0 . Comme π(B) ⊆ B 0 , il vient π(B) = B 0 . Ceci prouve 2). Enfin, 3) est immédiat. Remarque 16.11. — Dans la démonstration précédente, on a montré : si P est un parabolique de G et B un Borel de P , alors B est un Borel de G. 16.5. Action d’un tore dans P(V ) et conséquences pour B. — Lemme 16.12. — Soient M un Z-module, et M1 , . . . , Mn des sous-modules propres et tels que M/Mi soit sans torsion. Alors M 6= M1 ∪ · · · ∪ Mn . Démonstration. — Supposons M = M1 ∪ · · · ∪ S Mn . On peut supposer que S Mi 6⊆ j6=i Mj , pour tout i. Soit alors mi ∈ Mi \ j6=i Mj . Comme M/M1 est sans torsion, alors pour tout k, m1 + km2 ∈ / M1 ∪ M2 . Donc il existe k 0 > k 0 tels que m1 + km2 et m1 + k m2 appartiennent au même Mi , avec i ≥ 3, d’où (k 0 − k)m2 ∈ Mi . Comme M/Mi est sans torsion, il vient m2 ∈ Mi , contradiction. Définition 16.13 (Le couplage X(T ) × X ∨ (T ) → Z). — Soit T un tore. Un cocaractère de T est un morphisme de groupes algébriques Gm → T . On note X ∨ (T ) l’ensemble de ces cocaractères ; c’est un groupe abélien, la multiplication étant définie par (µµ0 )(z) = µ(z)µ0 (z). Soient χ ∈ X(T ) et µ ∈ X ∨ (T ). Alors χ ◦ µ est un morphisme de groupes algébriques Gm → Gm , donc il existe n ∈ Z tel que (χ ◦ µ)(z) = z n , ∀z ∈ k × . 16. GÉOMÉTRIE DE LA VARIÉTÉ DES DRAPEAUX 115 On pose n = hχ, µi. Ceci définit une application biadditive X(T )×X ∨ (T ) → Z. Proposition 16.14 (Dualité entre X(T ) et X ∨ (T )). — Soit T ∼ = (Gm )r un tore. ∨ Alors X(T ) et X (T ) sont des Z-modules libres de rang r, et le couplage X(T ) × X ∨ (T ) → Z est parfait, c.-à-d., il permet d’identifier X(T ) au dual de X ∨ (T ) et réciproquement. Démonstration. — Identifions T à {(z1 , . . . , zr ) | zi ∈ k × }. On a déjà vu qu’on a un isomorphisme de groupes ∼ Zr → X(T ), ν 7→ X ν . D’autre part, à tout ν ∈ Zr on associe le cocaractère µν : z 7→ (z ν1 , . . . , z νr ). On a µν+ν 0 = µν µν 0 . Si µ : Gm → T est un cocaractère, alors en composant µ avec les projections sur chaque facteur Gm , on voit que µ = µν pour un ν uniquement déterminé. Ceci montre que ν 7→ µν est un isomorphisme de groupes. Notons εi l’élément de Zr dont toutes les coordonnées sont nulles, sauf la i-ème qui vaut 1, et posons µi = µεi . Alors µi (z) = (1, . . . , z, . . . , 1), où z est à la i-ème place, et on voit facilement que (X1 , . . . , Xr ) et (µ1 , . . . , µr ) sont des bases de X(T ) et X ∨ (T ), duales l’une de l’autre. Ceci prouve la proposition. Soient T un tore, et V un T -module rationnel de dimension finie. Alors T agit morphiquement dans P(V ), cf. proposition 14.10. Lemme 16.15. — Il existe λ ∈ X ∨ (T ) tel que P(V )T = P(V )λ(Gm ) (∗). Plus précisément, il existe φ1 , . . . , φs ∈ X(T ) tels que (∗) ait lieu pour tout λ ∈ X ∨ (T ) vérifiant hφi , λi = 6 0, pour i = 1, . . . , s. Démonstration. — Soient χ1 , . . . , χr ∈ X(T ) les poids de T dans V , i.e. V = Vχ1 ⊕ · · · ⊕ Vχr . Pour i 6= j, chaque φi,j := χi − χj définit, via le couplage h , i, un élémentSnon-nul de HomZ (X ∨ (T ), Z). On déduit alors du lemme 16.12 que X ∨ (T ) 6= i6=j Ker(φi,j ). Donc il existe λ ∈ X ∨ (T ) tel que χi ◦ λ 6= χj ◦ λ, pour i 6= j. Alors, on voit sans peine qu’une droite de V est stable par λ(Gm ) ssi elle est contenue dans un Vχi , c.à.d. ssi elle est stable par T . Le lemme en découle. 116 CHAPITRE 5. SOUS-GROUPES DE BOREL ET VARIÉTÉS DE DRAPEAUX Lemme 16.16. — Soit v ∈ V \ {0} et soit [v] son image dans P(V ). Alors, [v] est un point fixe de Gm si, et seulement si, v est un vecteur propre de Gm . Si ce n’est pas le cas, écrivons X v= vi , r≤i≤s avec vi ∈ Vi et r < s. Dans ce cas, le morphisme σ : Gm → P(V ), t 7→ t · [v], s’étend en un morphisme σ e : P1 → P(V ), tel que σ e(0) = [vr ] et σ e(∞) = [vs ]. On a σ e(P1 ) = Gm [v] = Gm [v] ∪ [vr ] ∪ [vs ], et [vr ], [vs ] sont les seuls points fixes de Gm dans Gm [v]. Démonstration. — La première assertion est claire. Pour démontrer la seconde, soit {e1 , . . . , en } une base de V formée de vecteurs propres de Gm , où chaque ei est de poids mi et où Pn m1 ≤ m2 ≤ · · · ≤ mn . Ecrivons v = j=1 αj ej . Soit J = {j | αj 6= 0} et soient j1 = min J, j2 = max J. Posons r = mj1 et s = mj2 . Par hypothèse, r < s. Posons X X αj ej . αj ej , vs = vr = mj =s mj =r Rappelons que P1 = U ∪ U 0 , où k[U ] = k[t] et k[U 0 ] = k[t−1 ]. Posons X := Gm [v]. Pour tout t ∈ k × , on a X tmj −r αj ej . (1) σ(t) = t · [v] = vr + mj >r Ceci montre que σ se prolonge en un morphisme, noté f , de U vers P(V ), tel que f (0) = [vr ]. Alors f −1 (X) est un fermé de U contenant k × , donc égal à U . Par conséquent, [vr ] ∈ X. De même, pour tout t ∈ k × , posons g(t−1 ) = σ(t). On a X (2) g(t−1 ) = (t−1 )s−mj αj ej + vs . mj <s Comme précédemment, ceci entraîne que g se prolonge en un morphisme, encore noté g, de U 0 vers P(V ), tel que g(∞) = [vs ], d’où [vs ] ∈ X. Alors f et g sont des morphismes de U et U 0 vers P(V ), qui vérifient f (t) = g(t−1 ) sur U ∩ U 0 = Gm , donc induisent un morphisme σ e : P1 → P(V ), tel que σ e(0) = [vr ], σ e(∞) = [vs ]. Ce sont deux points fixes distincts, puisque vr et vs sont des vecteurs propres de Gm , de poids r < s. 16. GÉOMÉTRIE DE LA VARIÉTÉ DES DRAPEAUX 117 D’autre part, comme P1 est une variété complète, σ e(P1 ) est un fermé de P(V ). Il est de plus irréductible et de dimension 1. Il est donc égal à Gm [v]. Par conséquent, on obtient que Gm [v] = σ e(P1 ) = Gm [v] ∪ [vr ] ∪ [vs ]. Enfin, il est clair que l’orbite Gm [v] ne contient pas de point fixe de Gm . Le lemme est démontré. Lemme 16.17 (Sections hyperplanes). — Soient H un hyperplan de P(V ) et X une sous-variété fermée irréductible de P(V ), de dimension d ≥ 1, non contenue dans H. Alors, X ∩ H est non vide, et chacune de ses composantes irréductibles est de dimension d − 1. Démonstration. — Si on avait X ∩ H = ∅, alors X serait une sous-variété fermée de l’espace affine P(V ) \ H. Alors X serait complète, irréductible, et affine, donc réduite à un point. Cette contradiction montre que X ∩H 6= ∅. Pour l’assertion concernant la dimension, voir [Ku, Chap.V, Prop.3.9], ou [Die], §4.3, Cor.2 de la Prop.7, ou [Bo, Lemma 13.4]. Remarque 16.18. — Dans le lemme 16.12, l’hypothèse que M/Mi soit sans torsion est nécessaire. Considérer l’exemple où M = Z2 et M1 , resp. M3 , est engendré par 2e1 et e2 , resp. e1 et 2e2 , tandis que M2 = {(x, y) | x + y ∈ 2Z}. Proposition 16.19. — Soient T un tore, V un T -module rationnel de dimension finie, et X une sous-variété fermée irréductible T -stable de P(V ). Alors #X T ≥ dim(X) + 1. Démonstration. — D’après le lemme 16.15, il existe λ ∈ X ∨ (T ) tel que P(V )λ(Gm ) = P(V )T . Remplaçant T par λ(Gm ), on peut donc se ramener au cas où T = Gm . Soient d = dim(X) et n = dim V , et soit {e1 , . . . , en } une base de V formée de vecteurs propres de Gm , c.-à-d., où chaque ei est de poids mi . Quitte à renuméroter, on peut supposer que m1 ≤ m2 ≤ · · · ≤ mn . Soient W l’hyperplan de V engendré par e2 , . . . , en , et H = P(W ) ; alors W et H sont T -stables. On procède par récurrence sur d + n. On peut supposer d ≥ 1 et X 6⊆ H. Alors, X ∩ H est T -stable et, d’après le lemme 16.17, toutes ses composantes sont de dimension d − 1. Comme Gm est connexe, il stabilise chaque composante de X ∩ H. Donc, par hypothèse de récurrence, Gm possède au moins d points fixes dans X ∩ H. De plus, comme X 6⊆ H, alors X contient 118 CHAPITRE 5. SOUS-GROUPES DE BOREL ET VARIÉTÉS DE DRAPEAUX un élément de la forme x = e1 + X αi ei . i≥2 D’après la démonstration du lemme 16.16, on obtient que Gm x contient la limite en t = 0 de t · x, c.-à-d., l’élément " # X e1 + αi ei . mi =m1 C’est un élément de X T \ H. Il en résulte que #X T ≥ 1 + d. La proposition est démontrée. Corollaire 16.20. — Soient G connexe, et T un tore maximal. a) Pour tout parabolique P , on a #(G/P )T ≥ 1 + dim G/P . b) W = {1} ⇔ G est résoluble. c) #W = 2 ⇔ dim B = 1 ; dans ce cas B = P1 . d) G est engendré par les sous-groupes de Borel contenant T . Démonstration. — D’après le théorème de Chevalley 14.11, G/P est une sousvariété fermée d’un P(V ), où V est un G-module rationnel de dimension finie. L’assertion a) découle donc de la proposition précédente. Voyons b). Si G est résoluble, alors NG (T ) = CG (T ) d’après le théorème 12.14.4), et donc W = {1}. Réciproquement, si W = {1} et si B est un sousgroupe de Borel, la proposition 16.19 entraîne que G/B est un point, d’où G = B. c) De même, si #W = 2 alors dim B = 1. Réciproquement, supposons dim B = 1. D’après le lemme 16.15, il existe λ ∈ X ∨ (T ) tel que B T = B λ(Gm ) . Alors B T 6= B (car B T est fini), et pour x ∈ B \ BT on a (∗) λ(Gm )x = B, puisque dim B = 1. D’une part, ceci implique #BT = 2, d’après le lemme 16.16 et la proposition 16.19. D’autre part, (∗) entraîne que le morphisme φx : Gm → B, z 7→ z · x est dominant, donc induit une inclusion k(B) ⊆ k(Gm ) = k(t), où t désigne une indéterminée. D’après le théorème de Luröth, on a donc k(B) ∼ = k(t), c.-à-d., B est une courbe lisse complète rationnelle. D’après la classification des courbes, ceci entraîne que B ∼ = P1 . Prouvons d) par récurrence sur d = dim G. C’est vrai si d ≤ 2, car dans ce cas G est résoluble, d’après le corollaire 15.27. Soit P le sous-groupe engendré par les sous-groupes de Borel contenant T . Il est fermé, d’après la proposition 10.1 ; c’est donc un sous-groupe parabolique. Si P 6= G, alors dim G/P ≥ 1 17. SOUS-GROUPES DE CARTAN D’UN GROUPE RÉDUCTIF, D’APRÈS LUNA 119 et donc T a au moins deux points fixes dans G/P . Donc T est contenu dans un conjugué Q = gP g −1 , distinct de P . Par hypothèse de récurrence, Q est engendré par ses sous-groupes de Borel qui contiennent T . Mais, d’après la remarque 16.11 ceux-ci sont des sous-groupes de Borel de G contenant T , et sont donc contenus dans P , d’où Q ⊆ P , contradiction ! Le corollaire est démontré. 17. Sous-groupes de Cartan d’un groupe réductif, d’après Luna 17.1. Théorème de Kostant-Rosenlicht. — Le théorème ci-dessous aurait pu être énoncé dans le chapitre sur les groupes unipotents. Théorème 17.1 (Kostant-Rosenlicht). — Soit U un groupe unipotent et X une G-variété affine. Alors toute orbite de U dans X est fermée. Démonstration. — Soit O une orbite de U ; elle est ouverte dans son adhérence Y . Soit I l’idéal dans k[Y ] du fermé U -stable Z = Y \ O. Alors I est un U module rationnel donc, d’après le théorème de Lie-Kolchin (cas unipotent), I contient un élément f ∈ k[Y ]U non nul. Mais comme O est dense dans Y , alors k[Y ]U = k, et donc I contient un scalaire non nul, d’où I = k[Y ] et Z = ∅. Ceci prouve que O est fermée. Remarque 17.2. — Le théorème s’étend au cas où X est quasi-affine, c.-à-d., un ouvert d’une variété affine ; voir [Bo, Prop. 4.10]. 17.2. Sous-groupes de Cartan et radical unipotent. — Soient G un groupe réductif connexe et T un tore maximal de G. On désigne par I(T ) la composante connexe de l’intersection des sous-groupes de Borel de G contenant T , c.-à-d., ³ \ ´0 I(T ) = B . B∈BT C’est un groupe résoluble connexe. Par conséquent, l’ensemble I(T )u de ses éléments unipotents est un sous-groupe fermé connexe, égal au radical unipotent Ru (I(T )). De plus, on voit facilement que ³ \ ´0 I(T )u = Bu . B∈BT D’autre part, T est un tore maximal de I(T ), et donc I(T ) est le produit semi-direct T I(T )u , d’après le théorème 12.14. Le but de cette section est de démontrer le théorème ci-dessous. Théorème 17.3 (Chevalley). — On a I(T )u = {1} et donc I(T ) = T . 120 CHAPITRE 5. SOUS-GROUPES DE BOREL ET VARIÉTÉS DE DRAPEAUX Corollaire 17.4. — Soit G réductif connexe. a) Si T est un tore maximal, CG (T ) = T . b) Z(G) est l’intersection des tores maximaux. b) Si S est un tore de G, alors CG (S) est réductif et connexe. Démonstration du corollaire. — Soit T un tore maximal. D’après le corollaire 15.38, CG (T ) est contenu dans I(T ), d’où l’assertion a). Il en résulte que Z(G) est contenu dans T et donc dans l’intersection de tous les tores maximaux. Or, cette intersection est un sous-groupe fermé diagonalisable normal, donc contenu dans Z(G) d’après le théorème de rigidité 8.16. Ceci prouve b). Voyons c). On a déjà vu, dans le 15.37.a), que CG (S) est connexe. D’autre part, comme U := Ru (CG (S)) est le radical unipotent de l’intersection de tous les sous-groupes de Borel de CG (S), on déduit du théorème 15.37.b) que U est contenu dans I(T )u , donc trivial. le corollaire est démontré. Démontrons maintenant le théorème de Chevalley. Nous suivrons la démonstration donnée récemment par Luna [Lu99]. On pose J := I(T )u et X = B. Rappelons que, d’après le théorème 16.9, le groupe de Weyl W agit de façon simplement transitive sur X T ; en particulier, X T est fini. 17.3. La démonstration de Luna. — Définition 17.5. — Pour tout p ∈ X T , soit X(p) := {x ∈ X | p ∈ T x}. Théorème 17.6 (Luna). — Les X(p), pour p ∈ X T , sont des ouverts affines de X, stables par J. Démonstration. — Soit B un sous-groupe de Borel de G. D’après le théorème de Chevalley 14.11, il existe un G-module rationnel V de dimension finie, et une droite B-stable D de V , tels que StabG (D) = B, StabLie(G) (D) = Lie(B). On peut supposer V égal au sous-espace engendré par la G-orbite de D, quitte à remplacer V par ledit sous-espace (ceci ne change pas les stabilisateurs cidessus). Alors, sous cette hypothèse, X = G/B est une sous-variété fermée G-stable de P(V ) qui n’est contenue dans aucun sous-espace propre P(W ) avec W 6= V . D’après le lemme 16.15, il existe λ ∈ X ∨ (T ) tel que les points fixes de λ(Gm ) dans P(V ) et dans X soient les mêmes que ceux de T . Chaque p ∈ X T est l’image dans P(V ) d’un vecteur non-nul v(p) qui est vecteur propre de λ(Gm ) ; soit mλ (p) ∈ Z le poids de vp pour l’action de λ(Gm ). Observons que les v(p) sont dans la même orbite sous NG (T ), donc a fortiori sous G. Par conséquent, pour tout p ∈ X T , l’orbite G · v(p) engendre V . 17. SOUS-GROUPES DE CARTAN D’UN GROUPE RÉDUCTIF, D’APRÈS LUNA 121 Choisissons p0 ∈ X T tel que mλ (p0 ) soit minimal et notons e0 le vecteur associé. Il fait partie d’une base (e0 , e1 , . . . , en ) de V formée de vecteurs propres de Gm , où chaque ei est de poids mi , où m0 = mλ (p0 ) et où l’on peut supposer m1 ≤ · · · ≤ mn . Soit (e∗0 , . . . , e∗n ) la base duale de V ∗ . Lemme 17.7. — On a m0 < m1 . Démonstration. — Comme X n’est contenu dans aucun sous-espace W 6= V , il existe v ∈ V tel que e∗i (v) 6= 0 pour i = 0, . . . , n et [v] ∈ X. Alors X contient σv (0), la limite en 0 de λ(z) · [v], qui est un point fixe de λ(Gm ) et donc de T dans X. Si on avait m1 < m0 , alors σv (0) serait de poids m1 < m0 , contredisant la minimalité de m0 . Donc m1 ≥ m0 . Supposons m1 = m0 . L’ensemble Z := {z ∈ k | ∃v ∈ V tel que e∗0 (v) = 1, e∗1 (v) = z et [v] ∈ X} est infini, car sinon X serait contenu dans une réunion finie d’hyperplans d’équations e∗0 = 0 ou e∗1 = zi e∗0 , donc dans l’un d’eux (puisque X est irréductible), une contradiction. Mais tout z ∈ Z donne lieu à un point fixe pz de λ(Gm ) dans X vérifiant e∗0 (pz ) 6= 0 et e∗1 (pz ) = ze∗0 (pz ). En particulier, les pz sont deux à deux distincts. Ceci contredit le fait que X λ(Gm ) = X T est fini. Cette contradiction montre que m1 > m0 . Le lemme est démontré. Proposition 17.8. — Posons X(λ, p0 ) = {x ∈ X | e∗0 (x) 6= 0}. C’est un ouvert affine, T -stable, de X. De plus, on a X(λ, p0 ) = X(p0 ), et X(λ, p0 ) est stable par J. Démonstration. — Il est clair que U := X(λ, p0 ) est un ouvert affine, et il est T -stable car e∗0 est un vecteur de poids pour T . Démontrons la deuxième assertion. Soit x ∈ X(λ, p0 ). Comme m0 < mi pour tout i ≥ 1, alors λ(Gm )x contient p0 = [e0 ] dans son adhérence (comme limite en 0). Ceci montre que X(λ, p0 ) ⊆ X(p0 ). D’autre part, soit x ∈ X(p0 ). Alors p0 ∈ T x et donc l’orbite T x rencontre l’ouvert X(λ, p0 ). Comme ce dernier est T -stable, on obtient qu’il contient x. Ceci montre que X(λ, p0 ) = X(p0 ). Montrons que X(λ, p0 ) est stable par J. Désignons par e⊥ 0 l’hyperplan de ∗ V orthogonal à e0 . Le groupe G agit rationnellement dans V ∗ et P(V ∗ ). 122 CHAPITRE 5. SOUS-GROUPES DE BOREL ET VARIÉTÉS DE DRAPEAUX Lemme 17.9. — 1) Toute orbite de G dans P(V ∗ ) rencontre l’ouvert P(V ∗ ) \ P(e⊥ 0 ). 2) Par conséquent, l’orbite G · [e0 ] est fermée dans P(V ∗ ). Démonstration. — Soit φ ∈ V ∗ \ {0}. Si on avait Gφ ⊆ e⊥ 0 alors φ serait orthogonal à G · e0 , qui engendre V , et donc on aurait φ = 0, contradiction. Ceci prouve la première assertion. Montrons la seconde. Chaque e∗i est de poids −mi pour λ(Gm ), et comme −mn ≤ · · · ≤ −m1 < −m0 , alors [e∗0 ] appartient à λ(Gm )x, pour tout x ∈ P(V ∗ ) \ P(e⊥ 0 ), et donc à l’adhérence de toute G-orbite dans P(V ∗ ), d’après le point 1). Ceci montre que G·[e0 ] est une orbite de dimension minimale, donc fermée. Le lemme est démontré. Revenons à la démonstration de la proposition 17.8 et montrons que X(λ, p0 ) est stable par J. Notons P le stabilisateur dans G de [e∗0 ]. Puisque l’orbite G · [e∗0 ] est fermée, donc complète, P est un sous-groupe parabolique de G. D’autre part, e∗0 est vecteur propre de T , donc P contient T . On en déduit que P contient un sous-groupe de Borel de G contenant T . Par conséquent, J est contenu dans P donc stabilise la droite [e∗0 ] et donc l’ouvert X(λ, p0 ) = {x ∈ X | e∗0 (x) 6= 0}. (En fait, comme J est unipotent, il fixe non seulement la droite [e∗0 ] mais aussi le vecteur e∗0 ). La proposition est démontrée. On peut maintenant achever la preuve du théorème 17.6. On voit de voir que X(p0 ) = X(λ, p0 ) est un ouvert affine de X, stable par T et par J. Soit p ∈ X T arbitraire. Il existe n ∈ NG (T ) tel que p = n · p0 . Alors X(p) égale n · X(p0 ) donc est un ouvert affine de X stable par T et par nJn−1 . Or, NG (T ) permute les sous-groupes de Borel contenant T et donc nJn−1 = J. Ceci termine la démonstration du théorème 17.6. Proposition 17.10 (Luna). — J agit trivialement sur X = G/B. Démonstration. — Comme T est résoluble connexe et X complète, les seules orbites fermées de T dans X sont les points fixes, et donc les X(p), pour p ∈ X T recouvrent X. Soit x ∈ X arbitraire. Comme J est résoluble connexe, Jx contient un point y fixé par C. Soit p ∈ X T tel que y ∈ X(p). Alors X \ X(p) est un fermé stable par J ; il ne peut rencontrer Jx car sinon il contiendrait Jx et son adhérence, donc y, ce qui n’est pas le cas. Donc on a Jx ⊆ X(p). 17. SOUS-GROUPES DE CARTAN D’UN GROUPE RÉDUCTIF, D’APRÈS LUNA 123 Comme J est unipotent et X(p) affine, l’orbite Jx est fermée dans X(p), d’après le théorème de Kostant-Rosenlicht 17.1. Comme y ∈ X(p) ∩ Jx, on obtient que y ∈ Jx, d’où Jx = Jy = y, puisque y est un point fixe de J ! Ceci montre que x = y est fixé par J, et donc que J agit trivialement sur X. La proposition est démontrée. Corollaire 17.11 (Théorème de Chevalley). — On a J = {1}, c.-à-d., I(T ) = T. Démonstration. — Comme J agit trivialement sur X = B et est connexe et unipotent, on obtient que ³ \ ´0 J⊆ Bu = Ru (G). B∈B Comme Ru (G) = {1}, puisque G est supposé réductif, on obtient J = {1}. Ceci prouve le corollaire, et donc le théorème 17.3. Remarque 17.12. — L’hypothèse que G soit réductif n’est intervenue que dans l’étape finale ci-dessus. Pour G un groupe linéaire connexe quelconque et T un tore maximal de G, on peut définir J comme précédemment. Il est alors clair que Ru (G) ⊆ J, et la démonstration précédente montre alors que J = Ru (G). TABLE DES MATIÈRES 1. Groupes algébriques affines et algèbres de Hopf . . . . . . . . . . . . . . . 1 1. Groupes algébriques affines et représentations . . . . . . . . . . . . . . . . . . . . . . 1 2. Représentations des groupes algébriques affines . . . . . . . . . . . . . . . . . . . . . 7 3. Action d’un groupe algébrique sur une variété . . . . . . . . . . . . . . . . . . . . . . 13 4. Premiers résultats sur les groupes linéaires : composante neutre, théorème de l’image fermée et lemme de l’orbite fermée . . . . . . . . . . . 15 2. Algèbres de Lie et différentielles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23 5. Espaces tangents et différentielles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23 6. Algèbre de Lie d’un groupe algébrique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30 3. Décomposition de Jordan, groupes diagonalisables, unipotents, résolubles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7. Décomposition de Jordan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8. Caractères et groupes diagonalisables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9. Le couplage X(T ) × X ∨ (T ) → Z . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10. Résolubilité et nilpotence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11. Théorèmes de Lie-Kolchin . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12. Structure des groupes résolubles connexes . . . . . . . . . . . . . . . . . . . . . . . . . 41 41 47 53 55 58 61 4. Différentielles, lissité, séparabilité, quotients G/H . . . . . . . . . . . . . 69 13. Différentielles, lissité et séparabilité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69 14. Quotients G/H . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89 5. Sous-groupes de Borel et variétés de drapeaux . . . . . . . . . . . . . . . . 99 15. Théorème du point fixe et sous-groupes de Borel . . . . . . . . . . . . . . . . . . 99 16. Géométrie de la variété des drapeaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111 17. Sous-groupes de Cartan d’un groupe réductif, d’après Luna . . . . . . . 119 ii TABLE DES MATIÈRES Bibliographie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . iii BIBLIOGRAPHIE [Abe] E. Abe, Hopf algebras, Cambridge Univ. Press, 1977. [AM] M. Atiyah, I. G. Macdonald, Commutative algebra, Addison Wesley, 1969. [Bo] A. Borel, Linear algebraic groups, Second enlarged edition, Springer Verlag, 1991. [BA] N. Bourbaki, Algèbre, Chapitres 4 à 7, Masson, 1981. [Die] J. Dieudonné, Cours de géométrie algébrique, tome 2, P.U.F., 1974. [Dix] J. Dixmier, Algèbres enveloppantes, Gauthier-Villars, 1974. [Do88] D. Z. Doković, An elementary proof of the structure theorem for connected solvable affine algebraic groups, Enseign. Math. (2) 34 (1988), 269273. [Eis] D. Eisenbud, Commutative algebra with a view towards algebraic geometry, Springer, 1995. [Ho] G. P. Hochschild, Basic theory of algebriac groups and Lie algebras, Springer-Verlag, 1981. [Hu1] J. E. Humphreys, Introduction to Lie algebras and representation theory, Springer-Verlag, 1972, third printing, revised, 1980. [Hu2] J. E. Humphreys, Linear algebraic groups, Springer-Verlag, 1975, corrected 2nd printing 1981. [Iit] S. Iitaka, Algebraic geometry, Springer Verlag, 1982. [Jac] N. Jacobson, Basic Algebra II, W.H. Freeman & Co, 1980. iv BIBLIOGRAPHIE [Jan] J. C. Jantzen, Representation of algebraic groups, Academic Press, 1987, second edition, Amer. Math. Soc., 2003. [Ke] G. R. Kempf, Algebraic varieties, Cambridge Univ. Press, 1993. [Ku] E. Kunz, Introduction to commutative algebra and algebraic geometry, Birkäuser, 1985. [KSS] H. Kraft, P. Slodowy, T. A. Springer (Ed.), Algebraische Transformationsgruppen und Invariantentheorie - Algebraic Transformation Groupes and Invariant Theory, Birkäuser, 1989. [Laf] J.-P. Lafon, Algèbre commutative (Langages géométrique et algébrique), Hermann, 1977. [Las] Y. Laszlo, Introduction à la géométrie algébrique, cours de M2 (20042006), disponible à l’adresse www.math.polytechnique.fr/elaszlo [Lu99] Retour sur un théorème de Chevalley, Enseign. Math. (2) 45 (1999), 317-320. [Ma1] H. Matsumura, Commutative algebra (2nd edition), The Benjamin Cummings publishing company, 1980. [Ma2] H. Matsumura, Commutative ring theory, Cambridge Univ. Press, 1986, paperback edition with corrections, 1989. [Po] P. Polo, Algèbre et théorie de Galois, cours de M1 à l’Université Paris 6, disponible à l’adresse www.math.jussieu.fr/epolo [Sp] T. A. Springer, Linear algebraic groups, Birkäuser, 1981, 2nd edition 1998.