Cohomologie des super alg`ebres de Lie et cône

Caroline Gruson
Cohomologie des super alg`ebres de Lie et cˆone
autocommutant
Habilitation `a diriger les recherches de l’Universit´e Paris 7
Sp´ecialit´e: Math´ematiques
Pr´esent´ee le 22 novembre 1999, devant le jury compos´e de:
Pierre Vogel (Pr´esident)
Michel Brion (Rapporteur)
Michel Duflo
Johannes Huebschmann
Bernhard Keller
Thierry Levasseur
Marc Rosso

Remerciements
En premier lieu, j’exprime ma tr`es grande reconnaissance envers Michel Duflo
pour son enthousiasme scientifique et l’int´erˆet qu’il a toujours port´e `a mes travaux
ainsi que pour les innombrables conversations qui m’ont encourag´ee `a prendre des ini-
tiatives (entre autres la participation `a l’organisation du s´eminaire). Merci, Michel,
pour la qualit´e de ton attention.
Michel Brion et Vera Serganova ont bien voulu ´ecrire les rapports pour cette
habilitation et je les en remercie vivement. De plus, j’ai eu `a de nombreuses reprises
des discussions constructives avec Michel Brion, sa rapidit´e d’esprit et sa curiosit´e
scientifique m’ont beaucoup stimul´ee.
Je souhaite exprimer ma gratitude `a Thierry Levasseur, interlocuteur attentif et
lecteur incomparable.
Michel Brion, Michel Duflo, Johannes Huebschmann, Bernhard Keller, Thierry
Levasseur, Marc Rosso et Pierre Vogel font aujourd’hui partie du jury et je leur en
suis tr`es reconnaissante.
Je remercie ´egalement Pascale Harinck pour notre collaboration de cinq ans
autour du s´eminaire.
Un grand merci `a l’ex-ura 748, actuel projet de th´eorie des groupes de l’institut
de math´ematiques de Jussieu, qui m’a accueillie avec une gentillesse sans ´egale,
en particulier Alberto Arabia, Corinne Blondel, Bernhard Keller qui ont souvent
travaill´e avec moi et Monique Douchez qui m’a rendu beaucoup de services.
De mani`ere compl´ementaire, je suis tr`es reconnaissante `a l’ufr de math´ematiques
de Lille de m’avoir laiss´ee rester dans mon laboratoire d’origine tant que je le con-
sid´erais comme n´ecessaire. Parmi les lillois que je veux particuli`erement remercier,
je cite Jean D’Almeida et Robert Gergondey, ainsi qu’Elie Compoint, Anne Duval
et Frank Loray pour un groupe de travail confidentiel tr`es r´eussi.
Au diable sa modestie! Cette fois-ci je le dis. Merci beaucoup `a Laurent Gruson:
je lui dois mon goˆut pour les math´ematiques et sa mani`ere de r´epondre gentiment
`a toutes les questions, aussi stupides soient-elles, sans jamais s’´etonner, m’ont ´evit´e
mille fois de tout abandonner. Sa clart´e d’esprit me remplit d’admiration.
Merci, enfin, `a tous ceux qui, par leur pr´esence et leur sourire, m’ont rendu la vie
plus facile et plus belle, entre autres Claire Bornais, Christel Couet, Fr´ed´eric Han,
Franck Melliez et Jean-Fran¸cois Robinet.
Je d´edie ce travail `a ma m`ere, Brigitte Niaudet.
1

Table des mati`eres
R´esum´e des travaux 3
0.1 G´en´eralisation au cas Z/2Z-gradu´e d’un th´eor`eme de Cartier . . . . . 10
0.2 Super alg`ebres `a involution et super groupes complexes . . . . . . . . 15
0.2.1 Involutions des super alg`ebres semi-simples complexes . . . . . 15
0.2.2 Groupes d’automorphismes des alg`ebres semi-simples `a invo-
lution ............................... 19
0.3 Formes r´eelles des groupes d’automorphisme des alg`ebres semi-simples
complexes`ainvolution .......................... 22
0.4 Formes r´eelles des groupes simples complexes classiques. . . . . . . . 24
0.4.1 Super groupe de Brauer de R([10])............... 24
0.4.2 Classification des involutions des super alg`ebres simples sur R25
0.4.3 Groupes d’automorphismes des alg`ebres semi-simples r´eelles `a
involution.............................. 27
1 Sur les relations de Plucker dans le cas d’une super alg`ebre de Lie
basique classique complexe 30
1.1 Le complexe de Koszul d’une super alg`ebre de Lie `a valeurs dans un
module et la suite spectrale qui en r´esulte . . . . . . . . . . . . . . . 55
1.2 Vari´et´e autocommutante . . . . . . . . . . . . . . . . . . . . . . . . . 56
1.3 Complexe de Koszul associ´e aux ´equations [y, y]=0.......... 57
1.4 Finitude de l’homologie . . . . . . . . . . . . . . . . . . . . . . . . . . 61
1.5 Application `a certaines super alg`ebres de Lie simples `a partie paire
r´eductive.................................. 62
1.5.1 Anneaux d’invariants . . . . . . . . . . . . . . . . . . . . . . . 63
1.5.2 Vari´et´es autocommutantes . . . . . . . . . . . . . . . . . . . . 66
1.5.3 Cohomologie de certaines super alg`ebres de Lie simples `a valeurs
dans le module trivial . . . . . . . . . . . . . . . . . . . . . . 66
1.6 Le cas de q(n). .............................. 73
1.6.1 Notations et description. . . . . . . . . . . . . . . . . . . . . . 73
1.6.2 Expression invariante du crochet impair. . . . . . . . . . . . . 74
1.6.3 G´en´eralit´es sur la cohomologie des super alg`ebres de Lie . . . 76
1.6.4 Dimension de la cohomologie de q(n)............... 78
1.7 Le cas de p(n). .............................. 81
2

1.7.1 Notations et description . . . . . . . . . . . . . . . . . . . . . 81
1.7.2 Anneau de cohomologie de p(n).................. 82
1.8 Le cas de psl(n, n). ............................ 83
1.9 Additif `a [Gr] ............................... 83
1.10 Sch´ema de d´emonstration . . . . . . . . . . . . . . . . . . . . . . . . 87
1.11 Le cas orthosymplectique . . . . . . . . . . . . . . . . . . . . . . . . . 89
1.11.1 D´esingularisation de Ared pour osp(2p+ 1,2n)......... 89
1.11.2 Le cas de osp(2n+ 1,2n)..................... 90
1.11.3 Cas de osp(2p+ 1,2n) ...................... 94
1.11.4 Cas de osp(2p, 2n) ........................ 95
1.12 Le cas de gl(m, n)............................. 95
1.12.1 D´esingularisation du cˆone autocommutant . . . . . . . . . . . 95
1.12.2 Anneau du cˆone autocommutant . . . . . . . . . . . . . . . . 96
1.13 Les familles exceptionnelles et ´etranges . . . . . . . . . . . . . . . . . 101
1.13.1 Les super alg`ebres de Lie exceptionnelles . . . . . . . . . . . . 101
1.13.2 La famille P(n)..........................101
1.13.3 La famille Q(n)..........................102
1.14 Description du bloc atypique . . . . . . . . . . . . . . . . . . . . . . . 105
1.15 Cohomologie de osp(3,2) `a valeurs dans un module de dimension finie.115
1.15.1 Modulessimples..........................116
1.15.2 Modules ind´ecomposables . . . . . . . . . . . . . . . . . . . . 117
3

R´esum´e des travaux
L’ensemble des travaux pr´esent´es dans ce dossier porte sur les super groupes de
Lie et les super alg`ebres de Lie complexes de dimension finie. Les super alg`ebres de
Lie simples complexes ont ´et´e classifi´ees par Victor Kac dans [Ka1]. Parmi les super
alg`ebres de Lie simples, les seules qui sont ´etudi´ees ici sont `a partie paire r´eductive
et de dimension finie. Contrairement `a ce qui se passe dans le cas classique, les
repr´esentations de dimension finie d’une super alg`ebre de Lie simple ne sont pas
compl`etement r´eductibles et de nombreuses questions restent pos´ees `a leur sujet.
La description des modules ind´ecomposables et leur cohomologie n’est toujours pas
connue.
Super groupes de Lie vraiment classiques et alg`ebres `a involution
Le point de d´epart de [1] est un article d’Andr´e Weil, [We]. R´esumons cet ar-
ticle. Soit Kun corps de caract´eristique z´ero. Soit AKune alg`ebre semi-simple
associative sur K, soit iKun antiautomorphisme de AKqui est involutif (on dit
que (AK, iK) est une alg`ebre `a involution sur K). Notons GKla composante neu-
tre du groupe d’automorphismes de (Ak, iK). Weil classifie les couples possibles
(AC, iC) et d´emontre que les groupes GCainsi obtenus sont les groupes classiques,
PGL(n, C), PSO(n, C), PSp(n, C) et leurs produits. Il constate de plus que si Kest
alg´ebriquement clos, dans chaque cas sauf PSO(8, K), le groupe d’automorphismes
de GKest exactement le groupe d’automorphismes de (AK, iK), l’exception de
PSO(8, K) provient de l’automorphisme d’ordre 3 du diagramme de Dynkin D4.
Lorsque Kest un corps quelconque de cloture alg´ebrique K, la m´ethode de descente
permet alors de montrer que toute K-forme de GKest la composante neutre des K-
automorphismes d’une K-forme de (AK, iK) uniquement d´etermin´ee, `a l’exception
de PSO(8).
La premi`ere partie de [1] g´en´eralise au cas Z/2Z-gradu´e le th´eor`eme de Cartier
qui assure que les sch´emas en groupes sont lisses en caract´eristique z´ero ([Ca])
Th´eor`eme 0.1 - Soit (G, OG)un super groupe de Lie analytique r´eel ou complexe,
soit Iun id´eal coh´erent de OGtel que pour toute alg`ebre proche P,IPd´efinisse un
sous-groupe ferm´e de GP. Alors il existe un sous super groupe de Lie (H, OH)de
(G, OG)tel que Isoit l’id´eal des fonctions nulles sur H.
Ce r´esultat permet d’assurer que les objets obtenus comme groupes d’automorphismes
d’un super espace vectoriel muni d’un tenseur sont bien des super groupes de Lie.
La seconde partie classifie les super alg`ebres `a involution sur Cau moyen du
groupe de Brauer Z/2Z-gradu´e et d’une adaptation du th´eor`eme de Skolem-Noether.
Les super groupes qu’on obtient ainsi sont PGL(n, m, C), PSOSp(m, 2n, C), PP(n, C),
PQ(n, C) et leurs produits (avec les notations de Kac dans [Ka1]). Ceci d´efinit
une notion de super alg`ebre de Lie “vraiment classique”, par opposition aux super
alg`ebres de Lie basiques classiques de Kac, sl(m, n, C), osp(m, 2n, C), G(3), F(4)
4