Université Claude Bernard–Lyon I Agrégation de Mathématiques : Algèbre & géométrie Année 2006–2007 Sous-espaces stables par un endomorphisme En guise d’introduction L’existence de supplémentaires dans un espace vectoriel est un petit miracle (qui résulte du théorème de la base incomplète). En effet, si R est un anneau quelconque, fût-il aussi commutatif, unitaire, intègre et principal que Z ou K[X], si M est un R-module et N un sous-module, il est très rare qu’il existe un sous-module N 0 tel que M ' N ⊕ N 0 . Prendre, par exemple, R = Z, M = Z et N = 2Z. Si on se consacre désormais au cas R = K[X], polynômes en une indéterminée X sur un corps K, on sait que la donnée d’un R-module est équivalente à la donnée d’un espace vectoriel sur K et d’un endomorphisme. En effet, si on se donne un K[X]-module M , il est clair que c’est un K-espace vectoriel (K ⊂ K[X] !), et on a un endomorphisme naturel u : M → M , v 7→ X.v. Inversement, si u est un endomorphisme d’un espace vectoriel M , on définit une structure de K[X]-module sur M en posant, pour f ∈ K[X] et v ∈ M : f.v = f (u)(v). Un K[X]-module est donc déterminé par un couple (M, u). Un morphisme de K[X]-modules entre (M, u) et (M 0 , u0 ), c’est une application linéaire ϕ : M → M 0 telle que u0 ◦ ϕ = ϕ ◦ u. Un endomorphisme du K[X]-module (M, u), c’est une application linéaire ϕ : M → M qui commute à u. Dans ce vocabulaire, un sous-espace stable par u est un sous-K[X]-module. Si on revient au problème de supplémentaire, on voit que l’absence d’un sous-K[X]-module supplémentaire se traduit par l’absence, en général, d’un sous-espace supplémentaire stable par l’endomorphisme. Tout ça pour dire que “la théorie des sous-espaces stables” est plus compliquée que “la théorie des sous-espaces”, parce qu’en fait, on est passé du corps K à un anneau K[X] qui n’est pas un corps. D’un tout autre point de vue, en dimension infinie, on peut citer le problème ouvert dit “du sous-espace invariant” : étant donné un opérateur dans un espace de Banach, existe-t-il toujours un sous-espace fermé propre stable par cet opérateur. Confidence d’un membre du jury : dans cette leçon, si vous parlez d’autre chose que de sousespaces propres, quoi que ce soit, vous partez sur de bonnes bases. A ne pas rater • rôle et intérêt de la commutation de deux endomorphismes pour ces problèmes ; • sous-espaces caractéristiques, en particulier : – un sous-espace est stable si et seulement si c’est la somme directe de ses intersections avec les sous-espaces caractéristiques, et ceux-ci sont stables ; – décomposition de Dunford ; • sous-espaces propres, en particulier : – diagonalisation simultanée d’endomorphismes diagonalisables qui commutent ; – dans un espace hermitien/euclidien, cas des endomorphismes normaux, hermitiens/symétriques, unitaires/orthogonaux (plans stables pour le dernier cas) ; • l’orthogonal (dans le dual) d’un sous-espace stable est stable pour la transposée ; (exemple : hyperplans stables ↔ sous-espaces propres de la transposée). 1 Semblent intéressants pour enrichir • un endomorphisme sur un corps algébriquement clos : – preuve du théorème de Cayley-Hamilton et existence dans le théorème de Jordan (les deux ensemble ; voir la leçon “Endomorphismes nilpotents”) ; – endomorphismes ayant un nombre fini de sous-espaces stables (V) ; • un endomorphisme à la fois sur un corps non algébriquement clos : endomorphismes semi-simples (VI) ; • plusieurs endomorphismes à la fois : – formant un groupe fini : théorème de Maschke (VII) ; – formant une algèbre de Lie nilpotente (resp. une algèbre de Lie résoluble) : théorème d’Engel (resp. théorème de Lie) (voir VIII et surtout [Tauvel]) : • divers : – plusieurs sous-espaces à la fois : drapeaux (voir ci-dessous) ; – théorème de Skolem–Nœther (référence : [Leichtnam–Schauer]) ; application : faire de P GLn (K) = GLn (K)/K ∗ un sous-groupe d’un groupe de matrices : GLn2 (K). *** I Compléments sur le plan de Nolwenn Cozian Notations : E espace vectoriel de dimension finie sur K, u ∈ L(E) endomorphisme. 1◦ Autour du lemme 3 : sous-espaces stables de petite dimension (a) Notons l’évidence suivante : une droite est stable par u si, et seulement si elle est engendrée par un vecteur propre de u. Ainsi, si K est algébriquement clos, u a toujours une droite stable. (b) Si K = R, le polynôme caractéristique de u possède une valeur propre λ ∈ C. Si λ ∈ R, on obtient ainsi une droite stable. Supposons que λ ∈ C \ R. Fixons une base de E, ce qui permet de remplacer u par sa matrice A ∈ Mn (R) et de travailler avec des vecteurs dans Cn . Soit donc Z ∈ Cn un vecteur propre de A pour la valeur propre λ. Ecrivons λ = a + ib, où a, b ∈ R. Comme A est réelle, on peut séparer parties réelle et imaginaire dans AZ = λZ : AX = aX − bY AX + iAY = aX − bY + i(bX + aY ), d’où AY = bX + aY. Par suite, si X et Y étaient colinéaires dans Rn , X et Y seraient des vecteurs propres de A (du moins, s’ils ne sont pas nuls), si bien que Z aurait une valeur propre réelle : absurde. Par suite, l’espace engendré par X et Y est un plan, et les égalités précédentes montrent qu’il est stable par U . On en déduit l’existence d’un plan de E stable par u. On peut aussi procéder ainsi : on choisit un facteur irréductible P de degré 2 du polynôme caractéristique de u et un vecteur x 6= 0 dans Ker P (u) : on vérifie que l’espace engendré engendré par x et u(x) est un vrai plan (sinon, x serait vecteur propre et P aurait une racine réelle), et qu’il est stable par u (ça dérive de P (u)(x) = 0). (c) Si K est un corps arbitraire, il est plausible que K[X] possède un polynôme irréductible P de degré n ≥ 3. Alors le K[X]-module K[X]/(P ) –c’est simplement l’espace K[X]/(P ), de dimension n sur K, muni de l’endomorphisme u induit par la multiplication par X– est simple, au sens qu’il ne possède pas de sous-espace stable par u (cf. Proposition 14). Noter que la matrice de u, dans la base induite par la famille (1, X, · · · , X n−1 ), n’est autre que la matrice compagnon de P ; le polynôme caractéristique de u est donc P . 2 (d) Encore une évidence : l’intersection et la somme de deux sous-espaces stable par un endomorphisme sont encore stables. On fait ainsi de l’ensemble des sous-espaces stables un treillis (ensemble partiellement ordonné où deux éléments ont toujours un max et un min). 2◦ Proposition 17 bis C’est un résultat-clé dans cette leçon, si facile qu’il soit. Le théorème de Cayley-Hamilton,1 et l’application 13 donnent la réciproque suivante à la proposition 17 : Proposition (Notations de I 3.) Un sous-espace F de E est stable si, et seulement si son intersection L avec chaque sous-espace caractéristique Ni est stable par u. Dans ces conditions, on a : F = i (F ∩ Ni ). Remarque : Noter que si u est diagonalisable, on en déduit que la restriction à tout sousespace stable l’est aussi ; inversement, les sous-espaces stables sont les sommes directes de sous-espaces des espaces propres. Extension : Noter aussi que si χu n’est pas scindé, on peut quand même factoriser χu = Q αi i Pi , où les Pi sont irréductibles et deux à deux distincts. On a alors les mêmes énoncés en posant Ni = Ker Piαi (u). 3◦ Sous-espaces stables dans le dual (a) Rappelons que l’orthogonalité établit une bijection entre sous-espaces de dimension d de E et sous-espaces de dimension n − d du dual E ∗ . Si F ⊂ E, et si G ⊂ E ∗ , on pose : F ⊥ = {` ∈ E ∗ : ∀x ∈ F, `(x) = 0}, G◦ = {x ∈ E : ∀` ∈ G, `(x) = 0}. On a de plus : (F ⊥ )◦ = F . Si on identifie E au dual E ∗∗ de E ∗ , G◦ s’identifie à G⊥ : à ce titre, l’orthogonalité est essentiellement une involution. Si vous ne l’avez jamais fait, remarquez que si on décrit G ⊂ E ∗ par une famille génératrice (`1 , . . . , `r ), l’orthogonal G◦ est l’ensemble des solutions du système linéaire `1 (x) = · · · = `r (x) = 0. Cette notion n’est donc pas plus mystérieuse que la notion de “résoudre des systèmes” ! (b) Dans ce cadre, le résultat central, pour trivial qu’il soit, est la proposition 19 : un sousespace est stable par un endomorphisme, si et seulement si, son orthogonal est stable pour la transposée. En d’autres termes, l’orthogonalité établit une bijection entre sous-espaces de dimension d de E (stables par u) et sous-espaces de dimension n − d de E ∗ (stables par u). (c) Une application simple de ce fait, c’est qu’en dimension 3, les droites stables par u sont les droites propres, et les plans stables sont les noyaux des vecteurs propres de la transposée de u. II Stabilité en présence d’une forme quadratique ou hermitienne On brasse beaucoup d’air chaud dans ce paragraphe ! 1◦ Cadre bilinéaire : deux notions d’adjoint ? (a) Le cadre On choisit une forme bilinéaire symétrique h·, ·i non dégénérée sur E. Par exemple, si K = R, un produit scalaire euclidien. Attention, sur C, ce serait une forme quadratique et pas un produit scalaire hermitien. Le choix d’une forme bilinéaire permet d’associer, à tout vecteur x ∈ E, une forme linéaire `x ∈ E ∗ : `x = hx, ?i : y 7→ hx, yi. On en déduit une application linéaire Φ = Φh·,·i : E → E ∗ , 1 x 7→ hx, ?i. Il faudra vérifier lorsqu’on l’énoncera plus loin qu’il n’y a pas de cercle vicieux. 3 Dire que la forme est non dégénérée, c’est dire qu’aucun vecteur non nul n’est orthogonal à E : pour x ∈ E, on a : ∀y ∈ E, hx, yi = 0 =⇒ x = 0. (Attention, le cône isotrope n’est pas nécessairement trivial : il peut y avoir des vecteurs x tels que hx, xi = 0.) Ceci signifie exactement que le noyau de Φ est réduit à {0}. Par égalité des dimensions, Φ est un isomorphisme. (b) Identification des orthogonaux Montrons que Φ envoie l’orthogonal d’un sous-espace F ⊂ E, au sens de h·, ·i, sur l’orthogonal de F dans E ∗ , au sens de la dualité. En effet, pour x ∈ E, on a : x ∈ F ⊥ ⇐⇒ ∀y ∈ F, hx, yi = 0 ⇐⇒ ∀y ∈ F, `x (y) = 0 ⇐⇒ Φ(x) = `x ∈ F ⊥ . Ce n’est donc pas un abus grave d’avoir noté les deux orthogonaux F ⊥ : Φ les identifie. (c) Adjoint et transposée Soit alors u ∈ L(E). Son adjoint pour h·, ·i est l’unique endomorphisme linéaire tel que (§) ∀x, y ∈ E, hu∗ (x), yi = hx, u(y)i. Noter que cette égalité se traduit par : ∀x ∈ E, Φ(u∗ (x)) = Φ(x) ◦ u = t u ◦ Φ(x), i.e. u∗ = Φ−1 ◦ t u ◦ Φ. Ceci prouve du même coup l’existence et l’unicité de u∗ . Et surtout, si on identifie E et son dual à l’aide de Φ, u∗ ∈ L(E) s’identifie à t u ∈ L(E ∗ ). Ouf. (d) Matrices dans une base orthonormée Si E possède une base orthonormée B = (ei )i=1,...,n pour h·, ·i, la matrice de u a pour coefficient d’indice (i, j) ∈ {1, . . . , n}2 : hei , u(ej )i = hu∗ (ei ), ej i = hej , u∗ (ei )i. On en déduit que la matrice de u∗ dans B est la transposée de la matrice de u. D’autre part, la base duale de B est l’image de B par Φ, si bien que c’est aussi la matrice de t u dans cette base duale. On retrouve l’identification précédente... 2◦ Cadre sesquilinéaire : deux notions d’adjoint ? (a) Le cadre Ici, K = C et h·, ·i est sesquilinéaire à symétrie hermitienne : pour λ ∈ C et x, y, x0 ∈ E, hλx, yi = λ hx, yi = hx, λyi, hx, yi = hy, xi, hx + x0 , yi = hx, yi + hx0 , yi. On suppose de plus que h·, ·i est définie positive : hx, xi ≥ 0, avec égalité seulement pour x = 0. Par exemple, si E = Cn , on peut prendre pour X, Y ∈ Cn = Mn,1 (C), hX, Y i = t XY . On peut comme ci-dessus définir une application Φ : E → E ∗ , x 7→ hx, ?i, mais elle est antilinéaire2 : pour λ ∈ C et x, x0 ∈ E, Φ(x + x0 ) = Φ(x) + Φ(x0 ), Φ(λx) = λΦ(x). Comme h·, ·i est définie positive, elle est non dégénérée et Φ est toujours bijective. (b) Identification des orthogonaux Rien à changer, si ce n’est que la bijection Φ est désormais anti-linéaire. C’est en fait un isomorphisme si on munit E ∗ de la structure “tordue”, définie par : λ · ` : x 7→ λ`(x) pour λ ∈ C et ` ∈ E ∗ . 2 4 (c) Adjoint(s ?) On définit l’adjoint de u ∈ L(E) par l’égalité (§), et on a toujours : ∀x ∈ E, Φ(u∗ (x)) = Φ(x) ◦ u = t u ◦ Φ(x), i.e. u∗ = Φ−1 ◦ t u ◦ Φ. D’où, encore, l’existence et l’unicité de u∗ . Noter que puisque u est linéaire et que Φ et Φ−1 sont anti-linéaires, u∗ est bien linéaire. (d) Matrices dans une base orthonormée Soit B = (ei )i=1,...,n une base orthonormée pour h·, ·i, la matrice de u a pour coefficient d’indice (i, j) ∈ {1, . . . , n}2 : hei , u(ej )i = hu∗ (ei ), ej i = hej , u∗ (ei )i. On en déduit que la matrice de u∗ dans B est la transconjuguée de la matrice de u. D’autre part, vérifions que c’est bien la matrice de Φ−1t uΦ. La base duale B∗ = (e∗i )i=1,...,n de B est l’image de B par Φ, donc la matrice de t u dans B∗ est la transposée de la matrice (aij ) de u dans B. Par anti-linéarité de Φ−1 , on a : ! n n X X −1 t −1 t ∗ −1 ∗ ∀j ∈ {1, . . . , n}, Φ ◦ u ◦ Φ(ej ) = Φ ◦ u(ej ) = Φ aji ei = aji ei . i=1 i=1 D’où la cohérence : les matrices de u∗ et Φ−1 ◦ t u ◦ Φ coı̈ncident. Ouf. 3◦ Morale : propositions 19 et 20 La morale de cette histoire pesante, c’est que les propositions 19 et 20 du plan de Nolwenn Cozian sont synonymes : elles s’obtiennent l’une de l’autre grâce à la bijection Φ. III Réduction des endomorphismes normaux Soit E un espace vectoriel de dimension finie sur C (resp. R), muni d’une forme sesquilinéaire (resp. bilinéaire) à symétrie hermitienne (resp. symétrique) définie positive. Un endomorphisme est dit normal s’il commute à son adjoint. 1◦ Cadre hermitien (a) Diagonalisation des endomorphismes hermitiens normaux Théorème Un endomorphisme hermitien normal possède une base orthonormée de vecteurs propres. Par récurrence sur la dimension de l’espace. En dimension 1, il n’y a rien à prouver. Pour le pas de récurrence, soit u normal et x un vecteur propre de u∗ . Alors la droite Cx est stable par u donc x est propre pour u ; de plus, Cx est stable par u∗ , donc son orthogonal est stable par u et sa dimension est strictement plus petite. Ane qui trotte. (b) Cas particuliers Les cas les plus utiles sont les suivants : • u = u∗ (endomorphisme hermitien) ; toute valeur propre λ de u est alors réelle, puisque si x ∈ E \ {0} est un vecteur propre : λhx, xi = hλx, xi = hu(x)x, xi = hu∗ (x), xi = hx, u(x)i = λhx, xi. • uu∗ = Id (endomorphisme unitaire) : toute valeur propre λ de u a pour module 1 (calcul analogue). 5 (c) Mise en garde : matrices symétriques complexes 1 i Celles-là ne sont pas nécessairement diagonalisables. Par exemple, est nilpotente ! i 1 On peut commencer le même raisonnement que ci-dessus, avec la forme bilinéaire symétrique Cn × Cn → C, (X, Y ) 7→ t XY . Mais l’argument par récurrence ne marche pas, car un vecteur propre peut être isotrope, si bien que l’orthogonal de la droite engendrée, pour stable qu’elle soit, n’est pas un supplémentaire. 2◦ Cadre euclidien (a) Réduction des endomorphismes symétriques réels Théorème Un endomorphisme symétrique réel possède une base orthonormée de vecteurs propres. En effet, sa matrice dans une base orthonormée est symétrique réelle, donc hermitienne complexe, donc ses valeurs propres sont réelles. On peut alors procéder comme pour les endomorphismes normaux ! (b) Réduction des isométries réelles Théorème Un endomorphisme orthogonal possède, dans une base orthonormée convenable, une matrice diagonale par blocs, où les blocs sont de l’un des types suivants : cos θ − sin θ (θ ∈ R). (1) (−1) sin θ cos θ On procède par récurrence sur la dimension. Le plus commode est de travailler avec une matrice A orthogonale dans Rn euclidien standard3 : t AA = Id. Soit λ une valeur propre : si elle est réelle, on choisit un vecteur propre x et on applique l’hypothèse de récurrence à Rx⊥ . Si λ est complexe non réelle, on choisit un vecteur propre complexe z ∈ Cn , et on sépare ses parties réelle et imaginaire : z = x + iy, avec x, y ∈ Rn . De même, on note λ = a + ib, avec a, b ∈ R. On vérifie sans peine que a2 + b2 = |λ|2 = 1, et surtout que Ax = ax + by, Ay = −bx + ay. On en déduit que x et y ne sont pas colinéaires, il est évident que le plan qu’ils engendrent est stable par A, et on applique l’hypothèse de récurrence à l’orthogonal de ce plan. *** IV Motivation pour V : matrices triangulaires et drapeaux complets Dans ce paragraphe, on veut montrer un peu l’importance du sous-groupe B des matrices triangulaires supérieures4 dans le groupe GLn (K). (c) L’importance de B vis-à-vis des systèmes linéaires est bien connue : résoudre un système, c’est essentiellement se ramener à un système dont la matrice est dans B. On peut dire mieux, et interpréter l’algorithme de Gauss de la façon suivante. On note W le groupe des matrices de permutation, B− le groupe des matrices triangulaires inférieures. Proposition (Décomposition de Bruhat) On a : GLn (K) = BW B = B− W B. En d’autres termes, étant donné une matrice inversible g, il existe 3 Situation idyllique à laquelle on se ramène en choisissant une base orthonormée dans une espace euclidien quelconque. 4 B est l’initiale de Borel, qui a mis en évidence cette importance. 6 • b1 et b2 , triangulaires supérieures et w matrice de permutation telles que g = b1 wb2 ; • b01 et b02 , triangulaires supérieures et w, matrice de permutation telles que g = tb01 wb02 . Esquisse de démonstration : On applique l’algorithme de Gauss en se restreignant aux opérations élémentaires suivantes : • remplacement d’une ligne par la somme de cette ligne et de lignes d’indice strictement plus petit ; • remplacement d’une colonne par la somme de cette colonne et de colonnes d’indice strictement plus petit ; • produit d’une rangée par un scalaire non nul ad libitum ; • pas de permutations de lignes ou de colonnes. La clé, c’est que chacune de ces opérations consiste à remplacer la matrice en cours g respectivement par : • un produit tbg, où b est triangulaire supérieure ; • un produit gb, où b est triangulaire supérieure ; • un produit tg ou gt, où t est diagonale. Comme on n’autorise pas les permutations de rangées, on n’est pas sûr de pouvoir transformer g en la matrice identité. En revanche, on peut se ramener à une matrice monômiale (un seul coefficient non nul par rangée), puis à une matrice de permutation. La deuxième assertion est démontrée. Pour passer à la première, il suffit de constater que B− = w0 Bw0 , où w0 est la matrice antidiagonale de la permutation i ←→ n + 1 − i. Etant donné une matrice g, on écrit w0 g sous la forme w0 g = tb01 w0 b02 , avec b01 , b02 ∈ B et w0 ∈ W , ce qui donne (w02 = Id) : g = w0 tb01 w0 b02 = b1 wb2 , en posant b1 = w0 tb01 w0 , w = w0 w0 , b02 = b2 . (d) Rappelons qu’un drapeau complet est une suite finie de sous-espaces emboı̂tés : F = (0) = F0 ⊂ F1 ⊂ F2 ⊂ · · · ⊂ Fi ⊂ · · · ⊂ Fn = E , avec dim Fi = i. Fixons une base (e1 , . . . , en ) de E, on lui associe un drapeau complet en posant : Fi = Vect(e1 , . . . , ei ) (1 ≤ i ≤ n). On rappelle tout d’abord le lemme évident suivant : Lemme Un endomorphisme de E stabilise le drapeau F associé à une base B de E si, et seulement si sa matrice dans B est triangulaire supérieure. En d’autres termes, si on fait opérer GLn (K) sur les drapeaux complets de K n , le groupe B des matrices triangulaires est le stabilisateur du drapeau associé à la base canonique. En fait, on peut dire mieux : tout drapeau complet est le drapeau associé à une base. En effet, prenons un vecteur non nul dans F1 , complétons-le en une base de F2 , puis de F3 , etc. Le drapeau associé à la base obtenue est évidemment le drapeau de départ. Ceci montre que l’action de GLn (K) sur les drapeaux complets de K n est transitive. D’après le lemme précédent, on en déduit alors : Lemme L’ensemble des drapeaux complets de K n est en bijection (non canoniquement) avec l’ensemble quotient GLn (K)/B. Après tant de “géométrie algébrique”, on passe à de la “théorie des groupes” : 7 (e) Le groupe B est le normalisateur du groupe U des matrices triangulaires supérieures unipotentes (facile). Or, si K = Fpd est un corps fini de caractéristique p, U est un p-sous-groupe de Sylow de GLn (Fpd ) (exercice instructif : calculer les cardinaux de GLn (Fpd ) et de U ). D’où l’intérêt de B pour l’étude de la structure de GLn (Fpd ). (f ) Le groupe B est résoluble (facile), maximal parmi les sous-groupe résolubles de GLn (K) (assez facile), et, si K est algébriquement clos, tout sous-groupe résoluble de GLn (K) est conjugué à un sous-groupe de B (théorème de Lie : moins facile !). V Endomorphismes ayant un nombre fini de sous-espaces stables Théorème Soit K algébriquement clos, E de dimension finie sur K, u un endomorphisme de E. Les conditions suivantes sont équivalentes : (i) il existe une base dans laquelle la matrice de u est une matrice-compagnon (u est cyclique) ; (i’) le polynôme minimal de u est égal à son polynôme caractéristique ; (ii) u n’a qu’un seul bloc de Jordan pour chaque valeur propre ; (iii) u ne stabilise qu’un nombre fini de sous-espaces ; (iv) u ne stabilise qu’un nombre fini de drapeaux complets ; En termes matriciels : Théorème Soit K un corps algébriquement clos, n ∈ N∗ , A ∈ Matn (K). Les conditions suivantes sont équivalentes : (i) A est conjuguée à une matrice-compagnon ; (ii) pour chaque valeur propre de A, A n’a qu’un seul bloc de Jordan ; (iii) A ne stabilise qu’un nombre fini de sous-espaces ; (iv) A ne stabilise qu’un nombre fini de drapeaux complets ; (v) seuls un nombre fini de conjuguées de A sont triangulaires supérieures ; (vi) A appartient à un nombre fini de conjugués de b, l’algèbre des matrices triangulaires. La preuve se décompose en plusieurs étapes, mais l’essentiel est le lemme-clé ci-dessous. Pour l’instant, on parle d’endomorphismes. (g) (i)⇒(ii) : Si, dans une certaine base, la matrice de u est une matrice-compagnon C, on vérifie facilement que ses espaces propres sont de dimension 1 (c’est facile avec t C en fait...), donc u possède au plus un bloc de Jordan pour chaque valeur propre. (ii)⇒(i) : On écrit le polynôme caractéristique de u sous la forme : r Y f (X) = (X − λi )αi , i=1 où les λi sont des scalaires distincts et les αi des entiers non nuls. On suppose que u n’a qu’un seul bloc de Jordan de valeur propre λi (1 ≤ i ≤ r). Fixons une base B = (e1,1 , . . . , e1,α1 , e2,1 , . . . , e2,α2 , . . . , er,1 , . . . , er,αr ) dans laquelle la matrice de u dans B 8 est : λ1 1 MatB (u) = .. .. . . .. . 1 λ1 .. . .. . λr 1 .. .. . . .. . 1 λr e1,1 e1,2 .. . e1,α1 er,1 er,2 .. . er,αr Montrons que le polynôme minimal de u est son polynôme caractéristique f . Soit donc g ∈ K[X] un polynôme qui annule u. Alors on a (c’est la clé !) : g(u)(x) = 0, où x = e1,1 + · · · + er,1 . Mais, les sous-espaces caractéristiques Ei = Ker(u − λi Id)αi = Vect(ei,1 , . . . , ei,αi ) (1 ≤ i ≤ n) sont stables par u et sont supplémentaires, donc ∀i = 1, . . . , r, g(u)(ei,1 ) = 0. On en déduit que g est divisible par le polynôme (X − λi )αi , qui est le minimal de la restriction de u à Ei (c’est ici qu’on Q utilise le fait qu’il n’y a qu’un bloc de Jordan par valeur propre). Par suite, g est divisible par ri=1 (X − λi )αi = f . En fait, on a montré que la famille B0 = (x, u(x), . . . , un−1 (x)) est libre, car une combinaison linéaire nulle de ces vecteurs donnerait un polynôme de u de degré ≤ n − 1 qui annule x. On conclut, car la matrice de u dans B0 est la matrice-compagnon de f . (h) (ii)⇔(iii) : On rappelle que F stable par u si, et seulement si F est la somme directe des F ∩ Ei (1 ≤ i ≤ n) et chacune de ces intersections est stable par u. L’équivalence à démontrer résulte de ce fait et du lemme suivant : Lemme-clé Soit u un endomorphisme nilpotent sur un corps infini. Les conditions suivantes sont équivalentes : (a) u n’a qu’un seul bloc de Jordan ; (b) les seuls sous-espaces stables par u sont les Ker(uk ) (k ∈ N) ; (c) u n’a qu’un nombre fini de sous-espaces stables. Démonstration : (a)⇒(b) : Soit B = (e1 , . . . , en ) une base de Jordan pour u : u(ei ) = ei+1 (1 ≤ i ≤ n − 1). Soit F un sous-espace stable, et soit k = max{i, ei ∈ / F }. On veut montrer que F = Vect(ek+1 , . . . , en ) = Ker(un−k ). P L’inclusion ⊃ est claire. Inversement, soit x = ni=1 xi ei ∈ F . S’il existe, soit i0 le plus petit indice tel que λi = 6 0. Si i0 ≤ k, alors, par stabilité de F , le vecteur suivant est dans F : uk−i0 (x) = λi0 ek + y, où y = n X j=k+1 9 λi0 +j−k ej ∈ F. On en déduit que ek ∈ F , ce qui est impossible. L’implication (a)⇒(b) en découle. (b)⇒(c) : Clair. (c)⇒(a) : Si u possède au moins deux blocs de Jordan, alors le noyau de u est de dimension au moins 2, donc il contient une infinité de droites, qui sont autant de sous-espaces stables par u. (i) (iii)⇒(iv) : Clair. (iv)⇒(iii) : Par contraposée : si on a une infinité de sous-espaces stables, on construit une infinité de drapeaux complets stables par le lemme suivant : Lemme Soit F un sous-espace stable par u, d = dim F . Alors, il existe un drapeau complet (Fi )i=0,...,n , stable par u, tel que Fd = F . Démonstration : Soit d = dim F . D’abord, on commence par trigonaliser (supérieurement) la restriction de u à F dans une base (e1 , . . . , ed ) de F . Dans un deuxième temps, puisque E est stable, on constate que u induit un endomorphisme u de E/F . On trigonalise u dans une base B = (ed+1 , . . . , en ) de E/F . On choisit alors de vecteurs arbitraires (ed+1 , . . . , en ) dans E qui relèvent B dans E. Alors, la matrice de u dans la base (e1 , . . . , en ) est triangulaire supérieure, et le drapeau associé à cette base est stable par u. A présent, on passe en matriciel pour les dernières conditions. L’équivalence entre (v) et (vi) est triviale. On n’a plus qu’à montrer l’équivalence entre (iv) et (v). (iv)⇔(v) : Ceci repose sur le constat suivant : pour P ∈ GLn (K), on a : P AP −1 ∈ b ⇐⇒ P AP −1 stabilise F ⇐⇒ A stabilise P −1 F, où F est le drapeau complet associé à la base canonique de K n . De plus, comme on l’a remarqué ci-dessus, tout drapeau complet est le drapeau associé à une base, donc il est de la forme P F. Par suite, dire qu’il n’y a qu’un nombre fini de conjugués P AP −1 dans b, c’est dire qu’il n’y a qu’un nombre fini de drapeaux complets invariants. (v)⇔(vi) : Clair. VI Endomorphismes semi-simples On revient au problème de trouver un supplémentaire stable à un sous-espace stable (voir la leçon “Endomorphismes diagonalisables”). On dit qu’un endomorphisme/une matrice est semi-simple si tout sous-espace stable possède un supplémentaire stable. La proposition suivante est démontrée par Gourdon (p. 219) : Proposition (i) Un endomorphisme/une matrice est semi-simple si et seulement son polynôme minimal est un produit de polynômes irréductibles distincts. (ii) En particulier, sur un corps algébriquement clos, diagonalisable et semi-simple sont deux notions équivalentes. Complément : Un corps K est parfait s’il est de caractéristique 0, ou s’il est de caractéristique p et si x 7→ xp est surjective. Une caractérisation des corps parfaits, c’est que les polynômes irréductibles sont à racines simples dans une clôture algébrique. Si le corps de base est parfait, la condition (i) exprime que le polynôme minimal est à racines simples dans une clôture algébrique. Noter que le polynôme minimal de u est le même sur le corps de base et sur sa clôture algébrique, car c’est un invariant de similitude. On en déduit la proposition suivante : Proposition Une matrice est semi-simple sur un corps parfait si, et seulement elle est diagonalisable sur une clotûre algébrique. 10 VII Représentations de groupes finis Même type de problème que dans le paragraphe précédent, mais on prend une famille finie d’endomorphismes qui forment un groupe. Comme le précédent, ce développement trouve parfaitement sa place dans la leçon “Endomorphismes diagonalisables”. 1◦ Théorème de Maschke Références : Leichtnam-Schauer, Francinou-Gianella. Théorème Soit G un sous-groupe fini de GL(E), où E est de dimension finie. On suppose que la caractéristique de K ne divise pas l’ordre de G. Alors, tout sous-espace de E stable par (tous les éléments de) G possède un supplémentaire stable par G. Première preuve si K = C : On fixe un produit scalaire hermitien h., .i sur K n , et on pose : ∀x, y ∈ K n , hx, yiG = 1 X hgx, gyi. |G| g∈G On vérifie que • h., .iG est un produit scalaire hermitien ; • si F est stable par G, l’orthogonal de F pour h., .iG est également stable par G. Deuxième preuve en général : Soit F stable par G, π un projecteur quelconque sur F , et πG = 1 X g ◦ π ◦ g −1 . |G| g∈G On montre sans trop de problèmes que • l’image de πG est F (Im πG ⊂ F par stabilité, πG |F = Id par calcul simple) ; • πG est un projecteur (pour v ∈ E, πG (v) ∈ F donc πG (πG (v)) = πG (v)) ; • pour h ∈ G, h ◦ πG ◦ h−1 = πG (cacul facile) ; d’où h ◦ πG = πG ◦ h ; • le noyau de πG est stable par G (par le point précédent). Corollaire Soit G un sous-groupe fini de GL(E). On suppose que la caractéristique de K ne divise pas l’ordre de G. Alors, il existe une famille (non unique) de sous-espaces de E stables par G, supplémentaires, et irréductibles (aucun ne contient de sous-espace stable non trivial). En général, cette décomposition n’est pas unique. Démonstration par récurrence sur la dimension. Trivial en dimension 1. En dimension quelconque, prendre un sous-espace non réduit à {0}, stable par G et de dimension minimale : il est donc irréductible. Si c’est E, c’est fini. Sinon, trouver un supplémentaire stable, appliquer l’hypothèse de récurrence au groupe formé par les restrictions des éléments de G à ce supplémentaire. Pour la non-unicité, prendre naı̈vement G = {Id} et dim E ≥ 2... 1 1 sur Fp (G ' Z/p). Contre-exemple en caractéristique p divisant |G| : G engendré par 0 1 11 2◦ Lemme de Schur (bon complément au précédent) Supposons que G ne possède pas de sous-espace stable non trivial (on dit que la représentation correspondante est irréductible), on peut décrire son commutant. Rappelons que c’est l’algèbre des matrices qui commutent à tous les éléments de G. Lemme (Schur) Soit G un sous-groupe fini de GLn (K). Supposons que les seuls sous-espace de K n stable par G soient (0) et K n . Alors le commutant de G est un corps, et donc une extension finie de K. En particulier, si K est algébriquement clos, le commutant de G dans Mn (K) est KId. En effet, si f appartient au commutant de G, alors le noyau de f est stable par tous les éléments de G (usage crucial de la commutation pour les questions de stabilité, encore une fois), donc f est injective ou nulle. De même, l’image de f est stable par G, donc f est surjective ou nulle. Il en résulte qu’un élément non nul du commutant est inversible, et l’inverse appartient évidemment au commutant. La fin est triviale. 3◦ Et la suite ? Eh bien, on peut faire défiler la portion que l’on veut de la théorie des représentations des groupes finis. La référence canonique est : J.-P. Serre, Représentations linéaires des groupes finis, Hermann. VIII Théorème d’Engel Dans le même esprit, “trouver des bases dans lesquelles une famille d’endomorphismes a des matrices particulièrement sympathiques”, mais à en quelque sorte à l’opposé dans la graduation “nilpotent/semi-simple”, voici un théorème bien connu. Rappelons qu’une algèbre de Lie est un espace vectoriel g muni d’une application bilinéaire [·, ·] : g × g → g anti-symétrique et satisfaisant l’identité de Jacobi : ∀x, y, z ∈ g, [x, [y, z]] = [[x, y], z] + [y, [x, z]] . Pour produire ce genre de machin, point n’est besoin d’être devin. On a sur l’espace des matrices n × n à coefficients dans un corps K quelconque, noté pour l’occasion gln (K), un crochet standard : ∀x, y ∈ gln (K), [x, y] = xy − yx. Une sous-algèbre de Lie de gln (K), i.e. un sous-espace g stable par crochet, devient aussitôt une algèbre de Lie à part entière. On dit qu’une algèbre de Lie est nilpotente s’il existe r ≥ 1 tel que ∀x1 , . . . , xr ∈ g, , [[. . . [[x1 , x2 ], x3 ], . . . ], xr ] = 0. Théorème (Engel) Soit g une sous-algèbre de Lie de gln (K). Il existe un drapeau de K n stable par tous les éléments de g. 12