endomorphismes nilpotents

Agrégation externe de Mathématiques
TD: Endomorphismes nilpotents
Correction
E. AUBRY
Références:
J.-M. Arnaudiès, J. Bertin Groupes, algèbres et géométrie,
J. Fresnel Algèbre des matrices,
X. Gourdon Les Maths en tête, Algèbre,
E. Leichtnam Exercices de mathématiques, Algèbre et géométrie,
H. Roudier Algèbre linéaire.
Exercice 1 Soit uk = u|Ik : Ik → Ik+1 . On a Im uk = u(Ik ) = u(uk (E)) = uk+1 (E) = Ik+1 et
Ker uk = Ik ∩ Ker u et donc, d'aprés le théorème du rang
dim Ik = rg(uk ) + dim Ker uk = dim Ik+1 + dim(Ik ∩ Ker u)
D'où ak = dim(Ik ∩ Ker u) ≥ 0. Comme on a Ik+1 ⊂ Ik (u(E) ⊂ E donc uk (u(E)) ⊂ uk (E)), on
déduit de la formule précédente que ak décroit. La suite (dim Ik ) est décroissante et à valeurs dans N
donc elle est constant à partir d'un certain rang. On en déduit que (ak ) est nulle à partir d'un certain
rang. On pose d = inf{k ∈ N/ak = 0}. Comme (ak ) décroit et est positive, on a ak > 0 pour tout
k < d et ak = 0 pour tout k ≥ d. On en déduit que (dim Ik ) décroit strictement jusqu'au rang d puis
est constante égalé à 0. Enn, comme le théorème du rang nous donne
rg uk + dim Ker uk = dim E = rg uk+1 + dim Ker uk+1 ,
et donc dim Ik − dim Ik+1 = dim Ker uk+1 − dim Ker uk , on en déduit que la suite dim Ker(uk ) est
strictement croissante jusqu'au rang d puis constante égale à n.
Comme dim Ik est à valeur entière positive et strictement décroissante jusqu'au rang d, on a 0 =
dim Id ≤ dim I1 − d + 1, d'où d ≤ rg u + 1 ≤ n.
D'aprés le théorème du rang on a dim Im up + dim Ker up = n. Soit x ∈ Im up ∩ Ker up . Il existe
donc y ∈ E telle que x = up (y) et on a 0 = up (x) = u2p (y). D'où y ∈ Ker u2p = Ker up par dénition
de p. On en déduit que x = up (y) = 0. On a donc bien E = Ker up ⊕ Im up .
Exercice 2 Soit u un endomorphisme nilpotent. On a up = 0 donc le polynôme minimal de u est de
la forme X q . Comme il est scindé, u est trigonalisable. Il existe donc une base de E dans laquelle
la matrice T de u est triangulaire supérieure. Son polynôme caractéristique est alors scindé et toute
valeur propre λ vériant λp = 0, est donc nulle. On en déduit que la diagonale de T est nulle.
Réciproquement, s'il existe une base (ei )1≤i≤n de E dans laquelle la matrice de T est triangulaire
supérieure à diagonale nulle, alors u(e1 ) = 0 et u(ei ) ∈ Vect(e1 · · · , ei−1 ) pour tout i ≥ 2. On en
déduit facilement par récurrence que uk (ei ) = 0 si i ≤ k et uk (ei ) ∈ Vect(e1 , · · · , ei−k ) si i ≥ k + 1. En
particulier, on a un = 0 et donc u est nilpotente.
Rémarquez qu'on retrouve ici que l'exposant d'un endomorphisme nilpotent est plus petit que la
dimension de l'espace. Remarquez aussi qu'on a vu que tout facteur irréductible du polynôme caractéristique est facteur du polynôme minimal, ce qui donne tout de suite que χu = X n et donc u est
trigonalisable à diagonale nulle.
1
Exercice 3 Si u est nilpotent alors il existe une base de E dans laquelle la matrice T de u est triangulaire supérieure à diagonale nulle. On en déduit que tr uk = tr T k = 0 car T k est triangulaire à
diagonale nulle.
Réciproquement, on va montrer par récurrence sur la dimension de E que si tr uk = 0 pour tout k
alors u est nilpotent.
Si dim E = 1, alors tr u = 0 implique que u = 0 et la propriété est donc évidente.
Si dim E = n alors, d'aprés le théorème de Cayley-Hamilton, on
0 = tr(χu (u)) = tr un + an−1 tr un−1 + · · · + a1 tr u + (−1)n det u tr In = n(−1)n det u
par hypothèse sur n on en déduit qu'il existe v ∈ (Ker u) \ {0}. Soit F un supplémentaire Kv dans
E et π la projection sur F de noyau Kv . Alors dim F = n − 1 et u0 = π ◦ u|F est nilpotent (on a
u02 = π ◦ u|F ◦ π ◦ u|F = π ◦ (u2 )|F et u0k = π ◦ (uk )|F ). Par hypothèse de récurrence, il existe une base
(e2 , · · · , en ) de F dans laquelle la matrice T 0 de u0 est triangulaire supérieure à diagonale nulle. Alors
(v, e2 , · · · , en ) est une base de E dans laqelle la matrice de u est de la forme


0 ∗ ··· ∗
 ..

.

0
T
0
et donc est triangulaire supérieure à diagonale nulle.
Une autre preuve est proposée dans le Gourdon (utilisant les déterminant de Vandermond). Remarquez que si n est un multiple de la caractéristique de K alors In n'est pas nilpotente mais de trace
nulle. Trouver ce qui ne marche pas dans la preuve précédente dans ce cas. Trouver de même ce qui
ne fonctionne pas dans ce cas dans la preuve du Gourdon.
Exercice 4 Voir le Gourdon.
Exercice 5 Supposons que (λIn + V )k admet une limite. D'aprés l'exercice 3, il existe P ∈ Gl(C) telle
que V = P T P −1 où T est une matrice triangulaire supérieure à diagonale nulle. Alors (λIn + T )k =
P −1 (λIn + V )k P . Comme (λIn + T )k est triangulaire supérieure à diagonale λk In , alors si la suite
(λIn + V )k admet une limite, λk admet aussi une limite. On en déduit que |λ| < 1 ou λ = 1.
Réciproquement, si |λ| < 1 alors pour n'importe quelle norme d'opérateur on a
k(λIn + V )k k ≤ k
X
p≤d
Ckp λk−p V p k ≤
X
Ckp |λ|k−p kV kp ≤ (d + 1)k d |λ|k−d
X
kV kp ,
p≤d
p≤d
et donc (λIn + V )k → 0.
Si λ = 1, In + V est conjugué à In + T et donc In + V est inversible et de déterminant 1. Si
(In + V )k a une limite A alors, par continuité du déterminant, A est inversible et par continuité de
l'inverse dans Gln (C), (In + V )−k+1 converge vers A−1 . Par continuité du produit dans Mn (C), on a
In + V = (In + V )k (In + V )−k+1 → A × A−1 = In et donc V = 0.
On en déduit que (λIn + V )k a une limite ssi |λ| < 1 (et alors la limite estQ
0) ou si λ = 1 et V = 0.
n
Soit A ∈ Mn (C) et u l'endomorphisme de C associé à A. Soit χA = pi=1 (X − λi )αi et Ei =
Ker(X − λi )αi . On a E = ⊕pi=1 Ei , u(Ei ) ⊂ Ei et u|Ei = λi Id|Ei + Vi , où Vi est nilpotent. Alors Ak a
une limite ssi (λi Id|Ei + Vi )k a une limite dans L(Ei ) pour tout i. D'aprés ce qui précède on en déduit
que Ak a une limite ssi l'un des deux conditions suivantes est vériée
1) ρ(A) < 1,
2) ρ(A) = 1, 1 est la seule valeur propre de A de module 1 et le sous-espace caractéristique de A
associée à la valeur propre 1 est un espace propre.
k Si ρ(A) < R alors il existe > 0 tel que λ = ρ(A) + < R. Alors kak Ak k ≤ |ak λk | Aλ . Or
k P
k
→ 0 et
ρ(A/λ) = ρ(A)/λ P
< 1 donc | A
k ak λ converge absolument puisque λ < R. On en
λ
k
déduit que la série k ak A converge normalement.
2
n
alors il existe
x ∈ C \ {0} et λ ∈ C tels
P Si ρ(A)k > R, P
P que k|λ| > R et u(x) = λx. Alors on a
k
a
A
x
=
a
λ
x
.
Comme
|λ|
>
R
,
la
série
k
k
k≤N
k ak λ diverge et on en déduit que la série
Pk≤N k
k ak A diverge aussi.
(d−1)
Exercice 6 Soit Fd−1 = e(d−1)
, · · · , ead−1 une base de Id−1 . Comme u(Id−2 ) = Id−1 , il existe une
1
(d−2)
(d−1)
(d−2)
) = ei
. Cette famille est évidement libre. On
famille (a(d−2)
, · · · , ead−1 ) de Id−2 telle que u(ei
1
a dim(Ker u ∩ Id−2 ) = ad−2 et Id−1 ⊂ Ker u ∩ Id−2 (car u(Id−1 ) = ud (E) = {0}), donc il existe une
(d−1) (d−2)
(d−2) base de Ker u ∩ Id−2 de la forme Gd−2 = e(d−1)
, · · · , ead−1 , ead−1 +1 , · · · , ead−2 . La famille Fd−2 =
1
(d−1) (d−2)
(d−2) (d−1)
, · · · , ead−1 est libre (appliquer u a toute combinaison linéaire annulant cette
e1
, · · · , ead−2 , e1
famille, utiliser que Fd−1 est libre puis que Gd−2 est libre) donc une base de Id−2 .
(d−3)
) =
Comme u(Id−3 ) = Id−2 , il existe une famille (a1(d−3) , · · · , e(d−3)
ad−2 ) de Id−3 telle que u(ei
(d−2)
ei
. On a dim(Ker u ∩ Id−3 ) = ad−3 et (Ker u ∩ Id−2 ) ⊂ Ker u ∩ Id−3 , donc il existe une base de
(d−3)
(d−3) Ker u ∩ Id−3 de la forme Gd−3 = Gd−2 ∪ ead−2 +1 , · · · , ead−3 . La famille
(d−3)
Fd−3 = e1
(d−2)
, · · · , e(d−3)
ad−3 , e1
(d−1)
, · · · , ea(d−2)
, e1
d−2
, · · · , e(d−1)
ad−1
est libre (appliquer u a toute combinaison linéaire annulant cette famille, utiliser que Fd−2 est libre
puis que Gd−3 est libre) donc une base de Id−3 .
(0)
(d−1)
(d−1) En itérant, on obtient une base de I0 = E de la forme e(0)
, · · · , ead−1 telle
1 , · · · , ea0 , · · · , e1
(a )
(a
)
(a )
que u(ei j ) = ei j+1 pour i ≤ aj+1 et u(ei j ) = 0 pour i ≥ aj+1 + 1. On réordonne cette base de la
manière suivante
(d−1)
e1
(0)
(d−2)
(0)
(0)
(d−2)
(0)
, · · · , e1 , · · · , e(d−1)
ad−1 , · · · , ead−1 , ead−1 +1 , · · · , ead−1 +1 , · · · , ead−2 , · · · , ead−2 , · · ·
(1)
(0)
(0) (0)
(0)
· · · , ea2 +1 , ea2 +1 , · · · , e(1)
a1 , ea1 , ea1 +1 , · · · , ea0 ,
alors dans cette base de E , la matrice de u est une matrice de Jordan.
Si χu est scindé alors E est somme directe des sous-espaces caractéristiques de u en restriction
auxquels u est de la forme λId + N avec N nilpotent. En prenant une base E formée de bases de
chaque espace caractéristique dans lesquelles les matrices des parties nilpotentes N sont de Jordan, on
obtient une base de E dans laquelle la matrice de u est la somme d'une matrice diagonale plus une
matrice de Jordan (on parle de matrice de Jordan généralisée).
Exercice 7 Soit M ∈ Mn (C) et u l'endomorphisme de Cn associé à M . D'aprés ce qui précède, il
existe une base B1 de E constituée de bases de chaque espace caractéristique de u de la forme
(d−1)
e1
(0)
(d−2)
(0)
(0)
(d−2)
(0)
, · · · , e1 , · · · , e(d−1)
ad−1 , · · · , ead−1 , ead−1 +1 , · · · , ead−1 +1 , · · · , ead−2 , · · · , ead−2 , · · ·
(1)
(0)
(0)
(0)
(0)
· · · , ea2 +1 , ea2 +1 , · · · , e(1)
a1 , ea1 , ea1 +1 , · · · , ea0
dans laquelle la matrice de u est de Jordan généralisée. Alors, dans la base B2 de E formée des bases
de chaque espace caractéristique réordonnées de la manière suivante
(0)
(d−1)
e1 , · · · , e1
(0)
(d−2)
(d−1)
(0)
(d−2)
, · · · , e(0)
ad−1 , · · · , ead−1 , ead−1 +1 , · · · , ead−1 +1 , · · · , ead−2 , · · · , ead−2 , · · ·
(0)
(1)
(1) (0)
(0)
· · · , ea2 +1 , ea2 +1 , · · · , e(0)
a1 , ea1 , ea1 +1 , · · · , ea0 ,
la matrice de u est t MatB1 u. On en déduit que M et t M sont semblables.
Si M et 2M sont semblables et λ est valeur propre de M alors 2λ est aussi valeur propre de M .
Comme M a au plus n valeur propres distinctes, on en déduit que M a une seule valeur propre qui
est 0. Or χM est scindé sur C et donc χM = X n . D'aprés le théorème de Cayley-Hamilton, M est
nilpotente.
Réciproquement, si M est nilpotente, alors il existe une base (e1 , · · · , en ) de E dans laquelle la
matrice de l'endomorphisme u de Cn associé à M est une matrice J de Jordan. Alors la matrice de
3
u dans la base (e1 , 2e2 , · · · , 2n−1 en ) est 2J . On en déduit que J et 2J sont semblables, puis que M et
2M sont semblables.
Si M ∈ Mn (C) est diagonalisable alors il existe un polynome Q simplement scindé tel que Q(M ) =
0. Si Pk M Pk−1 converge vers A ∈ Mn (C) alors Q(A) = Q(Pn M Pn−1 ) = Pn Q(M )Pn−1 = 0 et donc
A est diagonalisable et a les mêmes valeurs propres que M . De plus on a χA (X) = det(XIn − A) =
limk→+∞ det(XIn − Pk M Pk−1 ) = χM (X) et donc les multiplicités des valeurs propres sont les mêmes
pour M et A. On en déduit que A et M sont semblables à la même matrice diagonale. En particulier,
l'eSi M ∈ Mn (C) est diagonalisable alors il existe un polynome Q simplement scindé tel que Q(M ) = 0.
Si Pk M Pk−1 converge vers A ∈ Mn (C) alors Q(A) = Q(Pn M Pn−1 ) = Pn Q(M )Pn−1 = 0 et donc A
est diagonalisable et a les mêmes valeurs propres que M . De plus on a χA (X) = det(XIn − A) =
limk→+∞ det(XIn − Pk M Pk−1 ) = χM (X) et donc les multiplicités des valeurs propres sont les mêmes
pour M et A. On en déduit que A et M sont semblables à la même matrice diagonale. En particulier,
l'ensemble des matrices semblables à M est fermé.
Réciproquement, si M n'est pas diagonalisable alors elle est semblable à une matrice D + J avec D
diagonale et J 6= 0 une matrice de Jordan. Si on pose Pk la matrice diagonale D(1, k, · · · , kn−1 ) alors
Pk (D + J)Pk−1 = D + J/k → D. Comme D est diagonale elle ne peut-être semblable à M qui n'est pas
diagonale. On en déduit que l'ensemble des matrices semblables à M n'est pas fermée.
4