Correction - Alain TROESCH

Lycée La Bruyère, Versailles Pour le vendredi 16/11/2012
ECS 2 – Mathématiques – A. Troesch
DM no7 : Algèbre linéaire – DEVOIR FACULTATIF
Correction du problème –(Étude de sous-espaces stables par un endomorphisme)
(ESCP-EAP Scientifique 2001)
Partie I – Préliminaire.
1. Soit x∈Ker P(f), donc P(f)(x) = 0. Alors :
P(f)(f(x)) =
n
X
k=0
akfk(f(x)) =
n
X
k=0
akf(fk(x)),
et, par linéarité de f:
P(f)(f(x)) = f n
X
k=0
akfk(x)!=f(P(f)(x)) = f(0) = 0.
Ainsi, f(x)∈Ker P(f). On en déduit la stabilité de Ker P(f)par f.
2. (a) Soit Dune droite de Estable par f, et xun élément non nul de D. Alors D=Rx. Puisque Dest stable
par f, on a alors f(x)∈D, donc f(x)∈Rx, et par conséquent, il existe λ∈Rtel que f(x) = λx. Puisque
xest non nul, on en déduit que λest une valeur propre, et que xest un vecteur propre associé à la valeur
propre λ. Ainsi, Dest engendrée par un vecteur propre.
Réciproquement, soit Dune droite engendrée par un vecteur propre x, associé à une valeur propre λ. Ainsi,
D=Rx. Soit y∈D. Ainsi, il existe µ∈Rtel que y=µx. On a alors :
f(y) = f(µx) = µf (x) = µλx,
Ainsi, f(y)∈D. On en déduit que Dest stable par f.
(b) D’après la question précédente, il suffit de déterminer les vecteurs propres de B. La matrice Bétant
diagonale, ses valeurs propres sont ses éléments diagonaux, donc Spec(B) = {1,2}.
Sous-espace propre E1
On a B−I3=
0 1 0
0 0 0
0 0 1
. En faisant une permutation cyclique des lignes (L1↔L2puis L2↔L3), on
obtient une matrice échelonnée ayant deux lignes non nulles, donc de rang 2. Les opérations élémentaires
conservant le rang, rg(B−I3) = 2. D’après le théorème du rang, appliqué à l’endomorphisme de R3(de
dimension finie) canoniquement associé à B−I3, on en déduit que son noyau, égal à E1, est de dimension
1. De plus, les colonnes de B−I3vérifient la relation C1= 0, donc le vecteur e1=
1
0
0
est dans E1. En
tant que vecteur non nul de E1, de dimension 1, il forme à lui seul une base de E1:E1= Vect 
1
0
0
Sous-espace propre E2
On a B−2I3=
1 1 0
0 1 0
0 0 0
. C’est une matrice échelonnée ayant deux lignes non nulles, donc de rang 2.
D’après le théorème du rang, appliqué à l’endomorphisme de R3(de dimension finie) canoniquement associé
1

àB−2I3, on en déduit que son noyau, égal à E2, est de dimension 1. De plus, les colonnes de B−2I3
vérifient la relation C3= 0, donc le vecteur e3=
0
0
1
est dans E2. En tant que vecteur non nul de E2, de
dimension 1, il forme à lui seul une base de E2:E2= Vect 
0
0
1
Ainsi, les vecteurs propres étant soit colinéaires à e1soit colinéaires à e3, les deux seules droites engendrées
par des vecteurs propres sont Re1et Re3. Ce sont donc les deux seules droites stables par g(de bases
respectives (e1)et (e3))
3. Soit pun entier naturel non nul.
(a) Soit F1,...,Fpdes sous-espaces vectoriels de Estables par f. Soit xun élément de p
P
k=1
Fk. Alors, il existe
(x1,...,xp)dans F1× · · · × Fptel que
x=x1+···+xp,donc: f(x) = f(x1) + ···+f(xp).
Or, les sous-espaces Fk,k∈[[1, p]], étant stables par f, pour tout k∈[[1, p]],f(xk)∈Fk. On en déduit que
f(x)est élément de F1× · · · × Fp.
Ainsi, p
P
k=1
Fkest un sous-espace vectoriel stable par f.
(b) D’après la question précédente, il suffit de montrer que chaque espace Ker(f−λkIdE)nk,k∈[[1, p]], est
stable par f.
Or, pour tout k∈[[1, p]],(f−λkIdE)nkest un polynôme en f, donc son noyau est stable par fd’après la
question I-1.
4. (a) Soit λun réel. Soit Fun sous-espace vectoriel de Estable par f. Soit x∈F. Alors f(x)∈F, et comme F
est un sous-esace vectoriel, λx ∈F, donc, f(x)−λx ∈F. Donc Fest stable par f−λIdE.
Soit Fun sous-espace vectoriel de Estable par f−λIdE, et soit x∈F. Alors f(x)−λx ∈F. De plus, F
étant un sous-espace vectoriel de E,λx ∈F, donc f(x)−λx +λx est dans F, puis f(x)∈F. Donc Fest
stable par F.
Par conséquent, les sous-espaces vetoriels de Estables par fsont exactement ceux stables par f−λIdE.
(b) Soit Fun sous-espace vectoriel stable par f. Soit x∈F. Alors f(x)∈F, puisque Fest stable par f, puis
f(f(x)) ∈F, donc f2(x)∈F. Ainsi, Fest stable par f2.
Ainsi, tout sous-espace vectoriel stable par fest aussi stable par f2
La réciproque est fausse. En effet, considérons A= 0 1
1 0!et fcanoniquement associé. Soit (e1, e2)la base
canonique de R2. Alors f(e1) = e2, donc Re1n’est pas stable par f. En revanche, A2=I2, donc f2= IdR2,
donc Re1est évidemment stable par f2.
(c) Soit fun automorphisme de E. Soit Fun sous-espace de Estable par f. Alors f(F)⊂F. Soit alors g
l’endomorphisme de Fobtenu en restreignant fàF(cela donne bien un endomorphisme de Fdu fait que
f(F)⊂F). fétant injective, gl’est également. De plus, Eétant de dimension finie, Fl’est également.
Ainsi, gétant un endomorphisme injectif d’un espace de dimension finie, gest un automorphisme de F. On
en déduit que pour tout x∈F, il existe (un unique) y∈Ftel que g(y) = x, donc tel que f(y) = x. Par
définition, fétant bijective, on a alors y=f−1(x). Ainsi, pour tout x∈F,f−1(x)est un élément de F.
On en déduit que Fest stable par f−1
Ainsi, tout sous-espace stable par fest stable par f−1, et réciproquement.
(La réciproque est obtenue en appliquant le sens direct à l’automorphisme g=f−1)
(d) Soit fun endomorphisme de Elaissant stable tout sous-espace vectoriel de E. En particulier, il laisse stable
toute droite de E.
2

Première méthode.
On en déduit que pour tout x∈E,f(x)∈Rx, puisque Rxest stable par f, donc xet f(x)sont liés.
Un exercice fait en TD nous assure alors que fest une homothétie (je vous renvoie à vos notes pour une
correction).
Deuxième méthode.
Toute droite est stable par f. Or, les droites stables sont exactement celles engendrées par des vecteurs
propres. Par conséquent, tout vecteur non nul est vecteur propre de f.
Supposons que fadmette deux valeurs propres distinctes λet µ. Les deux espaces propres Eλet Eµsont
en somme directe. Par conséquent, si xet ysont deux vecteurs propres associés à λet µ(donc non nuls),
x+yn’appartient ni à Eλni à Eµ(sinon x∈Eµou y∈Eλ, ce qui contredirait que la somme est directe).
Ainsi, tout vecteur non nul (c’est le cas de x+y, toujours du fait que la somme est directe) étant vecteur
propre de f, on en déduit que x+yest un vecteur propre associé à une valeur propre ν, distincte de λet
µ. Alors x+y∈Eν∩(Eλ+Eµ). Cette intersection est donc non réduite à {0}. On en déduit que la somme
Eλ+Eµ+Eνn’est pas directe, ce qui contredit un théorème du cours sur les espaces propres.
Ainsi, fne peut pas admettre deux valeurs propres distinctes. Ainsi, tout vecteur non nul de Eest vecteur
propre de la même valeur propre λ, donc pour tout x∈Enon nul (et nul aussi), f(x) = λx. Par conséquent,
fest une homothétie.
(e) Un tel endomorphisme ne doit pas admettre de valeur propre (dans R), sinon il admet un vecteur propre,
et donc il existe une droite stable, d’après la question I-2a.
Réciproquement, un endomorphisme de R2n’admettant par de valeur propre réelle n’admet aucun vecteur
propre, donc il n’existe aucune droite stable par f. Les espaces stables sont donc nécessairement de dimension
différente de 1, donc, puisque ce sont des sous-espace de R2, ils ne peuvent être égaux qu’à {0}ou R2.
Soit A= 0−1
1 0 !, et fcanoniquement associé. Alors A−λI2est non inversible si et seulement si son
déterminant est nul, donc si et seulement si
0 = 
λ−1
1λ
=λ2+ 1.
Il n’existe pas de réel λsatisfaisant cette équation , donc SpecR(f) = ∅. D’après l’argument précédent, les
seuls sous-espaces de R2stables par fsont donc R2et ∅.
5. (a) C’est une question de cours.
Soit Hun hyperplan, et Sun supplémentaire. Alors Sest de dimension 1, donc engendré par un vecteur x.
On a alors H⊕Rx=E. On définit ϕ:E−→ Rpar ϕ(y) = λ, où y=h+λx est l’unique décomposition de
ysous la somme H⊕Rx. Alors ϕest une forme linéaire non nulle sur E, et de manière évidente, H= Ker ϕ.
Réciproquement, soit ϕune forme linéaire non nulle sur E. Alors, Eétant de dimension finie, d’après le
théorème du rang,
dim E= dim Im ϕ⊕dim Ker ϕ.
De plus, Im ϕest un sous-espace vectoriel de R, non réduit à {0}(car ϕest non nulle), donc Im ϕ=R.
Ainsi :
dim Ker ϕ= dim E−1,
et on en déduit que Ker ϕest un hyperplan de E.
(b) Soit ϕune forme linéaire non nulle sur E, et H= Ker ϕ.
i. Supposons que Hest stable par f. Soit Sun supplémentaire de H,S=Rx. Alors ϕ(f(x)) et ϕ(x)sont
deux réels, et ϕ(x)6= 0, car x6∈ Ker ϕ=H. Par conséquent, il existe λ∈Rtel que ϕ(f(x)) = λϕ(x).
Soit y∈E. Alors il existe h∈Het µ∈Rtel que y=h=µx. On a alors :
ϕ(f(y)) = ϕ(f(h)) + µϕ(f(x)) = µλϕ(x),
3

puisque ϕ(f(h)) = 0, car H= Ker ϕest stable par f. De plus :
ϕ(y) = ϕ(h) + µϕ(x) = µϕ(x).
Ainsi, pour tout y∈E,ϕ(f(y)) = λϕ(y), donc ϕ◦f=λϕ. Il existe donc bien λ∈RR tel que ϕ◦f=λϕ.
Réciproquement, supposons qu’il existe λ∈Rtel que ϕ◦f=λϕ. Soit un tel λ. Soit x∈H. Alors
λϕ(x) = 0, donc :
ϕ(f(x)) = λϕ(x) = 0,puis: f(x)∈Ker ϕsoit: f(x)∈H.
Ainsi, Hest bien stable par f·
ii. Hest stable par fsi ey seulement s’il existe λ∈Rtel que ϕ◦f=λϕ, donc tel que LA =λL, donc,
en transposant, tel que t At L=λt L.
Partie II – Le cas où l’endomorphisme est diagonalisable.
Dans cette partie, on considère un endomorphisme fde Ediagonalisable, et on note λ1,...,λpses valeurs propres
distinctes, et E1,...,Eples sous-espaces propres correspondants.
1. Si p= 1, alors fest un endomorphisme diagonalisable ayant une seule valeur propre λ. Il existe donc une base
dans laquelle sa matrice est λIn, donc f=λIdE, et par conséquent, tout sous-espace de Eest stable par f.
2. On suppose l’entier pau moins égal à 2. On considère un sous-espace vectoriel Fde Estable par f, et un élément
xde F.
(a) Puisque fest diagonalisable, p
P
k=1
Ek=E, d’où l’existence de (x1,...,xp). L’unicité provient du fait que la
somme des espaces propres est directe.
(b) Fétant un sev, on a λ1x∈F. De plus, Fétant stable par f,f(x)est dans F. Ainsi, f(x)−λ1xest élément
de F. Or :
f(x)−λ1x=
p
X
k=1
f(xk)−
p
X
k=1
λ1xk=
p
X
k=1
λkxk−
p
X
k=1
λ1xk=
p
X
k=1
(λk−λ1)xk=
p
X
k=2
(λk−λ1)xk,
du fait que pour tout k∈[[1, p]],f(xk) = λkxk, puisque xkest dans le sous-espace propre associé à la valeur
propre λk. Ainsi, ce dernier vecteur est un élément de F.
(c) On raisonne (pour xnon nul) par récurrence descendante sur le nombre k∈[[1, p]] correspondant au plus
petit indice tel que xk6= 0 dans la décomposition x=x1+···+xp.
Si k=p, alors x=xp, donc xp∈Ep, et les autres vecteurs xkétant nuls, ils sont respectivement dans les
espaces Ekcorrespondants.
Soit k∈[[1, p −1]] tel que pour tout vecteur ynon nul de Ftel que le plus petit indice k′correspondant à
un vecteur non nul dans la décomposition y=y1+···+ypvérifie k′> k.
Soit, s’il en existe, x=xk+...+xpdans F, avec xk6= 0. Alors, comme précédemment, f(x)−λkxest
dans F. Or :
f(x)−λkx=
p
X
ℓ=k+1
(λℓ−λk)xk.
D’après l’hypothèse de récurrence appliquée à ce vecteur, pour tout ℓ∈[[k+ 1, p]],(λℓ−λk)xk∈F, et
comme λℓ6=λk,xℓ∈F. On en déduit, du fait que xk+···+xpest dans F, que xkest dans F. Cela montre
la propriété au rang k.
D’après le principe de récurrence, on en déduit que la propriété est toujours vraie.
3. Soit Fun sous-espace vectoriel de Estable par F. Alors, soit Fk=F∩Ek. On a alors F=
p
P
k=1
Fk. En effet :
•Pour tout k∈[[1, p]],Fk⊂F, donc p
P
k=1
Fk⊂F.
4

•Soit x∈F. Alors il existe x1,...,xpdans E1,...,Eptels que x=x1+···+xp. D’après la question précédente,
les vecteurs x1,...,xpsont dans F. Ainsi, les vecteurs x1,...,xpsont éléments de F1,...,Fprespectivement.
Ainsi x∈F1+···+Fp.
Réciproquement, soit pour tout k∈[[1, p]],Fkun sous-espace vectoriel de Ek, et soit F=
p
P
k=1
Fk. Soit x∈F. Il
existe x1∈F1,...,xp∈Fptels que x=x1+···+xp. Alors :
f(x) =
p
X
k=1
f(xk) =
p
X
k=1
λkxk,
car pour tout k∈[[1, p]],xkest dans Ek. Ainsi, puisque pour tout k∈[[1, p]],λkxk∈Fk, on en déduit que f(x)
est dans F. Ainsi, Fest stable par f.
4. Soit Fun sous-espace vectoriel stable par f, et soit ginduit par fsur F. D’après la question précédente, il existe
des sous-espaces Fkde Ek,k∈[[1, p]], tels que F=Pp
k=1 Fk. Les espaces propres étant en somme directe, cette
somme est également directe :
F=
p
M
k=1
Fk.
De plus, pour tout λ∈R,Ker(g−λIdF) = Ker(f−λIdE)∩F. Ainsi :
•si λn’est pas valeur propre de f,Ker(f−λIdE) = {0}, donc aussi Ker(f−λIdF), et par conséquent, λn’est
pas valeur propre de g;
•si λest valeur propre de f,λ=λk,k∈[[1, p]], alors Ker(f−λkIdF) = Ek, et Ker(g−λkIdF) = Fk=Ek⊂F.
Ainsi, λkest valeur propre de gsi et seulement si Fk6={0}, et dans ce cas, Fkest le sous-espace propre associé
àλk.
Ainsi, la somme des espaces propres de gvaut :
M
k∈[[1,p]]
Fk6={0}
=
p
M
k=1
Fk=F.
La somme des espaces propres étant égale à l’espace Ftout entier (espace de définition de g), on en déduit,
d’après un critère de diagonalisabilité du cours, que gest diagonalisable.
5. Partons de la remarque suivante : S’il existe un sous-espace propre de dimension au moins 2, ce sous-espace
admet une infinité de sous-espaces de dimension 1 (droites vectorielles). Chacune de ces droites est stable. Donc
il existe une infinité de sous-espaces stables de Epar f.
Ainsi, nétant la dimension de E, si le nombre de valeurs propres distinctes est différent de n(donc plus petit
strictement), alors, comme la somme des dimensions des espaces propres est n(fétant diagonalisable), on en
déduit qu’il existe un espace propre de dimension au moins 2, donc il existe une infinité de sous-espaces stables
par f.
Si le nombre de valeurs propres distinctes est égal à n, alors tous les espaces propres sont de dimension 1. Dans ce
cas, tout Ek,k∈[[1, n]] admet exactement deux sous-espaces vectroriels : {0}et lui-même. Ainsi, les sous-espaces
stables Fsont décrits par :
F=F1⊕ · · · ⊕ Fn,
où pour tout k∈[[1, n]],k={0}ou k=Ek. Ainsi, un tel sous-espace Fest déterminé par le choix d’un sous-
ensemble Ide [[1, n]] correspondant aux indices kpour lesquels Fk=Ek. L’ensemble des sous-espaces stables par
fest donc :
{M
k∈I
Ek, I ∈ P([[1, n]]).}
Comme deux choix différents de Idonnent deux sous-espaces différents, on en déduit que le nombre de sous-
espaces stables est égal au cardinal de P([[1, n]]), c’est-à-dire 2n.
5