ALG`EBRE LINÉAIRE : COMPLÉMENTS DE COURS POUR L

ALG` EBRE LIN´ EAIRE : COMPL´ EMENTS DE COURS POUR
L’AGR´ EGATION EXTERNE
OLIVIER SERMAN
Le but de ces notes est de pr´esenter le th´eor`eme des invariants de similitude, ainsi que
divers compl´ements (concernant notamment les notions d’endomorphismes cycliques et d’en-
domorphismes semi-simples) qui se pr´esentent naturellement au cours de cette ´etude.
Rappelons d`es `a pr´esent que le probl`eme central auquel r´epond ce th´eor`eme est celui
de d´ecrire les orbites de l’action par conjugaison du groupe lin´eaire GL(E) d’un espace
vectoriel de dimension finie Esur l’espace L(E) des endomorphismes de E, ou, de mani`ere
´equivalente, les orbites de l’action par conjugaison de GLn(k) sur l’espace des matrices 1
Mn(k). Ces orbites sont appel´ees classes de similitude.
On commence par introduire et ´etudier les sous-espaces cycliques, qui sont les briques
´el´ementaires mises en œuvre pour d´ecrire les classes de similitude. On pr´esente ensuite le
th´eor`eme des invariants de similitude, et quelques unes de ses cons´equences 2.
J’ai essay´e de donner une pr´esentation lin´eaire du sujet, avec pour seuls pr´erequis la
notion de sous-espaces stables et le lemme des noyaux (et ses cons´equences essentiellement
imm´ediates concernant la r´eduction des endomorphismes : trigonalisation, diagonalisation,
d´ecomposition de Dunford 3). J’ai inclus au fil du texte divers commentaires concernant
l’approche en termes de k[X]-modules.
Dans toute la suite, kd´esigne un corps commutatif (et k[X] l’anneau des polynˆomes en
une ind´etermin´ee X).
On note L(E) l’alg`ebre des endomorphismes d’un espace vectoriel de dimension finie E.
On d´esigne par χuet πules polynˆomes caract´eristique et minimal d’un endomorphisme
u∈L(E).
Rappel. Rappelons le point de d´epart de l’approche en termes de k[X]-modules :
Tout endomorphisme ud’un espace vectoriel Emunit Ed’une structure de k[X]-module.
Cette structure est d´efinie de la seule fa¸con possible :
k[X]×E−→ E
(P, x)7−→ P(u)(x).
On notera Eule k[X]-module ainsi d´efini. Cette structure d´epend de l’endomorphisme u. La
remarque suivante est essentielle :
Les sous-k[X]-modules de Eusont exactement les sous-espaces de Estables par u.
Rappelons ´egalement qu’on d´esigne par k[u] l’alg`ebre des polynˆomes en u. C’est une sous-
alg`ebre (commutative !) de L(E), qui est isomorphe `a k[X]/(πu). En particulier, c’est un
k-espace vectoriel de dimension deg(πu) :
dimkk[u] = deg(πu).
Date: 7 juin 2015.
1. En d’autres termes, le th´eor`eme donne une description du quotient (ensembliste) Mn(k)/GLn(k).
2. On donne en particulier quelques r´esultats de nature topologique, qui montrent que la topologie quotient
dont h´erite Mn(k)/GLn(k) n’est pas s´epar´ee.
3. Profitons-en pour signaler la possibilit´e de d´eterminer la d´ecomposition de Dunford d’un endomorphisme
sans connaˆıtre ses valeurs propres, via une m´ethode effective directement inspir´ee de la m´ethode de Newton
(voir par exemple [2], Probl`eme 3.1).
1

1. Endomorphismes cycliques
Soit Eun k-espace vectoriel de dimension n.
D´efinition 1.1 (Endomorphisme cyclique).Un endomorphisme u∈L(E) est cyclique s’il
existe x∈Etel que
E=hxiu= Vect(x, u(x), u2(x), . . . , un−1(x)).
Remarque 1.2. Pourquoi une telle d´efinition ? Il faut absolument remarquer que hxiuest le
plus petit sous-espace stable par ucontenant x. On peut ainsi appeler hxiule sous-espace
engendr´e par x. Dire que uest cyclique revient donc `a dire que Eest monog`ene.
Remarquons que cela revient encore `a dire qu’il est monog`ene pour sa structure de k[X]-
module associ´ee `a u: en effet,
hxiu={P(u)(x), P ∈k[X]}=k[X]·x
est bien le k[X]-sous-module 4de Euengendr´e par x.
On a les ´equivalences 5:ucyclique ⇔ ∃x, k[X]ϕx −→ E, P 7→ P(u)(x) est surjective,
⇔ ∃x, k[u]ϕx −→ E, f 7→ f(x) est surjective,
⇔ ∃x, k[u]ϕx −→ Eest un isomorphisme.
En particulier 6,ucyclique ⇒deg(πu) = dimkE.
Remarquons que, dans les ´equivalences pr´ec´edentes, on peut remplacer les mentions ∃x
tel que k[X]ϕx −→ E, P 7→ P(u)(x) v´erifie ... par il existe un morphisme de k[X]-modules
k[X]→Eutel que ... . En effet, un morphisme de k[X]-modules ϕ:k[X]→Eu(ou
k[u]→Eu) est caract´eris´e par l’image de 1 : en notant xcette image, on a ϕ=ϕx.
1.3. Interpr´etation matricielle. Soit uun endomorphisme cyclique, et xun g´en´erateur de
E. La famille (x, u(x), . . . , un−1(x)) forme alors une base de E, et un(x) s’´ecrit donc un(x) =
−a0x−a1u(x)− · · · − an−1un−1(x). Dans la base (x, u(x), . . . , un−1(x)), uadmet donc la
matrice suivante (souvent appel´ee matrice compagnon)
C(P) =
0 0 · · · 0−a0
1 0 ....
.
.−a1
0 1 ...0.
.
.
.
.
.......0−an−2
0· · · 0 1 −an−1
,
o`u Pd´esigne le polynˆome P(X) = Xn+an−1Xn−1+· · · +a1X+a0.
On v´erifie alors que le polynˆome caract´eristique de uest ´egal `a P. On a par d´efinition
P(u)(x) = 0, ce qui entraˆıne (puisque xengendre E)P(u) = 0, i.e. πu|P=χu. Comme
deg πu=n, on en d´eduit
πu=χu=P.
En particulier, deux endomorphismes cycliques sont conjugu´es si et seulement si ils ont le
mˆeme polynˆome minimal.
Exemple 1.4 (Endomorphismes simples).Rappelons qu’un endomorphisme est simple
si ses seuls sous-espaces stables sont {0}et E. Un tel endomorphisme est bien sˆur cyclique :
le sous-espace hxiuengendr´e par un ´el´ement x∈E, x 6= 0 est stable et non nul, donc ´egal `a
Etout entier.
4. Cette remarque montre combien est naturelle l’utilisation du langage des k[X]-modules dans cette
situation.
5. Seule la derni`ere ´equivalence m´erite un mot : elle est imm´ediate d`es que l’on sait que dimkk[u]6dimkE,
ce qui r´esulte de Cayley-Hamilton. Mais, pour ne pas avoir `a se priver d’une ´eni`eme d´emonstration de ce
th´eor`eme, notons comment s’en passer : puisque uest cyclique, une relation Pn
i=0 aiui(x) = 0 de d´ependance
lin´eaire non triviale entre les n+ 1 vecteurs x, u(x),...,un(x) fournit un polynˆome P=PaiXiannulant u.
On a alors πu|P, d’o`u deg πu6deg P6n.
6. On verra plus loin (Corollaire 2.6) qu’on a en fait ´equivalence.
2

Rappelons au passage l’importante proposition suivante :
Proposition 1.5 (Caract´erisation des endomorphismes simples).Un endomorphisme ud’un
espace vectoriel de dimension finie est simple si et seulement si son polynˆome caract´eristique
χuest irr´eductible.
D´emonstration. Si uest simple, il est cyclique, de polynˆome minimal πu=χu. Si χu=P Q,
alors P(u)Q(u) = χu(u) = 0, de sorte que P(u) ou Q(u) n’est pas injectif. Si P(u) n’est
pas injectif, alors ker P(u) est un sous-espace stable non nul, et la simplicit´e de uassure que
ker P(u) = E, i.e. P(u) = 0. Le polynˆome Pest donc un multiple de πu=χu, et Qest donc
inversible. Cela montre que χuest irr´eductible.
La r´eciproque est ´evidente : soit F⊂Eun sous-espace stable par u; alors χu|Fdivise χu,
et l’irr´eductibilit´e de χuentraˆıne F={0}ou E.
Exemple 1.6 (Blocs de Jordan).Un endomorphisme udont une matrice est un bloc de
Jordan de taille net de valeur propre λest un endomorphisme cyclique, automatiquement
associ´e au polynˆome χu(X) = (X−λ)n:
λ1 0 · · · 0
0λ1....
.
.
.
.
..........0
.
.
....λ1
0· · · · · · 0λ
∼ C((X−λ)n).
Les g´en´erateurs de Esont les ´el´ements de E\ker((u−λid)n−1).
En particulier, si λ= 0, on obtient que les endomorphismes nilpotents d’indice maximal
sont cycliques (et associ´es au polynˆome Xn).
Exemple 1.7 (R´ecurrences lin´eaires).Un exemple `a mentionner survient lors de l’´etude
des suites r´ecurrentes lin´eaires : on cherche `a d´ecrire l’ensemble des suites (un)n>0∈CN`a
valeurs complexes satisfaisant la relation de r´ecurrence (lin´eaire d’ordre r)
un+r=αr−1un+r−1+αr−2un+r−2+· · · +α1un+1 +α0un,∀n>0(1)
avec α0, . . . , αr−1∈C,α06= 0.
L’ensemble des solutions forme un sous-espace vectoriel Ede l’espace CNdes suites `a
valeurs complexes, et on v´erifie sans mal que l’application
ϕ:E−→ Cr
(un)n>07−→ (u0, . . . , ur−1)
est un isomorphisme : Eest donc de dimension r, et les suites δ(0), . . . , δ(r−1) d´etermin´ees
par les conditions initiales δ(i)
j=δij , 0 6j6r−1 en forment une base.
L’espace Eposs`ede un endomorphisme naturel, `a savoir le morphisme de d´ecalage T∈
L(E) envoyant la suite usur la suite T u d´efinie par (T u)n=un+1, n >0. Son int´erˆet ici
r´eside en l’observation
pour toute suite uv´erifiant (1), on a un= (Tnu)0,∀n∈N
qui motive l’´etude des it´er´ees Tndu morphisme T.
La matrice de ce morphisme dans la base form´ee par les suites δ(i)est
0 1 0 · · · 0
0 0 1 ....
.
.
.
.
..........0
0· · · 0 0 1
α0α1· · · αr−2αr−1
,
d’o`u l’on d´eduit aussitˆot que Test cyclique : en effet, Eest engendr´e (par exemple) par δ(r−1)
(voir que Vect(δ(r−1), . . . , T k(δ(r−1))) = Vect(δ(r−1), . . . , δ(r−1−k)) pour tout k= 0, . . . , r−1).
3

En particulier, la matrice pr´ec´edente est semblable `a la matrice compagnon C(P) associ´ee
au polynˆome P(X) = χT(X) = Xr−αr−1Xr−1− · · · − α1X−α0.
Saisissons cette occasion pour rappeler comment la consid´eration de ce morphisme permet de
r´esoudre la r´ecurrence lin´eaire (1). Le lemme des noyaux permet de d´ecomposer l’espace des solutions
Een somme directe des sous-espaces caract´eristiques de T
E=Mker(T−λiid)ri
o`u les λisont les racines de P, et les rileurs multiplicit´es. On se ram`ene ainsi au cas des suites
v´erifiant la relation
un+r=rλun+r−1−r
2λ2un+r−2+· · · + (−1)r−kr kλr−kun+k+· · · + (−1)rλrun,∀n>0,(2)
soit encore au cas o`u Padmet une seule racine, qui est non nulle : autrement dit, Ta un seul bloc
de Jordan .
On peut alors ´ecrire Tsous la forme T=λid + N, avec Nnilpotent d’indice r, et les puissances
Tnde Tsont alors ´egales `a Tn=Pr−1
k=0 n
kλn−kNk, et on a alors, pour toute suite (un)n>0v´erifiant
(2),
un= (Tn(u))0=
r−1
X
k=0 n
kλn−k(Nk(u))0,∀n>0.
On obtient ainsi directement que toute suite satisfaisant la relation de r´ecurrence (2) est combinaison
lin´eaire des suites (nkλn)n>0,k= 0, . . . , r −1. Revenant au probl`eme initial, on a finalement montr´e :
Proposition 1.8. Soit P(X) = Xr−αr−1Xr−1− · · · − α1X−α0=Qm
i=1(X−λi)rile polynˆome
associ´e `a la relation de r´ecurrence (1). Les solutions de (1) sont alors les combinaisons lin´eaires des
suites
(nkλn
i)n>0, i = 1, . . . , m, k = 0, . . . , ri−1.
Qui plus est, ces suites sont lin´eairement ind´ependantes.
Exercice 1.9 (Endomorphismes cycliques et sous-espaces stables).Si uest cyclique,
alors En’admet qu’un nombre fini de sous-espaces stables. La r´eciproque est vraie lorsque
le corps kest infini 7.
Cet excellent exercice montre une nouvelle fois que le point de vue k[X]-module est incontournable.
Soit uun endomorphisme cyclique. Il existe donc x∈Etel que ϕx:k[u]→Eu, f 7→ f(x) est un
isomorphisme de k[X]-modules. On a alors les correspondances suivantes
F⊂Estable ←→ ϕ−1
x(F)⊂k[u] id´eal de k[u]
←→ Iid´eal de k[X] contenant (πu) (car k[u]'k[X]/(πu))
←→ D∈k[X] diviseur (unitaire) de πu(car k[X] est principal).
Les sous-espaces de Estables par ucorrespondent donc bijectivement aux diviseurs unitaires de πu
(dans k[X]), qui sont en nombre fini 8.
Soit maintenant uun endomorphisme d’un espace vectoriel Ed´efini sur un corps infini kn’admet-
tant qu’un nombre fini de sous-espaces stables. Comme kest infini, Ene peut ˆetre r´eunion de ses
sous-espaces stables propres. Il existe donc x∈En’appartenant `a aucun sous-espace stable F6=E.
Le sous-espace hxiuengendr´e par uest alors un sous-espace stable qui n’est contenu dans aucun
sous-espace stable propre. C’est donc Elui-mˆeme, et uest bien cyclique.
2. Sous-espaces cycliques
On introduit ici la notion de sous-espace cyclique pour un endomorphisme u∈L(E),
essentielle `a la suite : l’objet du th´eor`eme des invariants de similitude est de fournir une
d´ecomposition de Een somme directe de tels sous-espaces, qui caract´erise la classe de simi-
litude de u.
On d´esigne toujours par Eun k-espace vectoriel de dimension n, et uun endomorphisme
de E.
7. Si kest fini, le nombre de sous-espaces stables est toujours fini !
8. On peut bien sˆur pr´ef´erer paraphraser ainsi ce qui pr´ec`ede : soit Fun sous-espace-stable de E. Alors
I={P∈k[X]|P(u)(x)∈F}est un id´eal de k[X] contenant πu. Cet id´eal est donc de la forme I= (D)
pour un diviseur unitaire Dde πu, et F=hD(u)(x)iu. Tout sous-espace stable de Eest donc d´efini par un
diviseur de πu.
4

D´efinition 2.1 (Sous-espace cyclique).Un sous-espace F⊂Estable par uest dit cyclique
(ou cyclique sous u) si la restriction u|Fde u`a Fest cyclique.
Remarque 2.2.
— Cela signifie qu’il existe x∈Etel que F=hxiuest le sous-espace engendr´e par u. Ou
encore que Fest un sous-k[X]-module monog`ene : en effet, dire que xengendre Fsi-
gnifie que (x, u(x), . . . , udim F−1(x)) est une base de F, autrement dit que le morphisme
de k[X]-modules k[X]→Fenvoyant 1 sur xest surjectif.
— L’endomorphisme uest cyclique si et seulement si Eest un espace cyclique.
— Si Fest cyclique, alors πu|F=χu|F.
Proposition 2.3 (Cayley–Hamilton).Soit u∈L(E). Alors πu|χu.
D´emonstration. Montrons que χu(u) = 0. Soit x∈E, et F=hxiu. Comme Fest stable,
χu|F|χu. Mais, comme Fest cyclique, χu|F(u)(x) = πu|F(u)(x) = 0, d’o`u χu(u)(x) = 0. 
Venons-en maintenant au principal r´esultat de cette section, qui est le point de d´epart de
la d´emonstration du th´eor`eme des invariants de similitude 9.
Th´eor`eme 2.4. Il existe un sous-espace cyclique F⊂Etel que πu|F=πu.
Remarque 2.5. Cet ´enonc´e est naturel : en effet, si Fest un sous-espace cyclique (ou mˆeme
simplement stable), alors πu|Fdivise automatiquement πu, et il est l´egitime de se demander
si l’´egalit´e peut avoir lieu pour certains sous-espaces de E. Le th´eor`eme apporte une r´eponse
positive `a cette question.
Avant de donner la d´emonstration du th´eor`eme 2.4, ´enon¸cons en un corollaire `a retenir :
Corollaire 2.6 (Caract´erisation des endomorphismes cycliques).
ucyclique ⇔πu=χu
⇔deg πu= dimkE.
D´emonstration. On a d´ej`a vu que ucyclique implique πu=χu. Soit donc utel que πu=χu.
D’apr`es 2.4, Econtient un sous-espace cyclique Fde polynˆome minimal πu=χu. On a donc
dim F= deg χu= dim E, i.e. E=Fest cyclique. 
En particulier, un endomorphisme (ou une matrice) `a valeurs propres deux `a deux dis-
tinctes est cyclique.
Exercice 2.7. Soit k=Rou C, et Eun k-espace vectoriel de dimension n. Montrer que le
lieu {u∈L(E)|χu=πu}est un ouvert connexe dense dans L(E). 10
Le th´eor`eme 2.4 est un r´esultat d’existence : on doit trouver un vecteur x∈Etel que
πu|hxiu=πu.
Soit πu=QPαi
ila d´ecomposition de πuen produits d’irr´eductibles deux `a deux non associ´es.
On a alors une d´ecomposition E=⊕ker Pαi
i(u) en somme de sous-espaces stables. L’id´ee est
de d´emontrer d’abord le th´eor`eme pour chacun de ces sous-espaces, puis de recoller les
morceaux. On s’appuie sur les deux lemmes suivants :
9. Il faut remarquer ici que cet ´enonc´e est contenu dans le th´eor`eme des invariants de similitude.
10. Pour l’ouverture, noter que χu=πu⇔ ∃x∈E|det(x, u(x),...,un−1(x)) 6= 0 (ou, mieux, que χu=πu
´equivaut `a rg(id, u, . . . , un−1) = n). Pour la connexit´e, le plus rapide est de relier u`a un endomorphisme
`a valeurs propres deux `a deux distinctes (donc cyclique), et de noter que la classe de similitude d’un tel
endomorphisme est connexe (si k=C, cela r´esulte de la connexit´e de GL(E) ; si k=R, cela vient de ce
que le stabilisateur d’un tel endomorphisme contient un automorphisme de d´eterminant n´egatif). Enfin la
densit´e s’obtient pour k=Cen remarquant `a nouveau qu’un endomorphisme `a valeurs propres deux `a deux
distinctes est cyclique. Si k=R, on peut adapter l’argument utilis´e pour Cpour montrer que les matrices
dont le polynˆome caract´eristique est sans carr´e sont denses dans Mn(R) (commencer par trigonaliser sur C,
pour ensuite bouger pertinemment les paires de valeurs propres conjugu´ees, et enfin conclure en se rappelant
que deux matrices r´eelles semblables dans Mn(C) sont d´ej`a semblables dans Mn(R) (pourquoi ?)). On peut
aussi utiliser le th´eor`eme 3.1. Ou encore remarquer que le lieu consid´er´e contient, pour tout x, l’ensemble
{u∈L(E)|det(x, u(x),...,un−1(x)) 6= 0}qui, pour xnon nul, est un ouvert dense (son compl´ementaire est
le lieu des z´eros dans Mn(k) d’un polynˆome non nul, donc est d’int´erieur vide).
5