format pdf - Georges Comte

Préparation à l’agrégation externe de mathématiques
Université de Nice-Sophia-Antipolis
Année 2009-2010
Georges Comte
Le groupe orthogonal d’une forme quadratique
Notations. — Dans la suite k désigne un corps commutatif de caractéristique = 2.
1. Endomorphismes adjoints dans un espace quadratique.
Définition . — On dit que le couple (E, φ) est un espace quadratique lorsque E est un k-espace
vectoriel et φ une forme bilinéaire symétrique non dégénérée sur E, ie : ∀x ∈ E, (∀y ∈ E, φ(x, y) =
0 ⇒ x = 0) ou encore gφ : E → E ∗ , définie par dφ (x) : y → φ(x, y) est injective (et donc est un isomorphisme
si dim(E) < ∞, puisque dans ce cas dim(E) = dim(E ∗ )).
Dans la suite de cette section, on fixe (E, φ) un espace quadratique et Q sa forme quadratique sur E
associée.
Définition. — Soit u ∈ L(E). S’il existe v ∈ L(E) tel que :
∀x, y ∈ E, φ(u(x), y) = φ(x, v(y)),
l’endomorphisme v est unique du fait du caractère non dégénéré de φ.
l’endomorphisme adjoint de u. On le note u∗ .
On dit alors que v est un
Remarques. • Tous les endomorphismes n’admettent pas nécessairement un adjoint (†)
• Si u et v admettent des adjoints, il en est de même de u ◦ v et (u ◦ v)∗ = v ∗ ◦ u∗ , u∗∗ = u.
• L’ensemble des endomorphismes de E admettant un adjoint est une sous-algèbre de L(E).
L’application u → u∗ est linéaire et involutive.
• Si u est un automorphisme de E et si u et u−1 admettent des adjoints, on a : (u∗ )−1 = (u−1 )∗ .
Exercice 1. — Si u admet un adjoint et si H est un sous-espace stable de E par u, H ⊥ est stable
par u∗ .
Solution. Si y ∈ H ⊥ , x ∈ H, φ(x, u∗ (y)) = φ(u(x), y) = 0, puisque u(x) ∈ H.
2
Définitions. — • Un endomorphisme u de E est dit symétrique (resp. antisymétrique) ssi u∗ = u
(resp. u∗ = −u). On note Sφ (E) et Aφ (E) les sous-ensembles des endomorphismes de E symétriques et
antisymétriques. Ce sont deux sous-espaces supplémentaires de l’espace des endomorphismes admettant un
adjoint (poser u = 1/2(u + u∗ ) + 1/2(u − u∗ )).
• On dit qu’un automorphisme u de E est orthogonal ssi u admet un adjoint et u∗ = u−1 .
Remarque. — Le seul endomorphisme symétrique et antisymétrique est l’endomorphisme nul. Mais
un endomorphisme peut très bien être orthogonal et symétrique (cf les symétries orthogonale au paragraphe
3) ou orthogonal et antisymétrique (cf la rotation du plan euclidien d’angle π/2 du paragraphe 4).
(†) Considérons par exemple E = R[X] et φ(P, Q) = [0,1] P (t)Q(t) dt. La forme φ est
bilinéaire symétrique et définie (donc non dégénérée) positive. Soit alors u ∈ L(E) définie par :
√
u(P ) = [0,1] P (t)/ t dt, vu comme un polynôme constant. Si u possède un adjoint v, on a :
p
p
ai
1
φ(u(X n ), 1) = n+1/2
= φ(X n , v(1)). Si v(1) = i=0 ai X i , on a φ(X n , v(1)) = i=0 n+i+1
. Ceci
p
ai
1
dit que les deux fractions rationnelles X+1/2 et i=0 X+i+1 coı̈ncident sur N ; elles sont alors
égales. Mais ceci est contradictoire car l’une possède pour pôle 1/2 et l’autre n’a que des pôles
entiers.
1
Définition. — On dit qu’un endomorphisme u de E est normal ssi u admet un adjoint et u et u∗
commutent.
Remarques. — • Un endomorphisme symétrique, antisymétrique ou orthogonal est normal.
• Clairement, si F est un sous-espace de E stable par un endomorphisme u symétrique, antisymétrique
ou orthogonal, F est aussi stable par u∗ .
Cas de la dimension finie. • Si E est de dimension finie tout endomorphisme admet un adjoint, et
si B = (e1 , · · · , en ) est une base de E, si Ω = (φ(ei , ek )) est la matrice (inversible puisque le rang de φ est
dim(E)) de φ dans E dans B, la matrice de u dans B étant M , la matrice M ∗ de u∗ dans B est :
M ∗ = Ω−1 · t M · Ω
car ∀X, Y,
t
(1)
X t M ΩY = t XΩM ∗ Y .
En particulier s’il existe une base orthonormée B de E (ie si φ est définie positive)(‡), dans une telle
base M ∗ = t M , puisque dans ce cas Ω = In .
Remarques. — • L’existence de u∗ est directement fournie par la matrice M ∗ . On peut donner une
preuve plus directe de l’existence de u∗ : en dimension finie, l’application dφ : E → E ∗ est un isomorphisme
−1 t
t
et on a alors φ(u(x), y) = dφ (y)(u(x)) = (t u ◦ dφ )(y)(x) = dφ ([d−1
φ ◦ u ◦ dφ ](y))(x) = φ(x, dφ ◦ u ◦ dφ (y)).
t
Ce qui donne u∗ = d−1
φ ◦ u ◦ dφ .
n(n + 1)
n(n − 1)
, dim(Aφ (E)) =
.
• Si E est de dimension n, L(E) = Sφ (E) ⊕ Aφ (E), dim(Sφ (E)) =
2
2
∗
∗
• La formule (1) montre, toujours si E est de dimension finie, que det(u) = det(u ) et rg(u) = rg(u ).
• Si B est une base orthonormée de E et si M = Mat(u, B), on a u est symétrique (resp. antisymétrique,
orthogonal, normal) ssi M = t M (resp. M = −t M , M −1 = t M , M · t M = t M · M ).
Exercice 2. Soit (E, φ) un espace quadratique.
i- Soit u un automorphisme d’un espace quadratique (E, φ). Montrer que u est orthogonal ssi
φ(u(x), u(y)) = φ(x, y), pour tout x, y ∈ E. En déduire que si H est un sous-espace de E stable par u
(il est alors invariant, ie u(H) = H) alors H ⊥ est stable par u.
ii- Montrer que u est un automorphisme orthogonal de E ssi u est une bijection telle que ∀x, y ∈ E,
φ(u(x), u(y)) = φ(x, y). (Ind. Il suffit de prouver la linéarité de u, considérer pour cela z = u(αx + y) −
αu(x) − u(y) et montrer que pour tout t ∈ E, φ(z, t) = 0).
iii- Dans le cas où E est de dimension finie, montrer que u est un automorphisme orthogonal de E ssi
∀x, y ∈ E, φ(u(x), u(y)) = φ(x, y) (Ind. Ici on ne peut plus a priori utiliser la bijectivité de u pour montrer la
linéarité. En prenant une base orthogonale de E on montre que son image par u est une famille orthogonale,
n
donc est une base. Puis enfin la linéarité est obtenue de la façon suivante : pour x = i=1 xi ei on note
n
u(x) = i=1 yi u(ei ). On déduit alors de yi Q(u(ei )) = xi Q(ei ), puis comme Q(u(ei )) = Q(ei ) = 0, xi = yi ).
2. Le groupe orthogonal d’un espace quadratique.
Proposition 1. — L’ensemble des automorphismes orthogonaux de l’espace (E, φ) est un sous-groupe
de Gl(E). On le note O(E, φ), on l’appelle le groupe orthogonal de (E, φ).
2
(‡) il existe une base φ-orthogonale dès que φ est bilinéaire symétrique et E de dimension finie et
une base orthonormée ssi φ est définie positive.
2
Proposition 2. — Si (E, φ) est un espace quadratique de dimension finie, tout automorphisme
orthogonal a pour déterminant 1 ou −1. Ceux de déterminant 1 sont appelélés les rotations de (E, φ), ils
constituent un sous-groupe O + (E, φ), le groupe spécial orthogonal de (E, φ), distingué dans O(E, φ).
De plus [O(E, φ) : O + (E, φ)] = 2.
Preuve. L’identité uu∗ = Id implique det(u)2 = 1 et O + (E, φ) est le noyau du morphisme de groupe
det : O(E, φ) → {−1, 1}. 2
3. Exemples d’automorphismes orthogonaux d’un espace quadratique : les symétries
orthogonales.
Définition. — Soit E un espace vectoriel (non nécessairement quadratique). Un endomorphisme
involutif (ie u2 = IdE ou u−1 = u) est appelé une symétrie de E.
Exercice 3. Montrer que s est une symétrie de E ssi s = 2p − IdE , où p est le projecteur associé
p : E = ker(s + IdE ) ⊕ ker(s − IdE ) → ker(s − IdE ).
Solution. Si p : E = ker(s + IdE ) ⊕ ker(s − IdE ) → ker(s − IdE ) et si s = 2p − IdE , facilement
s2 = IdE .
Réciproquement comme X −1 et X +1 sont premiers entre eux, on a bien E = ker(s+IdE )⊕ker(s−IdE ).
Si p = 1/2(IdE + s) et q = 1/2(IdE − s), on a x = p(x) + q(x), p(x) ∈ ker(s − IdE ) et q(x) ∈ ker(s + IdE ).
Donc p est bien le projecteur p : E = ker(s + IdE ) ⊕ ker(s − IdE ) → ker(s − IdE ).
Définition. — Compte tenu de l’exercice précédent, on dit que la symétrie s de l’espace vectoriel
E, caractérisée par s = 2p − IdE , pour p : E = F ⊕ G → F , est la symétrie de E par rapport à F et
parallèlement à G.
Proposition 3. — Soit s la symétrie de l’espace quadratique (E, φ) par rapport à F et parallèlement
à G. Alors s est un endomorphisme symétrique de (E, φ) ssi G = F ⊥ ssi s est un automorphisme orthogonal.
On dit alors que s est la symétrie orthogonale par rapport à F .
Preuve.
- s est symétrique ssi p = 1/2(s + IdE ) est symétrique. Or si p∗ existe et p∗ = p,
ker(p∗ ) = (Im(p))⊥ ie G = F ⊥ . Réciproquement si G = F ⊥ , en écrivant x = p(x) + x , y = p(y) + y avec
x , y ∈ F ⊥ , il vient : φ(p(x), y) = φ(x, p(y)) = φ(p(x), p(y)).
- s = s−1 est un automorphisme orthogonal ssi s∗ = s−1 = s ssi s est un endomorphisme
symétrique.
2
4. Exemple d’automorphismes orthogonaux : ceux d’un espace euclidien.
On se place à partir de maintenant dans un espace quadratique réel (E, φ) de dimension finie et Q est la
forme quadratique de φ. On suppose de plus que la forme bilinéaire φ est définie (φ(x, x) = 0 ssi x = 0 ou
encore 0 est le seul vecteur isotrope de φ), positive (∀x ∈ E, φ(x, x) ≥ 0). On dit alors que (E, φ) est un
espace euclidien.
Remarque. Notons que l’inégalité de Cauchy-Schwarz φ(x, y)2 ≤ Q(x)Q(y) (valable dès que φ est
symétrique positive) nous apprend que φ est définie dès que φ est non dégénérée. On peut donc définir un
espace euclidien en imposant seulement que la forme φ de l’espace quadratique (E, φ) soit positive.
L’exercice 2 montre que dans le cas où l’espace quadratique est de dimension finie, les automorphismes
orthogonaux sont les applications u telles que ∀x, y ∈ E, φ(u(x), u(y)) = φ(x, y). Dans le cas où (E, φ) est
3
euclidien, il s’agit des applications qui conservent la distance. On les appelle alors les isométries. On se
propose de les étudier dans le cas spécial dim(E) = 2.
On dira qu’un automorphisme de O − (E, φ) = O(E, φ) \ O + (E, φ) est une isométrie indirecte.
4.1. Isométries du plan.
On suppose ici que (E, φ) est un espace euclidien de dimension 2.
Proposition 4. — Soit u une isométrie de (E, φ). Il existe une base orthogonale de E dans laquelle
la matrice qui représente u est du type :
Sθ =
avec θ ∈ R/2πZ.
cos(θ)
sin(θ)
− sin(θ)
cos(θ)
+
Sθ
si u ∈ O (E, φ) ,
=
cos(θ)
sin(θ)
sin(θ)
− cos(θ)
si u ∈ O − (E, φ),
2
Remarque. Sθ est de spectre vide et antisymétrique pour θ = π/2, alors que Sθ est de spectre non
vide, symétrique et involutive, donc est une symétrie orthogonale (cf Proposition 3).
Proposition 5. — Les isométries indirectes de E sont les symétries orthogonales (par rapport aux
droites de E) de E.
Preuve. Si u est une isométrie indirecte, sa matrice dans une base orthogonale est Sθ . On vérifie que
Sθ Sθ = I2 , donc u est involutive et Sθ étant une matrice symétrique, la Proposition 3 assure que u est une
symétrie orthogonale. On peut aussi vérifier que χu (x) = (X − 1)(X + 1). Réciproquement une symétrie
orthogonale est une isométrie par la proposition 3 et est de déterminant −1 dans le cas d’une symétrie par
rapport à une droite dans E de dimension 2. 2
4.2. Réduction des endomorphismes orthogonaux d’une espace euclidien.
Théorème 6. — Si u est un endomorphisme d’un espace euclidien E de dimension finie, il existe une
bon de E telle que la matrice qui représente u dans cette base est du type :
i- diag(λ1 , · · · , λn ), si u est symétrique,
ii- diag(0, · · · , 0, α1 .J, · · · , αp .J), avec J =
0 −1
1 0
et αi = 0, si u est antisymétrique,
iii- diag(Ip , −Iq , Sθ1 , · · · , Sθ ), si u est une isométrie (ie ∈ O(E, φ)).
Remarque. Attention les cas discernés ne sont pas disjoints, par exemple une isométrie (plane) peut
être symétrique, antisymétrique et les énoncés ne sont pas contradictoires.
4
Problème — Minimalité du groupe orthogonal des formes non dégénérées.
I- Commutant du groupe orhogonal d’une forme quadratique.
Soit Q une forme quadratique sur l’espace vectoriel réel E.
I-1. Soit a ∈ E non isotrope, ie Q(a) = 0. Montrer que R · a ⊕ (R · a)⊥ = E.
Soit O (Q) = {v ∈ L(E); ∀u ∈ O(Q), v ◦ u = u ◦ v}, le commutant de O(Q)
I-2. Montrer que si v ∈ O (Q), il existe λ ∈ R indépendant de a tel que v(a) = λ · a.
I-3. Montrer que G est constitué des homothéties (est-il nécessaire que k = R ?).
II- Minimalité du groupe orthogonal d’une forme quadratique non dégénérée.
Soit maintenant q une autre forme quadratique sur E, de dimension finie. On suppose Q non dégénérée
et note φ et Φ les formes polaires de q et Q.
II-1. Montrer qu’il existe u ∈ L(E) tel que ∀x, y ∈ E, φ(x, y) = Φ(u(x), y) et qu’alors u est Φsymétrique.
II-2. Montrer : O(q) ⊂ O(Q) =⇒ O(q) = O(Q) en montrant que u commute avec tous les éléments de
O(q) et en utilisant I-3.
Solution.
I-1. On sait que le sev de dimension finie H de E est non isotrope ssi H ⊕ H ⊥ = E (cf. la feuille
Formes bilinéaires et quadratiques).
I-2. Soit s la symétrie par rapport à R · a parallèlement à (R · a)⊥ . D’après la Proposition 3, s ∈ O(q).
Or si v commute avec s, un espace propre de s est laissé stable par v. Un espace propre de s étant R · a,
on a répondu à la question. Si b ∈ E est tel que Q(b) = 0, et b colinéaire à a, il est clair que λa = λb .
Supposons (a, b) libre. Soit t tel que le polynôme de degré 2 : Q(a + tb) = 0. On note c = a + tb. Alors de
λa a + tλb b = λc c, on tire λa = λb .
I-3. Si x ∈ E tel que Q(x) = 0, il existe t ∈ R tel que Q(x + ta) = 0 et par ce qui précède
v(x + ta) = λ(x + ta) = v(x) + tv(a) = v(x) + tλa. Ce qui donne v(x) = λx.
II-1. Comme Φ est par hypothèse non dégénérée et que E est de dimension finie, gΦ : E → E ∗ est
un isomophisme et pour tout x ∈ E il existe un unique ux ∈ E tel que gΦ (ux ) = φ(x, ·). On a, ∀y ∈ E :
= Φ(ux , y) = gΦ (ux )(y) = φ(x, y). La linéarité de x → ux résulte de celle de gφ et gΦ . Pour montrer que u
est symétrique, on utilise la symétrie de φ et de Φ : Φ(ux , y) = φ(x, y) = φ(y, x) = Φ(uy , x) = Φ(x, uy ).
II-2. Soit v ∈ O(q) et x, y ∈ R. On a : φ(x, y) = φ(v(x), v(y)) = Φ(u(v(x)), v(y)). Mais
v ∈ O(Q), donc : φ(x, y) = Φ(u(x), y) = Φ(v(u(x)), v(y)). Comme v est surjective et Φ non dégénérée,
de Φ(v(u(x)), v(y)) = Φ(u(v(x)), v(y)) on déduit que pour tout x ∈, v(u(x)) = u(v(x)). Donc u ∈ O (q) et
par I-3, u = λIdE est une homothétie, ce qui donne q(x) = λQ(x). On termine en remarquant que λ ne
peut être nul (sinon q est nulle et O(q) = GL(E) ⊂ O(Q)).
5