format pdf - Georges Comte

Pr´eparation `a l’agr´egation externe de math´ematiques Ann´ee 2009-2010
Universit´e de Nice-Sophia-Antipolis Georges Comte
Le groupe orthogonal d’une forme quadratique
Notations. — Dans la suite kd´esigne un corps commutatif de caract´eristique =2.
1. Endomorphismes adjoints dans un espace quadratique.
D´efinition . — On dit que le couple (E, φ)estunespace quadratique lorsque Eest un k-espace
vectoriel et φune forme bilin´eaire sym´etrique non d´eg´en´er´ee sur E,ie: ∀x∈E,(∀y∈E,φ(x, y)=
0⇒x=0)ouencoregφ:E→E∗,d´efinie par dφ(x):y→ φ(x, y) est injective (et donc est un isomorphisme
si dim(E)<∞, puisque dans ce cas dim(E)=dim(E∗)).
Dans la suite de cette section, on fixe (E,φ) un espace quadratique et Qsa forme quadratique sur E
associ´ee.
D´efinition. — Soit u∈L(E). S’il existe v∈L(E)telque:
∀x, y ∈E, φ(u(x),y)=φ(x, v(y)),
l’endomorphisme vest unique du fait du caract`ere non d´eg´en´er´edeφ. On dit alors que vest un
l’endomorphisme adjoint de u.Onlenoteu∗.
Remarques. •Tous les endomorphismes n’admettent pas n´ecessairement un adjoint (†)
•Si uet vadmettent des adjoints, il en est de mˆeme de u◦vet (u◦v)∗=v∗◦u∗,u∗∗ =u.
•L’ensemble des endomorphismes de Eadmettant un adjoint est une sous-alg`ebre de L(E).
L’application u→ u∗est lin´eaire et involutive.
•Si uest un automorphisme de Eet si uet u−1admettent des adjoints, on a : (u∗)−1=(u−1)∗.
Exercice 1. — Si uadmet un adjoint et si Hest un sous-espace stable de Epar u,H⊥est stable
par u∗.
Solution. Si y∈H⊥,x∈H,φ(x, u∗(y)) = φ(u(x),y) = 0, puisque u(x)∈H.2
D´efinitions. — •Un endomorphisme ude Eest dit sym´etrique (resp. antisym´etrique) ssi u∗=u
(resp. u∗=−u). On note Sφ(E)etAφ(E) les sous-ensembles des endomorphismes de Esym´etriques et
antisym´etriques. Ce sont deux sous-espaces suppl´ementaires de l’espace des endomorphismes admettant un
adjoint (poser u=1/2(u+u∗)+1/2(u−u∗)).
•On dit qu’un automorphisme ude Eest orthogonal ssi uadmet un adjoint et u∗=u−1.
Remarque. — Le seul endomorphisme sym´etrique et antisym´etrique est l’endomorphisme nul. Mais
un endomorphisme peut tr`es bien ˆetre orthogonal et sym´etrique (cf les sym´etries orthogonale au paragraphe
3) ou orthogonal et antisym´etrique (cf la rotation du plan euclidien d’angle π/2 du paragraphe 4).
(†)Consid´erons par exemple E=R[X]etφ(P, Q)=[0,1] P(t)Q(t)dt.Laformeφest
bilin´eaire sym´etrique et d´efinie (donc non d´eg´en´er´ee) positive. Soit alors u∈L(E)d´efinie par :
u(P)=[0,1] P(t)/√tdt, vu comme un polynˆome constant. Si uposs`ede un adjoint v,ona:
φ(u(Xn),1) = 1
n+1/2=φ(Xn,v(1)). Si v(1) = p
i=0 aiXi,onaφ(Xn,v(1)) = p i=0
ai
n+i+1 . Ceci
dit que les deux fractions rationnelles 1
X+1/2et p
i=0
ai
X+i+1 co¨ıncident sur N; elles sont alors
´egales. Mais ceci est contradictoire car l’une poss`ede pour pˆole 1/2 et l’autre n’a que des pˆoles
entiers.
1

D´efinition. — On dit qu’un endomorphisme ude Eest normal ssi uadmet un adjoint et uet u∗
commutent.
Remarques. — •Un endomorphisme sym´etrique, antisym´etrique ou orthogonal est normal.
•Clairement, si Fest un sous-espace de Estable par un endomorphisme usym´etrique, antisym´etrique
ou orthogonal, Fest aussi stable par u∗.
Cas de la dimension finie. •Si Eest de dimension finie tout endomorphisme admet un adjoint, et
si B=(e1,···,e
n) est une base de E,siΩ=(φ(ei,e k)) est la matrice (inversible puisque le rang de φest
dim(E)) de φdans Edans B,lamatricedeudans B´etant M,lamatriceM∗de u∗dans Best :
M∗=Ω
−1·tM·Ω(1)
car ∀X, Y, tXtMΩY=tXΩM∗Y.
En particulier s’il existe une base orthonorm´ee Bde E(ie si φest d´efinie positive)(‡), dans une telle
base M∗=tM, puisque dans ce cas Ω = In.
Remarques. — •L’existence de u∗est directement fournie par la matrice M∗. On peut donner une
preuve plus directe de l’existence de u∗: en dimension finie, l’application dφ:E→E∗est un isomorphisme
et on a alors φ(u(x),y)=dφ(y)(u(x)) = (tu◦dφ)(y)(x)=dφ([d−1
φ◦tu◦dφ](y))(x)=φ(x, d−1 φ◦tu◦dφ(y)).
Ce qui donne u∗=d−1
φ◦tu◦dφ.
•Si Eest de dimension n,L(E)=Sφ(E)⊕Aφ(E), dim(Sφ(E)) = n(n+1)
2,dim(Aφ(E)) = n(n−1) 2.
•La formule (1) montre, toujours si Eest de dimension finie, que det(u)=det(u∗)etrg(u)=rg(u∗).
•Si Best une base orthonorm´ee de Eet si M=Mat(u, B), on a uest sym´etrique (resp. antisym´etrique,
orthogonal, normal) ssi M=tM(resp. M=−tM,M−1=tM,M·tM=tM·M).
Exercice 2. Soit (E,φ)un espace quadratique.
i- Soit uun automorphisme d’un espace quadratique (E,φ).Montrerqueuest orthogonal ssi
φ(u(x),u(y)) = φ(x, y), pour tout x, y ∈E.End´eduire que si Hest un sous-espace de Estable par u
(il est alors invariant, ie u(H)=H)alorsH⊥est stable par u.
ii- Montrer que uest un automorphisme orthogonal de Essi uest une bijection telle que ∀x, y ∈E,
φ(u(x),u(y)) = φ(x, y). (Ind. Il suffit de prouver la lin´earit´edeu,consid´erer pour cela z=u(αx +y)−
αu(x)−u(y)et montrer que pour tout t∈E,φ(z,t)=0).
iii- Dans le cas o`uEest de dimension finie, montrer que uest un automorphisme orthogonal de Essi
∀x, y ∈E,φ(u(x),u(y)) = φ(x, y)(Ind. Ici on ne peut plus a priori utiliser la bijectivit´edeupour montrer la
lin´earit´e. En prenant une base orthogonale de Eon montre que son image par uest une famille orthogonale,
donc est une base. Puis enfin la lin´earit´e est obtenue de la fa¸con suivante : pour x=n
i=1 xieion note
u(x)=n
i=1 yiu(ei).Ond´eduit alors de yiQ(u(ei)) = xiQ(ei), puis comme Q(u(ei)) = Q(ei)=0,xi=yi).
2. Le groupe orthogonal d’un espace quadratique.
Proposition 1. — L’ensemble des automorphismes orthogonaux de l’espace (E,φ)est un sous-groupe
de Gl(E).OnlenoteO(E,φ), on l’appelle le groupe orthogonal de (E,φ).2
(‡) il existe une base φ-orthogonale d`es que φest bilin´eaire sym´etrique et Ede dimension finie et
une base orthonorm´ee ssi φest d´efinie positive.
2

Proposition 2. — Si (E,φ)est un espace quadratique de dimension finie, tout automorphisme
orthogonal a pour d´eterminant 1ou −1.Ceuxded´eterminant 1sont appel´el´es les rotations de (E,φ), ils
constituent un sous-groupe O+(E,φ),legroupe sp´ecial orthogonal de (E,φ),distingu´edansO(E,φ).
De plus [O(E,φ):O+(E,φ)] = 2.
Preuve. L’identit´euu∗=Id implique det(u)2=1etO+(E, φ) est le noyau du morphisme de groupe
det : O(E,φ)→{−1,1}.2
3. Exemples d’automorphismes orthogonaux d’un espace quadratique : les sym´etries
orthogonales.
D´efinition. — Soit Eun espace vectoriel (non n´ecessairement quadratique). Un endomorphisme
involutif (ie u2=IdEou u−1=u)estappel´e une sym´etrie de E.
Exercice 3. Montrer que sest une sym´etrie de Essi s=2p−IdE,o`upest le projecteur associ´e
p:E=ker(s+IdE)⊕ker(s−IdE)→ker(s−IdE).
Solution. Si p:E=ker(s+IdE)⊕ker(s−IdE)→ker(s−IdE)etsis=2p−IdE, facilement
s2=IdE.
R´eciproquement comme X−1etX+1 sont premiers entre eux, on a bien E=ker(s+IdE)⊕ker(s−IdE).
Si p=1/2(IdE+s)etq=1/2(IdE−s), on a x=p(x)+q(x), p(x)∈ker(s−IdE)etq(x)∈ker(s+IdE).
Donc pest bien le projecteur p:E=ker(s+IdE)⊕ker(s−IdE)→ker(s−IdE).
D´efinition. — Compte tenu de l’exercice pr´ec´edent, on dit que la sym´etrie sde l’espace vectoriel
E, caract´eris´ee par s=2p−IdE,pourp:E=F⊕G→F,estlasym´etrie de Epar rapport `aFet
parall`element `aG.
Proposition 3. — Soit sla sym´etrie de l’espace quadratique (E, φ)par rapport `aFet parall`element
`a G.Alorssest un endomorphisme sym´etrique de (E,φ)ssi G=F⊥ssi sest un automorphisme orthogonal.
On dit alors que sest la sym´etrie orthogonale par rapport `aF.
Preuve. -sest sym´etrique ssi p=1/2(s+IdE) est sym´etrique. Or si p∗existe et p∗=p,
ker(p∗)=(Im(p))⊥ie G=F⊥.R´eciproquement si G=F⊥,en´ecrivant x=p(x)+x,y =p(y)+yavec
x,y
∈F⊥,ilvient:φ(p(x),y)=φ(x, p(y)) = φ(p(x),p(y)).
-s=s−1est un automorphisme orthogonal ssi s∗=s−1=sssi sest un endomorphisme
sym´etrique. 2
4. Exemple d’automorphismes orthogonaux : ceux d’un espace euclidien.
On se place `a partir de maintenant dans un espace quadratique r´eel (E,φ) de dimension finie et Qest la
forme quadratique de φ. On suppose de plus que la forme bilin´eaire φest d´efinie (φ(x, x)=0ssix=0ou
encore 0 est le seul vecteur isotrope de φ), positive (∀x∈E,φ(x, x)≥0). On dit alors que (E,φ)estun
espace euclidien.
Remarque. Notons que l’in´egalit´e de Cauchy-Schwarz φ(x, y)2≤Q(x)Q(y)(valabled`es que φest
sym´etrique positive) nous apprend que φest d´efinie d`es que φest non d´eg´en´er´ee. On peut donc d´efinir un
espace euclidien en imposant seulement que la forme φde l’espace quadratique (E,φ) soit positive.
L’exercice 2 montre que dans le cas o`u l’espace quadratique est de dimension finie, les automorphismes
orthogonaux sont les applications utelles que ∀x, y ∈E,φ(u(x),u(y)) = φ(x, y). Dans le cas o`u(E, φ)est
3

euclidien, il s’agit des applications qui conservent la distance. On les appelle alors les isom´etries.Onse
propose de les ´etudier dans le cas sp´ecial dim(E)=2.
On dira qu’un automorphisme de O−(E,φ)=O(E,φ)\O+(E,φ) est une isom´etrie indirecte.
4.1. Isom´etries du plan.
On suppose ici que (E,φ) est un espace euclidien de dimension 2.
Proposition 4. — Soit uune isom´etrie de (E,φ). Il existe une base orthogonale de Edans laquelle
la matrice qui repr´esente uest du type :
Sθ=cos(θ)−sin(θ)
sin(θ)cos(θ)si u∈O
+(E,φ),S
θ=cos(θ)sin(θ)
sin(θ)−cos(θ)si u∈O
−(E,φ),
avec θ∈R/2πZ.2
Remarque. Sθest de spectre vide et antisym´etrique pour θ=π/2, alors que S
θest de spectre non
vide, sym´etrique et involutive, donc est une sym´etrie orthogonale (cf Proposition 3).
Proposition 5. — Les isom´etries indirectes de Esont les sym´etries orthogonales (par rapport aux
droites de E)deE.
Preuve. Si uest une isom´etrie indirecte, sa matrice dans une base orthogonale est S
θ.Onv´erifie que
S
θS θ=I2,doncuest involutive et S θ´etant une matrice sym´etrique, la Proposition 3 assure que uest une
sym´etrie orthogonale. On peut aussi v´erifier que χu(x)=(X−1)(X+1). R´eciproquement une sym´etrie
orthogonale est une isom´etrie par la proposition 3 et est de d´eterminant −1 dans le cas d’une sym´etrie par
rapport `a une droite dans Ede dimension 2. 2
4.2. R´eduction des endomorphismes orthogonaux d’une espace euclidien.
Th´eor`eme 6. — Si uest un endomorphisme d’un espace euclidien Ede dimension finie, il existe une
bon de Etelle que la matrice qui repr´esente udans cette base est du type :
i- diag(λ1,···,λ
n),siuest sym´etrique,
ii- diag(0,···,0,α
1.J, ···,α p.J),avecJ=0−1
10
et αi=0,siuest antisym´etrique,
iii- diag(Ip,−Iq,S
θ1,···,S θ),siuest une isom´etrie (ie ∈O(E,φ)).
Remarque. Attention les cas discern´es ne sont pas disjoints, par exemple une isom´etrie (plane) peut
ˆetre sym´etrique, antisym´etrique et les ´enonc´es ne sont pas contradictoires.
4

Probl`eme — Minimalit´e du groupe orthogonal des formes non d´eg´en´er´ees.
I- Commutant du groupe orhogonal d’une forme quadratique.
Soit Qune forme quadratique sur l’espace vectoriel r´eel E.
I-1. Soit a∈Enon isotrope, ie Q(a)=0.MontrerqueR·a⊕(R·a)⊥=E.
Soit O(Q)={v∈L(E); ∀u∈O(Q),v◦u=u◦v},lecommutantdeO(Q)
I-2. Montrer que si v∈O(Q),ilexisteλ∈Rind´ependant de atel que v(a)=λ·a.
I-3. Montrer que Gest constitu´edeshomoth´eties (est-il n´ecessaire que k=R?).
II- Minimalit´e du groupe orthogonal d’une forme quadratique non d´eg´en´er´ee.
Soit maintenant qune autre forme quadratique sur E, de dimension finie. On suppose Qnon d´eg´en´er´ee
et note φet Φles formes polaires de qet Q.
II-1. Montrer qu’il existe u∈L(E)tel que ∀x, y ∈E,φ(x, y)=Φ(u(x),y)et qu’alors uest Φ-
sym´etrique.
II-2. Montrer : O(q)⊂O(Q)=⇒O(q)=O(Q)en montrant que ucommute avec tous les ´el´ements de
O(q)et en utilisant I-3.
Solution.
I-1. On sait que le sev de dimension finie Hde Eest non isotrope ssi H⊕H⊥=E(cf. la feuille
Formes bilin´eaires et quadratiques).
I-2. Soit sla sym´etrie par rapport `aR·aparall`element `a(R·a)⊥.D’apr`es la Proposition 3, s∈O(q).
Or si vcommute avec s,unespacepropredesest laiss´estableparv.Unespacepropredes´etant R·a,
on a r´epondu `a la question. Si b∈Eest tel que Q(b)=0,etbcolin´eaire `aa,ilestclairqueλa=λb.
Supposons (a, b) libre. Soit ttel que le polynˆome de degr´e2: Q(a+tb)=0. Onnotec=a+tb.Alorsde
λaa+tλbb=λcc,ontireλa=λb.
I-3. Si x∈Etel que Q(x) = 0, il existe t∈Rtel que Q(x+ta)= 0 et par ce qui pr´ec`ede
v(x+ta)=λ(x+ta)=v(x)+tv(a)=v(x)+tλa. Ce qui donne v(x)=λx.
II-1. Comme Φ est par hypoth`ese non d´eg´en´er´ee et que Eest de dimension finie, gΦ:E→E∗est
un isomophisme et pour tout x∈Eil existe un unique ux∈Etel que gΦ(ux)=φ(x, ·). On a, ∀y∈E:
=Φ(ux,y)=gΦ(ux)(y)=φ(x, y). La lin´earit´edex→ uxr´esulte de celle de gφet gΦ. Pour montrer que u
est sym´etrique, on utilise la sym´etrie de φet de Φ : Φ(ux,y)=φ(x, y)=φ(y, x)=Φ(uy,x)=Φ(x, uy).
II-2. Soit v∈O(q)etx, y ∈R.Ona:φ(x, y)=φ(v(x),v(y)) = Φ(u(v(x)),v(y)). Mais
v∈O(Q), donc : φ(x, y)=Φ(u(x),y)=Φ(v(u(x)),v(y)). Comme vest surjective et Φ non d´eg´en´er´ee,
de Φ(v(u(x)),v(y)) = Φ(u(v(x)),v(y)) on d´eduit que pour tout x∈,v(u(x)) = u(v(x)). Donc u∈O(q)et
par I-3, u=λIdEest une homoth´etie, ce qui donne q(x)=λQ(x). On termine en remarquant que λne
peut ˆetre nul (sinon qest nulle et O(q)=GL(E)⊂O(Q)).
5