isométries vectorielles et matrices orthogonales

Christophe Bertault — Mathématiques en MPSI
ISOMÉTRIES VECTORIELLES
ET MATRICES ORTHOGONALES
Dans ce chapitre, on travaille seulement avec le corps de base R.
1ISOMÉTRIES VECTORIELLES
Définition-théorème (Isométrie vectorielle/automorphisme orthogonal) Soient Eun espace euclidien et f∈ L(E).
Les assertions suivantes sont équivalentes :
(i) fpréserve les produits scalaires : ∀x,y∈E,f(x),f(y)=x,y.
(ii) fpréserve les normes : ∀x,y∈E,
f(x) =kxk.
On dit dans ce cas que fest une isométrie (vectorielle)de E ou un automorphisme orthogonal de E. En particulier, comme
le nom l’indique, fest alors un automorphisme de E.
Démonstration Nous noterons ci-dessous Æl’identité de polarisation : x,y=1
2kx+yk2−kxk2−kyk2.
(i) =⇒(ii) Pour tout x∈E:
f(x) =qf(x),f(x)=qx,x=kxk.
(ii) =⇒(i) Pour tous x,y∈E:f(x),f(y)Æ =1
2
f(x) + f(y) 2−
f(x) 2−
f(y) 2
linéarité
=1
2
f(x+y) 2−
f(x) 2−
f(y) 2(ii)
=1
2kx+yk2−kxk2−kyk2Æ
=x,y.
Montrons pour finir que fest un automorphisme de Esi (i) ou (ii) est vraie. Or fest injective car pour tout
x∈Ker f:kxk=
f(x) =k0Ek=0, donc : x=0E. Comme fest par ailleurs un endomorphisme
de Eet comme Eest de dimension finie, fest bien un automorphisme. 
Exemple Toute symétrie orthogonale est une isométrie vectorielle. En particulier, donc, toute réflexion — symétrie or-
thogonale par rapport à un hyperplan — est une isométrie vectorielle.
En effet Simple conséquence du théorème de Pythagore ! Soient Eun espace euclidien et sune symétrie
orthogonale de E. Posons : H=Ker s−IdE. Alors sest la symétrie par rapport à Hparallèlement à H⊥
— donc une application linéaire — et pour tout x=h+h′∈Eavec h∈Het h′∈H⊥:
s(x) 2=
h−h′ 2Pythagore
=khk2+kh′k2Pythagore =
h+h′ 2=kxk2, donc : 
s(x) =kxk.
Théorème (Caractérisation des isométries par l’image d’une base orthonormale) Soient E6=0Eun espace
euclidien, f∈ L(E)et Bune base orthonormale de E. Les assertions suivantes sont équivalentes :
(i) fest une isométrie vectorielle de E. (ii) f(B)est une base orthonormale de E.
Explication Une isométrie transforme donc TOUTE base orthonormale en une base orthonormale, et réciproque-
ment, un endomorphisme qui tranforme UNE base orthonormale en une base orthonormale est une isométrie vectorielle.
Démonstration Introduisons les vecteurs de B:B= (e1,...,en).
(i) =⇒(ii) Si fest une isométrie, alors pour tous i,j∈¹1, nº:f(ei),f(ej)=ei,ej=δi j, donc
f(B), famille de n=dim Evecteurs, est une base orthonormale de E.
1

Christophe Bertault — Mathématiques en MPSI
(ii) =⇒(i) Réciproquement, si nous supposons f(B)orthonormale, alors pour tout x∈Ede coordonnées
(x1,...,xn)dans B,f(x)a pour coordonnées (x1,...,xn)dans f(B), donc comme ces deux bases sont
orhonormales : 
f(x) =v
u
tn
X
k=1
x2
k=kxk.
Définition-théorème (Groupe orthogonal d’un espace euclidien) Soit Eun espace euclidien. L’ensemble des isomé-
tries vectorielles de E, noté O(E), est un sous-groupe du groupe linéaire GL(E)de Eappelé le groupe orthogonal de E.
La composée de deux isométries vectorielles et la réciproque d’une isométrie vectorielle sont donc des isométries vecto-
rielles.
Démonstration Rappelons que GL(E)est un groupe pour la COMPOSITION. Ensuite : O(E)⊂GL(E)car
toute isométrie est un automorphisme, et : IdE∈O(E)car IdEpréserve les normes. Enfin, pour tous
f,g∈O(E):f−1g∈O(E)car pour tout x∈E:
f−1g(x) f∈O(E)
=
ff−1g(x)
=
g(x) g∈O(E)
=kxk.
2MATRICES ORTHOGONALES
Définition-théorème (Matrice orthogonale) Soit M∈ Mn(R). Les assertions suivantes sont équivalentes :
(i) tM M =In— il revient au même de dire que : MtM=Inou que Mest inversible d’inverse tM.
(ii) La famille des colonnes — ou des lignes — de Mest une base orthonormale de l’espace euclidien canonique Rn.
On dit dans ce cas que Mest orthogonale.
Démonstration Notons C1,...,Cnles colonnes de M. L’égalité : tM M =In, écrite coefficient par co-
efficient, signifie exactement que pour tous i,j∈¹1, nº:tCiCj=δi j , i.e. que : Ci,Cj=δi j , ou
encore que (C1,...,Cn)est une base orthonormale de Rn. Enfin, comme il est équivalent d’affirmer l’égalité :
MtM=In, le résultat sur les lignes s’obtient de même. 
Exemple Il est facile de vérifier « à l’œil nu » qu’une matrice carrée est orthogonale, il suffit de se demander si ses
colonnes forment une famille orthonormale ou non. Par exemple, la matrice 0−1
1 0 est orthogonale car ses deux colonnes
sont de norme 1 et de produit scalaire nul. Même raisonnement avec 1
p6
p2−p3 1
p2p3 1
p2 0 −2
.
Théorème (Isométries vectorielles et matrices orthogonales) Soient E6=0Eun espace euclidien, f∈ L(E)et B
une base ORTHONORMALE de E. Les assertions suivantes sont équivalentes :
(i) fest une isométrie vectorielle. (ii) MatB(f)est une matrice orthogonale.
Démonstration Posons : M=MatB(f), notons C1,...,Cnses colonnes et introduisons les vecteurs de
B:B= (e1,...,en).
(i) =⇒(ii) Pour tous i,j∈¹1, nº:Ci,Cj=f(ei),f(ej)car nous pouvons calculer le produit sca-
laire facilement à l’aide des coordonnées quand la base choisie est ORTHONORMALE, et ensuite, comme
fest une isométrie : Ci,Cj=ei,ej=δi j , donc en effet, la famille des colonnes de Mest
orthonormale — autrement dit, Mest orthogonale.
(ii) =⇒(i) Si Mest orthogonale, alors : f∈O(E)car pour tout x∈Ede coordonnées Xdans B:
f(x) 2=t(M X )(M X ) = ptXtM MX=tX InX=tX X =kxk2, donc : 
f(x) =kxk.
2

Christophe Bertault — Mathématiques en MPSI
Théorème (Matrice de passage d’un changement de bases orthonormales) Soient E6=0Eun espace euclidien et
Bet B′deux bases ORTHONORMALES de E. La matrice de passage PB′
Bde BàB′est alors une matrice orthogonale.
Il est donc facile de calculer son inverse : PB′
B−1=tPB′
B.
Démonstration Notons fl’unique endomorphisme de Equi envoie Bsur B′. Comme Bet B′sont deux
bases orthonormales, fest une isométrie vectorielle, donc la matrice : PB′
B=MatB(B′) = MatB(f)est
orthogonale. 
Vous démontrerez seuls le résultat suivant.
Définition-théorème (Groupe orthogonal) L’ensemble des matrices orthogonales de taille n, noté O(n)ou On(R), est
un sous-groupe du groupe linéaire GLn(R)appelé le groupe orthogonal de degré n.
Le produit de deux matrices orthogonales et l’inverse d’une matrice orthogonale sont donc des matrices orthogonales.
3SIGNE D’UNE ISOMÉTRIE ET D’UNE MATRICE ORTHOGONALE
Définition-théorème (Isométrie vectorielle/matrice orthogonale positive/négative)
(i) Le déterminant d’une matrice orthogonale vaut 1 ou −1. On dit qu’une matrice orthogonale est positive si son
déterminant vaut 1 et qu’elle est négative s’il vaut −1.
(ii) Le déterminant d’une isométrie vectorielle vaut 1 ou −1. On dit qu’une isométrie vectorielle est positive si son
déterminant vaut 1 et qu’elle est négative s’il vaut −1.
Explication Une matrice M∈ Mn(R)est orthogonale POSITIVE si et seulement si la famille de ses colonnes est
une base orthonormale DIRECTE de Rn, et une isométrie vectorielle POSITIVE est une isométrie qui PRÉSERVE L’ORIENTATION.
Démonstration
(i) Pour tout M∈O(n): det(M)2=det(M)dettM=detMtM=det(In) = 1.
(ii) Pour tout espace euclidien E6=0Ede base orthonormale Bet pour tout f∈O(E), on a vu que
MatB(f)est une matrice orthogonale, donc d’après (i) : det(f) = detMatB(f)∈−1,1.
$ATTENTION !$Toute matrice de déterminant ±1 n’est pas orthogonale — par exemple 1 1
0 1.
Théorème (Isométries vectorielles positives et matrices orthogonales positives) Soient E6=0Eun espace eucli-
dien, f∈ L(E)et Bune base ORTHONORMALE de E. Les assertions suivantes sont équivalentes :
(i) fest une isométrie vectorielle positive. (ii) MatB(f)est une matrice orthogonale positive.
Définition-théorème (Groupe spécial orthogonal)
(i) Soit Eun espace euclidien. L’ensemble des automorphismes orthogonaux positifs de E, noté SO(E)ou O+(E), est
un sous-groupe de O(E)appelé le groupe spécial orthogonal de E.
(ii) L’ensemble des matrices orthogonales positives de taille n, noté SO(n)ou SOn(R), est un sous-groupe de O(n)
appelé le groupe spécial orthogonal de degré n.
3

Christophe Bertault — Mathématiques en MPSI
Démonstration Pour (i) : SO(E)⊂O(E)par définition, et : IdE∈SO(E)car det(IdE) = 1. Ensuite,
pour tous f,g∈SO(E), nous savons que f−1g∈O(E)et par ailleurs : detf−1g=det(f)−1det(g) = 1,
donc : f−1g∈SO(E). L’assertion (ii) se démontre de la même manière. 
4PRODUIT MIXTE,AIRES ET VOLUMES ORIENTÉS
Définition-théorème (Produit mixte) Soit E6=0Eun espace euclidien orienté de dimension n.
(i) Soient x1,...,xn∈E. Le scalaire detB(x1,...,xn)ne dépend pas de la base Bde Echoisie SI ELLE EST ORTHO-
NORMALE DIRECTE. On l’appelle le produit mixte de x1,...,xnet on le note : x1,...,xn.
(ii) Le produit mixte d’une base orthonormale directe est toujours égal à 1.
Démonstration Soient Bet B′deux bases orthonormales directes de E. L’unique endomorphisme fde E
qui envoie Bsur B′est une isométrie vectorielle positive, donc : detB(B′) = detBf(B)=1 — ce qui
prouve l’assertion (ii). En retour : detB(x1,...,xn) = detB(B′)detB′(x1,...,xn) = detB′(x1,...,xn).
Explication 
•Le produit mixte est un déterminant qui, en apparence, ne dépend pas d’une base, mais c’est seulement parce qu’il
dépend fondamentalement du produit scalaire vis-à-vis duquel on le calcule, et donc des bases orthonormales directes
qui vont avec. Ce que la définition du produit mixte énonce, c’est que tant qu’on prend pour pavé élémentaire un
pavé orienté positivement dont les arêtes sont orthogonales et de longueur 1, on compte les aires ou volumes de la
même manière quel que soit le pavé choisi. Au chapitre « Déterminants », il y avait quelque chose d’arbitraire dans
le choix d’une base comme base de référence pour les aires ou volumes orientés. De fait, dans un espace vectoriel
quelconque sans produit scalaire, la notion de longueur fait défaut — d’où l’impossibilité de relier les aires ou volumes
et les longueurs — d’où l’arbitraire. Dans un espace euclidien, le produit scalaire réconcilie les aires ou volumes aux
longueurs qu’il définit.
•Rappelons pour finir que le produit mixte, comme tout déterminant d’une famille dans une base, digère très bien les
endomorphismes. Pour tous f∈ L(E)et x1,...,xn∈E:f(x1),..., f(xn)=det(f)×x1,...,xn. Géométri-
quement, ce résultat signifie que lorsqu’on transforme un parallélépipède par une application linéaire f, le volume
orienté s’en trouve tout simplement multiplié par det(f).
5ISOMÉTRIES VECTORIELLES D’UN PLAN EUCLIDIEN
ET ANGLES ORIENTÉS
Théorème (Matrices orthogonales de taille 2)
•Toute matrice orthogonale positive de taille 2 est de la forme cos θ−sin θ
sinθcos θpour un certain θ∈R.
•Toute matrice orthogonale négative de taille 2 est de la forme cosθsin θ
sin θ−cosθpour un certain θ∈R.
Démonstration Pour tout M=a c
b d∈ M2(R):M∈O(2)⇐⇒ tM M =I2⇐⇒ 
a2+b2=1
c2+d2=1
ac +bd =0
⇐⇒ ∃ θ,ϕ∈R/
a=cos θet b=sin θ
c=cosϕet d=sin ϕ
cos θcosϕ+sin θsin ϕ=0⇐⇒ ∃ θ,ϕ∈R/
a=cos θet b=sin θ
c=cosϕet d=sinϕ
cos(θ−ϕ) = 0
4

Christophe Bertault — Mathématiques en MPSI
⇐⇒ ∃ θ,ϕ∈R,ǫ∈−1,1/
a=cosθet b=sin θ
c=cos ϕet d=sin ϕ
ϕ≡θ+ǫπ
2[2π]
Or cosθ+ǫπ
2=−ǫsin θet sin θ+ǫπ 2=ǫcosθ.
⇐⇒ ∃ θ∈R,ǫ∈−1,1/§a=cosθet b=sin θ
c=−ǫsinθet d=ǫcos θ⇐⇒ ∃ θ∈R,ǫ∈−1,1/M=cosθ−ǫsin θ sin θ ǫ cos θ.
Il reste à remarquer que pour tous θ∈Ret ǫ∈−1, 1:
cos θ−ǫsin θ
sinθ ǫ cosθ=ǫ.
Explication Le calcul suivant n’a l’air de rien comme ça, mais ce sera pourtant lui notre passeport pour une défini-
tion satisfaisante des angles orientés. Pour tous α,β∈R:cos α−sin α
sinαcos α×cos β−sin β
sin βcosβ=cos(α+β)−sin(α+β)
sin(α+β)cos(α+β).
Théorème (Commutativité du groupe SO(2))Le groupe SO(2)est commutatif.
Démonstration Soient A,B∈SO(2), disons : A=cosα−sin α
sin αcosαet B=cosβ−sin β
sin βcosβavec
α,β∈R. D’après le calcul de la remarque précédente et sachant que α+β=β+α:
cosα−sin α
sin αcosα×cos β−sin β
sin βcosβ=cos β−sin β
sin βcosβ×cos α−sin α
sin αcosα, i.e. : AB =BA.
Théorème (Classification des automorphismes orthogonaux en dimension 2) Soient Eun espace euclidien orienté
de dimension 2 et f∈O(E).
(i) Si fest positif, i.e. si : f∈SO(E), la matrice MatB(f)de fne dépend pas du choix de la base Bà condition
que Bsoit ORTHONORMALE DIRECTE. Cette matrice est de la forme : cosθ−sin θ
sin θcosθpour un certain θ∈R
unique à 2πprès. On dit que fest la rotation (vectorielle)d’angle de mesure θ.
(ii) Si fest négatif, fest une réflexion, i.e. ici une symétrie orthogonale par rapport à une droite.
$ATTENTION !$Il est essentiel dans l’assertion (i) que les bases considérées soient DIRECTES. Dans une base ortho-
normale indirecte, la mesure de l’angle d’une rotation serait l’opposée de ce qu’elle est dans une base orthonormale directe.
Explication Les remarques qui suivent ne concernent que l’assertion (i).
•La commutativité du groupe SO(2)signifie géométriquement que deux rotations vectorielles commutent toujours —
tourner d’un angle ϕpuis d’un angle ψ, c’est pareil que tourner de ψpuis de ϕ.
•L’indépendance de la matrice de fpar rapport à la base orthonormale choisie signifie géométriquement qu’une rota-
tion vectorielle agit UNIFORMÉMENT sur les vecteurs du plan, i.e. de la même manière dans toutes les directions.
•On parle de « rotation d’ANGLE de MESURE θ» sans avoir jamais défini auparavant les mots « angle » et « mesure ». De
fait, toute construction rigoureuse de la notion d’angle orienté est hors programme. On peut tout de même résumer
la définition d’un angle orienté de la manière suivante. Pour tous u,v∈Eunitaires, il existe une et une seule rotation
r∈SO(E)pour laquelle : v=r(u), et c’est cette rotation, en un sens, qu’on peut appeler l’angle orienté (u,v).
Tout réel θpour lequel radmet cos θ−sin θ
sinθcos θpour matrice dans une base orthonormale directe est alors appelé
UNE mesure de l’angle orienté (u,v)et généralement notée elle aussi (u,v). La notation usuelle : (u,v)≡θ[2π]
se trouve ainsi justifiée.
Démonstration
(i) Supposons fpositif et donnons-nous deux bases orthonormales directes Bet B′de E. Les matrices
MatB(f)et MatB′(f)sont orthogonales positives, donc éléments de SO(2), et c’est aussi le cas de PB′
B.
Par changement de base, et sachant que SO(2)est commutatif :
MatB′(f) = PB′
B−1MatB(f)PB′
B=PB′
B−1PB′
BMatB(f) = MatB(f),
donc en effet la matrice de fne dépend pas de la base choisie lorsqu’elle est orthonormale directe.
5