21 Groupe orthogonal d`un espace vectoriel euclidien de dimension

21
Groupe orthogonal d'un espace vectoriel
euclidien de dimension 2, de dimension 3
Voir le chapitre 19 pour l'étude des espaces euclidiens et des isométries.
Étant donné un espace euclidien E de dimension n ≥ 1, on rappelle que :
si E est orienté par le choix d'une base orthonormée B0 , on dit alors qu'une base orthonormée B est directe si detB0 (B) = 1 ;
si u ∈ O (E) est une isométrie, on a alors, det (u) = ±1 et on note :
O+ (E) = {u ∈ O (E) | det (u) = 1}
le sous-groupe de O (E) formé des isométries directes (ou positives) et :
O− (E) = O (E) \ O+ (E) = {u ∈ O (E) | det (u) = −1}
le sous-ensemble de O (E) formé des isométries indirectes (ou négatives) ;
une application linéaire u ∈ L (E) est une isométrie si, et seulement si, sa matrice A dans
une base orthonormée quelconque de E est orthogonale, soit A ∈ On (R) .
On note :
On+ (R) = {A ∈ On (R) | det (A) = 1}
le sous-groupe de On (R) formé des matrices orthogonales positives et :
On− (R) = On (R) \ On+ (R) = {A ∈ On (R) | det (A) = −1}
le sous-ensemble de On (R) formé des matrices orthogonales négatives.
Si λ est une valeur propres réelle d'une isométries u ∈ O (E) , on a alors λ = ±1. En eet si
x ∈ E est un vecteur propre unitaire associé à la valeur propre λ, on a alors :
1 = ∥x∥ = ∥u (x)∥ = ∥λx∥ = |λ| ∥x∥ = |λ|
Si F est un sous-espace vectoriel de E stable par u ∈ O (E) , l'orthogonal F ⊥ est également
stable par u (une isométrie conserve l'orthogonalité). En eet, si u (F ) ⊂ F, on a alors u (F ) = F
puisque u est un isomorphisme de E et pour pour tout x ∈ F ⊥ , tout z ∈ F, il existe y ∈ F tel
que z = u (y) et :
⟨u (x) | z⟩ = ⟨u (x) | u (y)⟩ = ⟨x | y⟩ = 0
donc u (x) ∈ F ⊥ .
519
520
Groupe orthogonal d'un espace vectoriel euclidien de dimension 2, de dimension 3
21.1 Isométries en dimension 2
Pour ce paragraphe, E est un espace euclidien de dimension 2 et il est orienté par le choix
d'une base orthonormée B0 = (e1 , e2 ) .
Pour tout réel θ, on note :
(
Rθ =
cos (θ) − sin (θ)
sin (θ) cos (θ)
)
(
et Sθ =
cos (θ) sin (θ)
sin (θ) − cos (θ)
)
Lemme 21.1 Pour tous réel θ et θ′ , on a :
Rθ Rθ′ = Rθ′ Rθ = Rθ+θ′ , Sθ Sθ′ = Rθ−θ′ , Rθ Sθ′ = Sθ+θ′ , Sθ′ Rθ = Sθ′ −θ
et les matrices Rθ , Sθ sont inversibles d'inverses :
Rθ−1 = R−θ et Sθ−1 = Sθ
Démonstration. Pour les deux premières égalités, il sut de vérier :
(
cos (θ) − sin (θ)
sin (θ) cos (θ)
Rθ Rθ′ =
(
)(
cos (θ′ ) − sin (θ′ )
sin (θ′ ) cos (θ′ )
)
cos (θ) cos (θ′ ) − sin (θ) sin (θ′ ) − (cos (θ) sin (θ′ ) + sin (θ) cos (θ′ ))
=
cos (θ) sin (θ′ ) + sin (θ) cos (θ′ )
cos (θ) cos (θ′ ) − sin (θ) sin (θ′ )
)
(
cos (θ + θ′ ) − sin (θ + θ′ )
= Rθ+θ′
=
sin (θ + θ′ ) cos (θ + θ′ )
et :
(
Sθ Sθ′ =
(
cos (θ) sin (θ)
sin (θ) − cos (θ)
)(
cos (θ′ ) sin (θ′ )
sin (θ′ ) − cos (θ′ )
)
)
cos (θ) cos (θ′ ) + sin (θ) sin (θ′ ) − (sin (θ) cos (θ′ ) − cos (θ) sin (θ′ ))
=
sin (θ) cos (θ′ ) − cos (θ) sin (θ′ )
cos (θ) cos (θ′ ) + sin (θ) sin (θ′ )
(
)
cos (θ − θ′ ) − sin (θ − θ′ )
=
= Rθ−θ′
sin (θ − θ′ ) cos (θ − θ′ )
)
On en déduit que Rθ R−θ = R0 = In et Sθ Sθ = R0 = In , ce qui signie que Rθ−1 = R−θ et
Sθ−1 = Sθ .
De Sθ+θ′ Sθ′ = Rθ = Sθ′ Sθ′ −θ , on déduit que Rθ Sθ′ = Sθ+θ′ , Sθ′ Rθ = Sθ′ −θ .
L'égalité Sθ−1 = Sθ équivalente à Sθ2 = I2 nous dit que toutes les matrices Sθ sont d'ordre 2.
Théorème 21.1 On a :
O2+ (R) = {Rθ | θ ∈ R} et O2− (R) = {Sθ | θ ∈ R}
Démonstration. Pour tout réel θ, on a :
Rθ−1 = R−θ = t Rθ , det (Rθ ) = 1
donc Rθ ∈ O2+ (R) et :
donc Sθ ∈ O2− (R) .
Sθ−1 = Sθ = t Sθ , det (Sθ ) = −1
Isométries en dimension 2
521
(
Réciproquement, soient A =
a b
c d
)
(
∈ O2 (R) et C =
Si A ∈ O2+ (R) , on a alors t A = A−1 =
(
d −c
−b a
)
sa comatrice.
1
t
C = t C, donc A = C, ce qui nous donne
det
(A)
)
a −c
avec det (A) = a2 + c2 = 1 et il existe un réel θ
c a
tel que a = cos (θ) et c = sin (θ) , donc A = Rθ .
Si (A ∈ O2− (R)
) , on a alors A = −C, ce qui nous donne d = −a et b = c, de sorte que
a c
A=
avec det (A) = − (a2 + c2 ) = −1 et il existe un réel θ tel que a = cos (θ) et
c −a
c = sin (θ) , donc A = Sθ .
a = d et b = −c, de sorte que A =
Ce théorème peut aussi s'exprimer comme suit.
Théorème 21.2 On a :
{
(
)
}
cos (θ) −ε sin (θ)
O2 (R) = A =
| θ ∈ R et ε = det (A) ∈ {−1, 1}
sin (θ) ε cos (θ)
Remarque 21.1 Le réel θ qui intervient dans le théorème précédent, pour A ∈ O2 (R) , est
unique si on le prend dans ]−π, π] .
Du lemme 21.1, on déduit que l'application :
R → O2+ (R)
θ 7→
Rθ
est un morphisme de groupes surjectif de (R, +) sur O2+ (R) de noyau 2πZ et par passage au
R
quotient, on en déduit un isomorphisme du groupe quotient
sur O2+ (R) .
2πZ
En particulier, le groupe O2+ (R) est commutatif.
De même, en désignant par Γ le groupe multiplicatif des nombres complexes de module égal
à 1, l'application :
R → Γ
θ 7→ eiθ
(
passe au quotient en un isomorphisme de groupes de
aussi isomorphe à (Γ, ·) .
R
,+
2πZ
)
(
)
sur (Γ, ·) et O2+ (R) , ◦ est
Remarque 21.2 Pour n ≥ 3, On+ (R) n'est pas commutatif.
Remarque 21.3 Le groupe O2+ (R) qui est isomorphe à Γ est compact et connexe (Γ est com-
pact et connexe comme image du segment [0, 2π] par l'application continue t 7→ eit ).
L'ensemble O2− (R) est aussi compact et connexe comme image de O2+ (R) par l'application
continue :
(
cos (θ) − sin (θ)
sin (θ) cos (θ)
)
(
7→
cos (θ) − sin (θ)
sin (θ) cos (θ)
)(
1 0
0 −1
)
(
=
cos θ sin θ
sin θ − cos θ
)
Le groupe O2 (R) n'est pas connexe et O2+ (R) et O2− (R) sont ses deux composantes connexes.
Ce résultat étant général (voir le théorème 19.16).
522
Groupe orthogonal d'un espace vectoriel euclidien de dimension 2, de dimension 3
Théorème 21.3 Un endomorphisme u du plan euclidien E est une isométrie directe si, et
seulement si, il existe un réel θ tel que la matrice de u dans n'importe quelle base orthonormée
directe B est de la forme :
(
)
cos (θ) − sin (θ)
sin (θ) cos (θ)
Rθ =
Un endomorphisme u de E est une isométrie indirecte si, et seulement si, il existe un réel θ tel
que la matrice de u dans la base B0 est de la forme :
(
Sθ =
cos (θ) sin (θ)
sin (θ) − cos (θ)
)
Démonstration. La matrice de u ∈ O+ (E) dans la base orthonormée B0 est dans O2+ (R) ,
donc de la forme Rθ pour un certain réel θ et il s'agit de démontrer que ce réel est indépendant
de la base orthonormée directe choisie.
Si B est une autre base orthonormée directe de E, la matrice de u ∈ O (E) dans cette base
est P −1 Rθ P, où P ∈ O+ (E) est la matrice de passage de B0 à B et P −1 Rθ P = Rθ puisque
O2+ (R) est commutatif.
La matrice de u ∈ O− (E) dans la base orthonormée B0 est dans O2− (R) , donc de la forme
Sθ pour un certain réel θ.
Remarque 21.4 Avec les notations du théorème précédent, la matrice de
Rθ−1
u ∈ O+ (E) dans
une base orthonormée indirecte B est Rθ =
= R−θ .
En eet, la base indirecte B(dénit la)même orientation que B0− = (e1 , −e2 ) , la matrice de
t
1 0
et la matrice de u dans B0− est :
0 −1
(
)(
)(
)
1 0
cos (θ) − sin (θ)
1 0
−1
Q Rθ Q =
0 −1
sin (θ) cos (θ)
0 −1
)
(
cos θ sin θ
= R−θ
=
− sin θ cos θ
passage de B0 à B0− est Q =
cette matrice étant aussi celle de u dans B.
Remarque 21.5 Pour
u ∈ O− (E) , avec les notations de la démonstration précédente, la
matrice de passage de B0 à une une base orthonormée directe B est de la forme P = Rθ′ et :
P −1 Sθ P = R−θ′ Sθ Rθ′ = Sθ−θ′ Rθ′ = Sθ−2θ′
(
)
1 0
−
Par exemple pour u ∈ O (E) de matrice S0 =
dans la base canonique B0 de R2 et
0
−1
(
)
(
)
1
1
1
1 −1
B = √ (e1 + e2 ) , √ (−e1 + e2 ) , on a P = √
et la matrice de u dans B est :
2
2
2 1 1
(
)
0 −1
′
S0 =
−1 0
Exercice 21.1 Montrer que pour u ∈ O+ (E) et v ∈ O− (E) , on a v ◦ u ◦ v = u−1 .
Isométries en dimension 2
523
Solution 21.1 On peut utiliser les expressions matricielles des isométries dans B0 et vérier
par un calcul direct que pour tous réels θ et θ′ , on a :
Sθ′ Rθ Sθ′ = Sθ′ −θ Sθ′ = R−θ = Rθ−1
On peut aussi dire que u ◦ v ∈ O− (E) (elle est dans O (E) de déterminant égal à −1) est
involutive, donc
u ◦ v = (u ◦ v)−1 = v −1 ◦ u−1
et composant à gauche par v, on obtient v ◦ u ◦ v = u−1 .
21.1.1 Rotations en dimension 2
Dénition 21.1 Une isométrie u ∈ O+ (E) de matrice Rθ dans une base orthonormée directe
B, est appelée rotation et θ est une mesure de l'angle de cette rotation.
Si, dans la dénition précédente, on impose θ dans l'intervalle ]−π, π] , il est alors uniquement
déterminé et on dit que c'est la mesure principale de l'angle de la rotation.
Dans une base indirecte, cette mesure principale est −θ.
R
On dit, de manière plus précise, que θ = {θ + 2kπ | k ∈ Z} ∈
est l'angle de la rotation
2πZ
u ∈ O+ (E) dans le plan euclidien orienté E.
Par abus de langage, on dit parfois que θ est l'angle de la rotation, étant entendu que le réel
θ est dénie modulo 2π.
Pour u ∈ O+ (E) et tout x = x1 e1 + x2 e2 ∈ E, on a :
u (x) = (cos (θ) x1 − sin (θ) x2 ) e1 + (sin (θ) x1 + cos (θ) x2 ) e2
et :
(
)
⟨u (x) | x⟩ = cos (θ) x21 + x22 = cos (θ) ∥x∥2 = cos (θ) ∥x∥ ∥u (x)∥
x1 cos (θ) x1 − sin (θ) x2 (
)
= sin (θ) x21 + x22 = sin (θ) ∥x∥2
detB0 (x, u (x)) = x2 sin (θ) x1 + cos (θ) x2
L'angle θ (modulo 2π ) de la rotation u est peut donc se calculer avec :
{
cos (θ) = ⟨u (x) | x⟩
sin (θ) = detB0 (x, u (x))
où x est un vecteur unitaire.
Pour x ̸= 0, θ est une mesure de l'angle géométrique que font les vecteurs x et u (x) . En
prenant θ dans ]−π, π] , la mesure principale de cet angle géométrique est ±θ.
Exemple 21.1 Si
u est la rotation d'angle
alors u (f1 ) = f2 et u (f2 ) = −f1 .
π
et (f1 , f2 ) une base orthonormée directe, on a
2
Exemple 21.2 Les seules rotations involutives sont Id et −Id.
Remarque 21.6 L'identité
{
} est la rotation d'angle 0, −Id est la rotation d'angle
/ 0, π n'a pas de valeur propre réelle.
rotation u d'angle θ ∈
En eet, son polynôme caractéristique est :
cos (θ) − λ − sin (θ)
χu (λ) = sin (θ)
cos (θ) − λ
π et une
= (cos (θ) − λ)2 + sin2 (θ) ≥ sin2 (θ) > 0
On en déduit que les seules rotations ayant une valeur propre réelle sont −Id avec −1 pour
unique valeur propre et Id avec 1 pour unique valeur propre.
524
Groupe orthogonal d'un espace vectoriel euclidien de dimension 2, de dimension 3
De l'étude du groupe commutatif O2+ (R) , on déduit que l'inverse de la rotation d'angle θ est
la rotation d'angle −θ et la composée des rotations u d'angle θ et u′ d'angle θ′ est la rotation
u ◦ u′ = u′ ◦ u d'angle θ + θ′ .
Théorème 21.4 Le groupe O+ (E) est commutatif et n'est pas simple. Ses sous-groupes nis
sont tous cycliques. Plus précisément, pour tout entier n ≥ 1, l'unique sous-groupe d'ordre n de
2π
O+ (E) est le groupe cyclique engendré par la rotation d'angle
.
n
Démonstration. Le groupe O (E) est isomorphe à (R) qui est commutatif isomorphe
au groupe multiplicatif Γ des nombres complexes de module égal à 1.
Le groupe O2+ (R) étant commutatif, tous ses sous-groupes sont distingués. Comme de plus
O2+
+
ce groupe est inni, il a une innité de sous-groupes (exercice 1.15) et en conséquence n'est pas
simple.
On peut aussi dire que pour tout réel θ ∈ ]0, 2π[ , le sous-groupe de O2+ (R) engendré par Rθ
est distingué distinct de {Id} et O2+ (R) .
Un sous groupe ni G de O+ (E) est isomorphe à un sous-groupe de Γ et on sait que pour
tout entier n ≥ 1, l'unique sous-groupe d'ordre n de Γ est le groupe Γn des racines n-èmes de
l'unité (exercice 2.3). L'unique sous-groupe d'ordre n ≥ 1 de O2+ (R) est donc le groupe :
{
}
⟨Rn ⟩ = Rnk | 0 ≤ k ≤ n − 1
où :
(
Rn =
( )
( 2π ) )
cos 2π
−
sin
( n)
( 2πn)
sin 2π
cos
n
n
2π
Z
et ce groupe est cyclique isomorphe à
.
n
nZ
Corollaire 21.1 Soit G un sous-groupe ni de O (E) . S'il est contenu dans O+ (E) et d'ordre
2π
n ≥ 1, il est alors cyclique engendré par la rotation ρ d'angle
.
n
S'il n'est pas contenu dans O+ (E) , en désignant par n l'ordre du sous-groupe G+ = G∩O+ (E)
2π
de O+ (E) , par ρ la rotation d'angle
qui engendre G+ et par σ un élément de G \ G+ =
n
G ∩ O− (E) , on a alors :
{
}
G = Id, ρ, · · · , ρn−1 , ρ ◦ σ, · · · , ρn−1 ◦ σ
est la matrice de la rotation d'angle
Démonstration. Si
{Id, ρ, · · · , ρ
n−1
}.
G ⊂ O+ (E) , le théorème précédent nous dit alors que G = ⟨ρ⟩ =
Sinon, pour tout σ ∈ G \ G+ , on a G = G+ ∪ σG+ . En eet, pour tout σ ′ ∈ G \ G+ , on a
σ ′ ∈ G ∩ O− (E) et u = σ ◦ σ ′ ∈ G+ , donc σ ′ = σ ◦ u ∈ σG+ .
Comme G+ = {Id, ρ, · · · , ρn−1 } , on a le résultat annoncé.
Pour n = 1, {Id} est l'unique sous groupe d'ordre 1 de O+ (E) et les sous groupes d'ordre
Z
) où σ ∈ O− (E) .
2Z
Un sous-groupe ni de O (E) non contenu dans O+ (E) est donc d'ordre 2n engendré par ρ
et σ, ce que l'on note G = ⟨ρ, σ⟩ , où ρ est d'ordre n, σ d'ordre 2 et σρ d'ordre 2 (il est dans
O− (E)), ce qui signie que (σρ)−1 = σρ, ce qui est encore équivalent à ρ−1 σ −1 = σρ, ou encore
à ρ−1 = σρσ. Un tel groupe est dit diédral d'ordre 2n et on le note D2n .
On peut montrer qu'un groupe diédral d'ordre 2n est unique à isomorphisme près (voir
l'exercice 3.40). C'est le groupe du polygone régulier à n cotés (voir le paragraphe 21.1.4).
En dénitive, le corollaire précédent nous dit qu'un sous-groupe ni de O2 (R) est isomorphe
à un groupe cyclique d'ordre n ou à un groupe diédral d'ordre 2n.
2 de O (E) sont de la forme ⟨σ⟩ = {Id, σ} (isomorphe à
Isométries en dimension 2
525
Exercice 21.2 Soit G = {g0 , · · · , gn−1 } un sous-groupe ni de GL (E) d'ordre n ≥ 2.
1. Montrer que l'application :
1∑
(x, y) ∈ E →
7 φ (x, y) =
⟨gk (x) | gk (y)⟩
n k=0
n−1
dénit un produit scalaire sur E.
2. Montrer que tous les automorphismes gj sont orthogonaux pour le produit scalaire φ.
3. En déduire que G est cyclique d'ordre n ou diédral d'ordre 2n.
Solution 21.2 Pour n = 1, on a G = {Id} et c'est terminé.
1. Pour x, y, z dans E et λ dans R, on a φ (x, y) = φ (y, x) , donc φ est symétrique,
φ (x, y + λz) = φ (x, y) + λφ (x, z) puisque toutes les applications gk sont linéaires, donc
φ est bilinéaire, φ (x, x) ≥ 0 et l'égalité φ (x, x) = 0 équivaut à gk (x) = 0 pour tout k,
donc à x = 0 puisque les gk sont des automorphismes, donc φ est dénie positive. En
dénitive, φ est bien un produit scalaire.
2. Pour tout j compris entre 0 et n − 1 et tous x, y dans E, on a :
1∑
⟨gk ◦ gj (x) | gk ◦ gj (x)⟩
n k=0
n−1
φ (gi (x) , gj (y)) =
1∑
=
⟨gi (x) | gi (x)⟩ = φ (x, y)
n k=0
n−1
puisque l'application gk 7→ gk ◦ gj est une permutation de G. Les automorphismes gj sont
donc tous orthogonaux pour le produit scalaire φ.
3. En dénitive, G est un sous-groupe ni du groupe orthogonal O (E, φ) , il est donc cyclique
ou diédral.
Exercice 21.3 On se donne deux droites distinctes D et D′ dans E.
1. Déterminer toutes les rotations u telles que u (D) = D.
2. Montrer qu'il existe une rotation u telle que u (D) = D′ et u (D′ ) = D si, et seulement
si, les droites D et D′ sont orthogonales. Préciser alors le nombre de ces rotations.
Solution 21.3
1. Si u est une rotation qui laisse stable une droite D, pour tout vecteur directeur unitaire
f1 de D, on a alors u (f1 ) = ±f1 , donc u a au moins une valeur propre réelle et u =
±Id. Réciproquement, −Id et Id sont des rotations (d'angles 0 et π respectivement) qui
conservent D.
′
2. Si u (D) = D′ et u (D
u2 (D) = D et u2 = ±Id.
( ) = D, on a alors )
cos (θ) − sin (θ)
la matrice de u dans B0 , on a Rθ2 = R2θ = ±In ,
sin (θ) cos (θ)
π
π
donc θ = 0 modulo π ou θ = modulo π. La condition ρ (D) = D′ ̸= D impose θ =
2
2
modulo π, donc ⟨f1 | ρ (f1 )⟩ = 0 et les droites D et D′ sont orthogonales.
π
Réciproquement, si les droites D et D′ sont orthogonales, alors les rotations d'angle et
2
π
′
− transforment D en D et ce sont les seules.
2
Désignant par Rθ =
526
Groupe orthogonal d'un espace vectoriel euclidien de dimension 2, de dimension 3
21.1.2 Angles orientés de vecteurs
Théorème 21.5 Si x, y sont deux
( vecteurs
) non nuls dans E, il existe alors une unique rotation
u ∈ O+ (E) telle que
1
y=u
∥y∥
1
x .
∥x∥
Démonstration. Il sut de montrer le résultat pour des vecteurs
x, y unitaires (i. e. de
norme égale à 1).
En choisissant une base orthonormée directe (f1 , f2 ) où f1 = x, il existe deux réels a, b tels
que y = af1 + bf2 et avec ∥y∥2 = a2 + b2 = 1, on déduit qu'il existe un réel θ tel que a = cos (θ)
et b = sin (θ) . On a alors, en désignant par u la rotation d'angle θ ∈
R
:
2πZ
u (x) = u (f1 ) = cos (θ) f1 + sin (θ) f2 = y
Si u′ est une autre rotation telle que u′ (x) = y, on a alors u−1 ◦ u′ (x) = x avec x ̸= 0, donc
1 est valeur propre de la rotation u−1 ◦ u′ , ce qui équivaut à dire que u−1 ◦ u′ = Id et u = u′ .
Si, avec les notations du théorème qui précède, u est la rotation d'angle θ ∈
[
alors que θ est l'angle orienté des vecteurs x et y et on note (x,
y) = θ.
R
, on dit
2πZ
π
[
\
[
En particulier, on a (x,
x) = 0, (x,
−x) = π et (x,
y) = ± pour x, y orthogonaux.
2
[
Un réel θ dans la classe d'équivalence θ est une mesure de l'angle orienté (x,
y), le représentant
[
θ ∈ ]−π, π] est la mesure principale de (x, y) et on a vu que la mesure principale de l'angle
géométrique que font ces deux vecteurs est ±θ ∈ [0, π] .
Le calcul de θ peut se faire avec :
⟨
1
⟨x | y⟩ = ∥x∥ ∥y∥
x|u
∥x∥
= ∥x∥ ∥y∥ cos (θ)
et :
(
(
1
x, u
detB (x, y) = ∥x∥ ∥y∥ det
∥x∥
= ∥x∥ ∥y∥ sin (θ)
)⟩
1
x
= ∥x∥ ∥y∥ ⟨f1 | u (f1 )⟩
∥x∥
(
))
1
x
= ∥x∥ ∥y∥ det (f1 , u (f1 ))
∥x∥
où B est une base orthonormée directe, soit :
cos (θ) =
detB (x, y)
⟨x | y⟩
et sin (θ) =
∥x∥ ∥y∥
∥x∥ ∥y∥
Pour tout vecteur non nul x, l'angle orienté des vecteurs e1 et x est appelé angle polaire de
x.
R
Le groupe quotient
, qui est isomorphe à O+ (E) , est le groupe des angles orientés du
2πZ
plan euclidien orienté E.
L'opposé d'un angle est −θ = −θ et la somme de deux angles est dénie par θ + θ′ = θ + θ′ ,
ce qui se traduit dans O2+ (R) par Rθ−1 = R−θ et Rθ+θ′ = Rθ Rθ′ .
Avec le théorème qui suit, on résume les propriétés des angles orientés de vecteurs.
Théorème 21.6 Soient x, y, z, x′ , y′ des vecteurs non nuls et λ un réel non nul. On a :
Isométries en dimension 2
527
\
[
1. (λx,
λy) = (x,
y) ;
{
}
[
2. les vecteurs x et y sont liés si, et seulement si, (x,
y) ∈ 0, 0π ;
[
[
[
3. (x,
y) + (y,
z) = (x,
z) (relation de Chasles) ;
[
[
4. (y,
x) = −(x,
y) ;
′ , y ′ ) si, et seulement si, (x,
[
\
\
\
5. (x,
y) = (x
x′ ) = (y,
y′) ;
\
[
6. pour toute rotation u ∈ O+ (E) , on a (u (x)
, u (y)) = (x,
y) (les rotations conservent les
angles orientés de vecteurs).
Démonstration.
1. Pour tout réel non nul λ, on a
1
λ 1
\
[
λx =
x, ce qui entraîne que (λx,
λy) = (x,
y).
∥λx∥
|λ| ∥x∥
On peut donc supposer tous les vecteurs unitaires dans ce qui suit.
[
\
\
\
2. De (x,
x) = 0, (x,
−x) = π, on déduit que (x,
λx) = 0, (x,
−λx) = π pour tout réel λ > 0.
{
}
[
Réciproquement si (x, y) ∈ 0, 0π , on a alors :
|⟨x | y⟩| = ∥x∥ ∥y∥
et les vecteurs x et y sont liés (ce qui se déduit aussi de detB (x, y) = 0) ;
[
[
3. Notons (x,
y) = θ, (y,
z) = θ′ et uθ , uθ′ les rotations telles que uθ (x) = y et uθ′ (y) = z.
On a alors :
uθ′ +θ (x) = uθ′ ◦ uθ (x) = uθ′ (y) = z
[
[
[
donc (x,
z) = θ + θ′ = θ + θ′ = (x,
y) + (y,
z).
[
[
[
[
[
4. Prenant z = x, on en déduit que (x,
y) + (y,
x) = (x,
x) = 0 et (y,
x) = −(x,
y).
5. On a :
′ , y ′ ) = (x,
\
\
\
[
\
(x,
x′ ) + (x
y ′ ) = (x,
y) + (y,
y′)
donc :
′, y′)
\
\
[
\
(x,
x′ ) − (y,
y ′ ) = (x,
y) − (x
6. Soit v l'unique rotation d'angle θ telle que y = v (x) . Comme O+ (E) est commutatif, on
a:
v (u (x)) = v ◦ u (x) = u ◦ v (x) = u (y)
\
donc θ = (u (x)
, u (y)).
21.1.3 Réexions en dimension 2
On rappelle qu'une réexion dans un espace euclidien est une symétrie orthogonale par
rapport à un hyperplan et que c'est une isométrie indirecte.
Une telle réexion est involutive.
Dans le cas d'un plan euclidien, une réexion est donc une symétrie orthogonale par rapport
à une droite.
Si sD est une réexion par rapport à la droite D, on a alors sD (x) = x pour tout x ∈ D et
sD (x) = −x pour tout x ∈ D⊥ . En désignant par f1 un vecteur non nul de D et f2 un vecteur
528
Groupe orthogonal d'un espace vectoriel euclidien de dimension 2, de dimension 3
⊥
non nul de
famille (f1 , f2 ) est une base orthogonale de E et la matrice de sD dans cette
( D , la )
base est
1 0
0 −1
.
De plus la droite D est l'ensemble des points xes de sD , soit D = ker (sD − Id) (l'espace
propre associé à la valeur propre 1).
Théorème 21.7 Les isométries indirectes d'un plan euclidien E sont les réexions. En désignant par :
(
Sθ =
cos (θ) sin (θ)
sin (θ) − cos (θ)
)
la matrice de u ∈ O− (E) dans la base orthonormée B0 et en notant :
{
( )
( )
f1 = cos 2θ e1 + sin 2θ e2
( )
( )
f2 = − sin 2θ e1 + cos 2θ e2
la matrice de u dans la base (f1 , f2 ) est
(
t
P Sθ P =
(
)
1 0
0 −1
, où P =
( )
( ) )
cos 2θ − sin 2θ
( )
( )
sin 2θ
cos 2θ
ce qui signie que u est la réexion par rapport à la droite D = Rf1 .
Démonstration. Si u est une isométrie indirecte, on a vu que sa matrice dans la base B0
est de la forme :
(
Sθ =
cos (θ) sin (θ)
sin (θ) − cos (θ)
)
où θ est un réel uniquement déterminé modulo 2π.
Son polynôme caractéristique est :
cos (θ) − λ
sin (θ)
χu (λ) = sin (θ)
− cos (θ) − λ
= λ2 − cos2 (θ) − sin2 (θ) = λ2 − 1
L'ensemble des points xes de u est donc la droite propre D d'équations :
{
ce qui s'écrit aussi :
et est équivalent à :
{
(cos (θ) − 1) x1 + sin (θ) x2 = 0
sin (θ) x1 − (cos (θ) + 1) x2 = 0
( )(
( )
( ) )
sin 2θ − sin 2θ x1 + cos 2θ x2 = 0
( )( ( )
( ) )
cos 2θ sin 2θ x1 − cos 2θ x2 = 0
( )
( )
θ
θ
− sin
x1 + cos
x2 = 0
2
2
( ( )
( ))
θ
θ
puisque cos
, sin
̸= (0, 0) .
2
2
(21.1)
( )
( )
θ
θ
Cette droite est dirigée par le vecteur unitaire f1 = cos
e1 +sin
e2 , la droite D⊥ est
2
2
( )
( )
θ
θ
dirigée par le vecteur unitaire f2 = − sin
e1 + cos
e2 et on a u (f1 ) = f1 , u (f2 ) = ±f2
2
2
Isométries en dimension 2
529
puisque D⊥ est(aussi stable
) par u (qui conserve la norme). La matrice
( de u dans
) la base (f1 , f2 )
est donc ∆ =
1 0
0 ±1
et avec det (u) = −1, on déduit que ∆ =
que u est la réexion par rapport à D.
1 0
0 −1
, ce qui signie
On peut remarquer que la droite D est la droite dirigée par le vecteur f1 d'angle polaire
θ
2
( )
θ
x1 .
dans la base B0 et que pour θ ∈
/ πZ, c'est la droite d'équation x2 = tan
2
La description des isométrie u d'un plan euclidien peut se faire en fonction de la dimension
de l'espace :
H = ker (u − Id)
de ses points xes.
Si dim (H) = 2, on a alors u = Id et c'est la rotation d'angle nul.
Si dim (D) = 1, dans une base
directe adaptée à la somme directe E =
( orthonormée
)
D ⊕ D⊥ , la matrice de u est
1 0
0 −1
et u est la réexion d'axe H.
Si dim (D) = 0, u ∈
/ O− (E) et c'est une rotation.
Théorème 21.8 Le produit de deux réexions est une rotation et réciproquement toute rotation
peut s'écrire comme composée de deux réexions.
Démonstration. Si u, u′ sont deux réexions, la composée u ◦ u′ est une isométrie et avec
det (u ◦ u′ ) = 1, on déduit que c'est une rotation.
Si u est une rotation et v une réexion, la composée w = v ◦ u est une isométrie et avec
det (v ◦ u) = −1, on déduit que c'est une réexion et u = v −1 ◦ w = v ◦ w est produit de deux
réexion.
De manière plus générale, O+ (E) est engendré par l'ensemble des réexions (théorème
19.10).
On peut remarquer qu'en dimension 2, l'écriture d'une rotation comme produit de deux
réexions n'est pas unique, la première peut être choisie arbitrairement et la deuxième est alors
uniquement déterminée.
Théorème 21.9 Pour toute réexion u ∈ O− (E) et tout couple (x, y) de vecteurs non nul, on
\
[
a (u (x)
, u (y)) = −(x,
y) (les réexions inversent les angles orientés de vecteurs).
[
Démonstration. On suppose x, y unitaires et v ∈ O+ (E) est la rotation d'angle θ = (x,
y)
telle que y = v (x) .
On a alors :
v − (u (x)) = u ◦ v ◦ u (u (x)) = u (v (x)) = u (y)
(comme u ◦ v ∈ O− (E) , on a u ◦ v = (u ◦ v)−1 = v −1 ◦ u−1 et v −1 = u ◦ v ◦ u), ce qui signie
\
que (u (x)
, u (y)) = −θ (v − est la rotation d'angle −θ).
En désignant respectivement par Rθ , Sθ et Sθ′ les matrices d'une rotation ρ et de deux
réexions σ et σ ′ dans B0 , on a :
Sθ Sθ′ = Rθ−θ′ , Sθ′ Rθ = Sθ′ −θ , Rθ Sθ′ = Sθ+θ′
(lemme 21.1), ce qui signie que :
la composée des deux symétries σ ◦ σ ′ est la rotation d'angle θ − θ′ (modulo 2π ) ;
σ ′ ◦ ρ est la réexion par rapport à la droite dirigée par le vecteur d'angle polaire
θ′ − θ
;
2
530
Groupe orthogonal d'un espace vectoriel euclidien de dimension 2, de dimension 3
ρ ◦ σ ′ est la réexion par rapport à la droite dirigée par le vecteur d'angle polaire
θ + θ′
.
2
Exercice 21.4 Déterminer le centre de O+ (E) et de O (E) .
Solution 21.4 On note Z (G) le centre d'un groupe G.
Comme O+ (E) est commutatif, on a Z (O+ (E)) = O+ (E) .
Avec Rθ Sθ′ = Sθ+θ′ ̸= Sθ′ −θ = Sθ′ Rθ pour θ ∈
/ Zπ, on déduit que Z (O (E)) ne contient pas de
réexion ni de rotations d'angle diérent de 0 modulo π. Donc Z (O (E)) = {−Id, Id} .
21.1.4 Le groupe diédral D2n
On se xe un entier n ≥ 2 et on se place dans le plan E = R2 muni de sa structure euclidienne
canonique.
On note B0 = (e1 , e2 ) la base canonique de R2 .
Dénition 21.2 On dit qu'un groupe multiplicatif G est diédral de type D2n , s'il est dicyclique
engendré par un élément ρ d'ordre n et un élément σ ̸= ρ d'ordre 2 tel que ρσρσ = Id (ce qui
signie que ρσ est d'ordre 2).
Lemme 21.2 Si G est un groupe diédral de type D2n , on a alors :
{
} {
}
G = Id, ρ, · · · , ρn−1 ∪ σ, σρ, · · · , σρn−1
et il est d'ordre 2n.
Démonstration. Voir l'exercice 3.40
2π
On désigne par ρ la rotation d'angle
(modulo 2π ) et par σ la réexion d'axe Re1 .
n
Les matrices de ρ et σ dans B0 sont respectivement :
(
R=
( )
( 2π ) )
(
)
cos 2π
−
sin
1 0
n
n
( )
( 2π )
et S =
0 −1
sin 2π
cos
n
n
La rotation ρ est d'ordre n puisque Rn = I2 et Rk ̸= I2 pour tout k compris entre 1 et n − 1,
la réexion σ est d'ordre 2 et ρσ est une réexion, donc d'ordre 2 également. Le groupe ⟨ρ, σ⟩
est donc diédral de type D2n .
On désigne par :
{
}
Γn = Ak = ρk (e1 ) | 0 ≤ k ≤ n − 1
l'ensemble des sommets d'un polygone régulier à n cotés et par :
Is (Γn ) = {u ∈ O (E) | u (Γn ) = Γn }
le groupe des isométries qui conservent Γn .
Théorème 21.10 On a :
{
} {
}
Is (Γn ) = ⟨ρ, σ⟩ = Id, ρ, · · · , ρn−1 ∪ σ, σρ, · · · , σρn−1
Isométries en dimension 3
531
Démonstration. Pour tout entier k compris entre 0 et n − 1, on a :
(
σ (Ak ) = σ ◦ ρk (e1 ) =
et :
) 
(
( 2kπ ) ) 
2(n−k)π
cos
cos n
n
(
)  = An−k ∈ Γn
( 2kπ ) = 
2(n−k)π
− sin n
sin
n
ρ (Ak ) = Ak+1 ∈ Γn
donc ρ et σ sont dans Is (Γn ) et G = ⟨ρ, σ⟩ ⊂ Is (Γn ) .
Réciproquement si u ∈ Is (Γn ) , c'est soit une rotation, soit une réexion. Si u est une
rotation d'angle α avec 0 ≤ α < 2π, comme
) ∈ Γ , il existe un entier k compris entre 0
( u (A
( 0 ) )n
(
)
cos 2kπ
2kπ
n )
( 2kπ
et n − 1 tel que u (A0 ) =
et α =
=
, donc u = ρk ∈ G. Si c'est
n
sin n
une réexion, alors σ ◦ u est une rotation dans Is (Γn ) , donc σ ◦ u ∈ G et u = σ ◦ (σ ◦ φ) ∈ G.
On a donc Is (Γn ) ⊂ G et G = Is (Γn ) .
cos (α)
sin (α)
Remarque 21.7 À isomorphisme près, il y a un unique groupe diédral d'ordre 2n, c'est Is (Γn )
(voir l'exercice 3.40).
21.2 Isométries en dimension 3
Pour ce paragraphe, E est un espace euclidien de dimension 3 et il est orienté par le choix
d'une base orthonormée B0 = (e1 , e2 , e3 ) .
Lemme 21.3 Une isométrie u ∈ O (E) , a au moins valeur propre réelle qui vaut −1 ou 1.
Démonstration. Le polynôme caractéristique χu de u étant de degré 3 à coecients réels,
le théorème des valeurs intermédiaires nous dit qu'il a au moins une racine réelle et comme u
est une isométrie, cette valeur propre est dans {−1, 1} .
Exemple 21.3 L'identité, Id ∈ O+ (E) , a 1 pour unique valeur propre et −Id ∈ O− (E) a −1
pour unique valeur propre.
Exemple 21.4 Si u est une réexion (symétrie orthogonale par rapport à un plan), sa matrice
dans une base orthonormée adaptée est alors :


1 0 0
S= 0 1 0 
0 0 −1
donc χu (λ) = − (1 − λ)2 (1 + λ) et ses valeurs propres sont −1 et 1.
Exemple 21.5 Si u est un retournement (symétrie orthogonale par rapport à une droite), sa
matrice dans une base orthonormée adaptée est alors :


1 0
0
S =  0 −1 0 
0 0 −1
donc χu (λ) = (1 − λ) (1 + λ)2 et les valeurs propres de u sont −1 et 1.
532
Groupe orthogonal d'un espace vectoriel euclidien de dimension 2, de dimension 3
Théorème 21.11 Soient u ∈ O (E) et :
H = ker (u − Id) = {x ∈ E | u (x) = x}
l'ensemble des points xes de u.
1. Si dim (H) = 3, on a alors u = Id.
2. Si dim (H) = 2, on a alors u ∈ O− (E) \ {−Id} et c'est la réexion par rapport au
plan H. En désignant par (f1 , f2 , f3 ) une base orthonormée de E où (f1 , f2 ) est une base
orthonormée de H, la matrice de u dans cette base est :


1 0 0
 0 1 0 
0 0 −1
3. Si dim (H) = 1, on a alors u ∈ O+ (E) \ {Id} et désignant par (f1 , f2 , f3 ) une base
orthonormée directe de E telle que (f1 , f2 ) soit une base orthonormée du plan P = H ⊥ ,
la matrice de u dans cette base est :


cos (θ) − sin (θ) 0
Rθ =  sin (θ) cos (θ) 0 
0
0
1
4. Si dim (H) = 0 (c'est-à-dire H = {0}), on a alors u ∈ O− (E) et soit u = −Id, soit u
est la composée commutative d'une rotation ρ d'axe D avec une réexion par rapport au
plan P = D⊥ et, en désignant par (f1 , f2 , f3 ) une base orthonormée directe de E telle que
(f1 , f2 ) soit une base orthonormée du plan P, la matrice de u dans cette base est :

cos (θ) − sin (θ) 0
0 
Aθ =  sin (θ) cos (θ)
0
0
−1

Démonstration.
1. Si dim (H) = 3, on a alors H = E et u = Id.
2. Si dim (H) = 2, H ⊥ est alors une droite stable par u et dans une base orthonormée directe
adaptée à la somme directe E = H ⊕ H ⊥ , la matrice de u est :


1 0 0
A= 0 1 0 
0 0 ε
avec ε = det (A) = ±1. Comme dim (H) = 2, on a nécessairement ε = 1 et u est la
réexion par rapport au plan H, donc u ∈ O− (E) \ {−Id} .
3. Si dim (H) = 1, on a u ̸= Id et la restriction v de u au plan stable P = H ⊥ est alors une
isométrie qui ne peut être une réexion (elle n'a pas de point xe non nul), c'est donc
une rotation et la matrice de u dans une base orthonormée directe adaptée à la somme
directe E = H ⊥ ⊕ H est :


cos (θ) − sin (θ) 0
Rθ =  sin (θ) cos (θ) 0 
0
0
1
donc u ∈ O+ (E) \ {Id} .
Isométries en dimension 3
533
4. Si dim (H) = 0, on a alors H = {0} et 1 n'est pas valeur propre de u.
Dans ce cas −1 est nécessairement valeur propre de u
On peut avoir u = −Id ∈ O− (E) et c'est alors terminé.
Sinon, en désignant par f3 un vecteur propre unitaire associé à la valeur propre −1, le plan
orthogonal P à la droite D dirigée par f3 est stable par u et dans une base orthonormée
directe adaptée à la somme directe E = P ⊕ D, la matrice de u est :
(
A=
B 0
0 −1
)
où B est la matrice de la restriction v de u à P. Si B ∈ O2− (R) , v est alors une réexion
et a des points xes non nuls, ce qui contredit H = {0} . On a donc B ∈ O2+ (R) et
det (A) = −1, c'est-à-dire que u ∈ O− (E) \ {−Id} et il existe un réel θ tel que :


cos (θ) − sin (θ) 0
0 
A =  sin (θ) cos (θ)
0
0
−1
En remarquant que :


 
cos (θ) − sin (θ) 0
1 0 0
cos (θ) − sin (θ) 0
 sin (θ) cos (θ)
0  =  sin (θ) cos (θ) 0   0 1 0 
0
0
1
0 0 −1
0
0
−1



1 0 0
cos (θ) − sin (θ) 0
0 
=  0 1 0   sin (θ) cos (θ)
0 0 −1
0
0
−1

on voit que u = ρ ◦ σ = σ ◦ ρ, où ρ est la rotation d'axe D et d'angle θ et σ la réexion
par rapport à P = D⊥ .
Remarque 21.8 Si (f1 , f2 ) est une base orthonormée d'un plan P, en notant f3 = f1 ∧ f2 , la
famille (f1 , f2 , f3 ) est une base orthonormée directe de E.
Remarque 21.9 Dans le cas où H = {0} , on a u ∈ O− (E) , donc −u ∈ O+ (E) , sa matrice
dans la base (f1 , f2 , f3 ) du théorème précédent étant :

 

− cos (θ) sin (θ) 0
cos (θ + π) − sin (θ + π) 0
 − sin (θ) − cos (θ) 0  =  sin (θ + π) cos (θ + π) 0  = Rθ+π
0
0
1
0
0
1
et −u est la rotation d'axe D et d'angle θ + π.
Avec les notations du théorème précédent, dans le cas où dim (H) = 1, on dit que u ∈
O (E) \ {Id} est la rotation d'axe H orienté par f1 ∧ f2 , où (f1 , f2 ) est une base orthonormée
du plan P = D⊥ et d'angle de mesure θ (modulo 2π ).
On dit que Id = R0 est une rotation d'angle de mesure nulle.
Pour θ = π, la matrice de u ∈ O+ (E) dans la base orthonormée (f1 , f2 , f3 ) est :
+


−1 0 0
Rπ =  0 −1 0 
0
0 1
534
Groupe orthogonal d'un espace vectoriel euclidien de dimension 2, de dimension 3
et u est la symétrie orthogonale par rapport à la droite Rf3 (c'est un retournement ou demi-tour
d'axe Rf3 ).
Si u ∈ O+ (E) \ {Id} est une rotation d'axe D = Rf3 et d'angle de mesure θ, le théorème
qui suit nous donne, pour tout x ∈ E, une expression de u (x) en fonction de f3 , θ et x.
Théorème 21.12 Soit
u ∈ L (E) \ {Id} . u est une rotation si, et seulement si, il existe un
vecteur unitaire f3 et un réel θ ∈ ]−π, π] \ {0} tels que :
∀x ∈ E, u (x) = cos (θ) x + (1 − cos (θ)) ⟨f3 | x⟩ f3 + sin (θ) (f3 ∧ x)
(21.2)
Dans ce cas la droite D = Rf3 est l'axe orienté de la rotation, θ la mesure principale de son
angle et pour tout vecteur x unitaire et orthogonal au vecteur f3 , on a :
cos (θ) = ⟨x | u (x)⟩ , sin (θ) = detB0 (x, u (x) , f3 )
Démonstration. Supposons que u ∈ O+ (E) \ {Id} .
On utilise la base orthonormée directe B = (f1 , f2 , f1 ∧ f2 ) du théorème précédent en notant
f3 = f1 ∧ f2 et x1 , x2 , x3 les coordonnées d'un vecteur x ∈ E dans cette base.
Les coordonnées y1 , y2 , y3 de u (x) dans cette base sont alors données par :

 

 

y1
cos (θ) − sin (θ) 0
x1
cos (θ) x1 − sin (θ) x2
 y2  =  sin (θ) cos (θ) 0   x2  =  sin (θ) x1 + cos (θ) x2 
y3
0
0
1
x3
x3






−x2
x1
0
= cos (θ)  x2  + (1 − cos (θ))  0  + sin (θ)  x1 
x3
0
x3
= cos (θ) x + (1 − cos (θ)) ⟨f3 | x⟩ f3 + sin (θ) (f3 ∧ x)
Réciproquement, soit u ∈ L (E) \ {Id} dénie par (21.2) .
On utilise une base orthonormée directe (f1 , f2 , f3 ) avec f2 unitaire orthogonal à f3 et f1 =
f2 ∧ f3 . Dans cette base, on a :
u (f3 ) = cos (θ) f3 + (1 − cos (θ)) f3 = f3
u (f2 ) = cos (θ) f2 + sin (θ) (f3 ∧ f2 ) = cos (θ) f2 − sin (θ) f1
u (f1 ) = cos (θ) f1 + sin (θ) (f3 ∧ f1 ) = cos (θ) f1 + sin (θ) f2
Donc la matrice de u dans cette base est :


cos (θ) − sin (θ) 0
 sin (θ) cos (θ) 0 
0
0
1
et u est la rotation
d'axe orienté D = Rf3 et d'angle de mesure principale

 θ.


cos (θ) x1 − sin (θ) x2
x1
Pour x =  x2  unitaire et orthogonal au vecteur f3 , on a u (x) =  sin (θ) x1 + cos (θ) x2 
0
0
et :
(
)
⟨x | u (x)⟩ = cos (θ) x21 + x2 = cos (θ)
x1 cos (θ) x1 − sin (θ) x2 0 detB0 (x, u (x) , f3 ) = detB (x, u (x) , f3 ) = x2 sin (θ) x1 + cos (θ) x2 0 0
0
1 )
( 2
= sin (θ) x1 + x2 = sin (θ)
Isométries en dimension 3
535
Ce qui peut aussi se voir avec :
⟨x | u (x)⟩ = cos (θ) ∥x∥2 + sin (θ) ⟨x | f3 ∧ x⟩ = cos (θ)
et :
detB0 (x, u (x) , f3 ) = sin (θ) detB0 (x, f3 ∧ x, f3 )
= sin (θ) detB0 (f3 , x, f3 ∧ x) = sin (θ)
On déduit du théorème précédent, une expression de u (x) pour O− (E) . Comme −u est une
rotation d'angle θ + π, on a :
∀x ∈ E, −u (x) = cos (θ + π) x + (1 − cos (θ + π)) ⟨f3 | x⟩ f3 + sin (θ + π) (f3 ∧ x)
soit :
∀x ∈ E, u (x) = cos (θ) x − (1 + cos (θ)) ⟨f3 | x⟩ f3 + sin (θ) (f3 ∧ x)
Remarque 21.10 En notant f3 = ae1 +be2 +ce3 avec a2 +b2 +c2 = 1 et x = x1 e1 +x2 e2 +x3 e3 ,
on pour u ∈ O+ (E) \ {Id} , dans la base B0 :





y1
x1
a
 y2  = cos (θ)  x2  + (1 − cos (θ)) (ax1 + bx2 + cx3 )  b
y3
c
x3



x1
a
= cos (θ)  x2  + (1 − cos (θ)) (ax1 + bx2 + cx3 )  b
x3
c


 2
x1
a x1 + abx2 + acx3



abx1 + b2 x2 + bcx3
+ (1 − cos (θ))
= cos (θ) x2
x3
acx1 + bcx2 + c2 x3


 

a
x1
 + sin (θ)  b  ∧  x2 
c
x3



bx3 − cx2
 + sin (θ)  cx1 − ax3 
ax2 − bx1



bx3 − cx2
 + sin (θ)  cx1 − ax3 
ax2 − bx1
ce qui signie que la matrice de u ∈ O+ (E) \ {Id} dans la base B0 est :



a2 ab ac
0 −c b
0 −a 
A = I3 + (1 − cos (θ))  ab b2 bc  + sin (θ)  c
2
−b a
0
ac bc c

Si A ∈ O3+ (R) \ {I3 } est la matrice de u ∈ O+ (E) \ {Id} dans la base orthonormée B0 , alors
l'axe D de la rotation u est obtenu en déterminant le noyau de u − Id, ce qui revient à résoudre
un système linéaire (A − I3 ) X = 0, où la matrice A − I3 est de rang 2.
Pour ce qui est de la mesure principale θ ∈ ]−π, π] \ {0} de l'angle de cette rotation, avec :
Tr (u) = Tr (A) = Tr (Rθ ) = 2 cos (θ) + 1
on en déduit la valeur de cos (θ) et celle de θ au signe près.
Si Tr (u) = −1, on a alors cos (θ) = −1, donc sin (θ) = 0 et θ = π.
Dans le cas où θ ∈ ]−π, π[ \ {0} , on peut déterminer le signe de sin (θ) , et donc celui de θ,
avec l'égalité :
sin (θ) =
detB0 (x, u (x) , f3 )
∥x∥2
où x est un vecteur non nul orthogonal à D.
536
Groupe orthogonal d'un espace vectoriel euclidien de dimension 2, de dimension 3
Exercice 21.5 On désigne par u l'endomorphisme de E de matrice :


−1 2
2
1
A =  2 −1 2 
3
2
2 −1
dans la base B0 .
1. Montrer que u est une rotation.
2. Donner une vecteur unitaire f3 appartenant à l'axe de cette rotation.
3. Déterminer la mesure principale θ ∈ ]−π, π] de l'angle de cette rotation.
Solution 21.5
1. Avec A ̸= I3 , A t A = I3 et det (A) = 1, on déduit que u est une rotation d'angle non nul
(modulo 2π ).
2. L'axe de cette rotation est obtenu en résolvant le système linéaire (A − I3 ) X = 0, soit :

 −2x + y + z = 0
x − 2y + z = 0

x + y − 2z = 0
1
3
ce qui donne x = y = z et l'axe D de u est la droite dirigée par f3 = √ (e1 + e2 + e3 ) .
3. Avec Tr (u) = −1 = 2 cos (θ) + 1, on déduit que cos (θ) = −1 et θ = π.
Exercice 21.6 On se donne des réels a, b, c non tous nuls et on désigne par u l'endomorphisme
de E de matrice :


a2
ab − c ac + b
b2
bc − a 
A =  ab + c
ac − b bc + a
c2
dans la base B0 .
1. Calculer le déterminant de u.
2. Déterminer les réels a, b, c tels que u soit une isométrie et dans ce cas, préciser sa nature
géométrique.
Solution 21.6
1. On a :
det (u) = a4 + b4 + c4 + 2a2 b2 + 2a2 c2 + 2b2 c2
)2
(
= a2 + b2 + c2 ≥ 0
2. Si u ∈ O (E) , on a alors det (u) = ±1, donc det (u) = 1 et a2 + b2 + c2 = ±1.
Avec :
1 = ∥u (e1 )∥2 = a4 + (ab + c)2 + (ac − b)2
(
)
= a2 a2 + b2 + c2 + c2 + b2
Isométries en dimension 3
537
on déduit que si a2 + b2 + c2 = −1, on a alors :
{
a2 + b2 + c2 = −1
−a2 + c2 + b2 = 1
donc b2 + c2 = 0, soit b = c = 0 et a2 = −1, ce qui est impossible.
On a donc a2 + b2 + c2 = 1 et u ∈ O+ (E) .
Réciproquement, supposons que a2 + b2 + c2 = 1. Dans ce cas, on a det (u) = 1 et :
∥u (e1 )∥2 = 1
∥u (e2 )∥2 = b4 + (ab − c)2 + (bc + a)2
(
)
= b2 a2 + b2 + c2 + c2 + a2 = 1
∥u (e3 )∥2 = c4 + (ac + b)2 + (bc − a)2
(
)
= c2 a2 + b2 + c2 + b2 + a2 = 1
⟨u (e1 ) | u (e2 )⟩ = a2 (ab − c) + b2 (ab + c) + (ac − b) (bc + a)
(
)
= ab a2 + b2 + c2 − ab = 0
⟨u (e1 ) | u (e3 )⟩ = a2 (ac + b) + c2 (ac − b) + (ab + c) (bc − a)
(
)
= ac a2 + b2 + c2 − ac = 0
⟨u (e2 ) | u (e3 )⟩ = (ab − c) (ac + b) + b2 (bc − a) + c2 (bc + a)
(
)
= bc a2 + b2 + c2 − bc = 0
ce qui signie que u ∈ O+ (E) .
Donc, pour a2 + b2 + c2 = 1, u ∈ O+ (E) \ {Id} et c'est une rotation d'angle θ ∈ ]−π, π]
π
tel que 2 cos (θ) + 1 = Tr (A) = 1, ce qui donne θ = ± .
2
L'axe D de cette rotation est obtenu en résolvant le système linéaire (A − I3 ) X = 0, soit :
 2
 (a − 1) x + (ab − c) y + (ac + b) z = 0
(ab + c) x + (b2 − 1) y + (bc − a) z = 0

(ac − b) x + (bc + a) y + (c2 − 1) z = 0
(1)
(2)
(3)
En eectuant les opérations (1)+c·(2)−b·(3) , −c·(1)+(2)+a·(3) et b·(1)−a·(2)+(3) ,
on obtient :

 −cy + bz = 0
cx − az = 0

−bx + ay = 0
Comme (a, b, c) ̸= 0, l'un de ces coecients est non nul. En supposant a ̸= 0, on obtient
c
b
z = x et y = x et l'axe D de u est la droite dirigée par f3 = ae1 + be2 + ce3 (les deux
a
a
autres possibilités donnent le même résultat).
En désignant par x un vecteur non nul dans D⊥ , par exemple x = −be1 + ae2 si a ̸= 0,
sin (θ) est du signe de :
−b −ac
−bc
det (x, u (x) , f3 ) = a
0 1 − c2
π
et en conséquence θ = . On dit que u est un quart
2
a
b
c
= a2 + b2 > 0
de tour.
538
Groupe orthogonal d'un espace vectoriel euclidien de dimension 2, de dimension 3
1
(e1 − e2 + e3 ) et u la rotation d'axe
3
Exercice 21.7 Soient D la droite de E dirigée par e = √
2π
D et d'angle de mesure
, le plan D⊥ étant orienté par le choix de e. Donner la matrice de
3
u dans la base B0 .
1
1
√ (e1 + e2 ) , f2 = f3 ∧ f1 = √ (−e1 + e2 + 2e3 ) , (f1 , f2 , f3 )
2
6
est une base orthonormée directe de E, (f1 , f2 ) est une base de D⊥ et la matrice de u dans cette
base est :
√
( )
( 2π )

  1

3
cos ( 2π
−
sin
0
−
−
0
3)
3)
2
(
√2
cos 2π
0  =  3 −1 0 
A′ =  sin 2π
3
3
2
2
0
0
1
0
0
1
Solution 21.7 En notant f1 =
et sa matrice dans la base B0 est :
A = P A′ P −1 = P A′ t P
 1

√
  √1
3
1
√
√1
√1
√1
−
−
0
−
2
6
3
2
2
2
2
√



=  √12 √16 − √13   23 − 12 0   − √16 √16
√2
√1
√1
0
− √13
0
0
1
6
3
3


0 −1 0
=  0 0 −1 
1 0
0
0
√2
6
√1
3



On peut aussi utiliser l'expression (21.2) d'une rotation, ce qui donne pour tout x ∈ E :
(
)
(
( ))
( )
2π
2π
2π
u (x) = cos
x + 1 − cos
⟨e | x⟩ e + sin
(e ∧ x)
3
3
3

 


 
−x2 − x3
x1
1
1
= −  x2  + (x1 − x2 + x3 )  −1  +  x1 − x3 
2
x1 + x2
1
x3


−x2

−x3 
=
x1
donc :


0 −1 0
A =  0 0 −1 
1 0
0
21.2.1 Applications qui conservent le produit vectoriel
Le théorème 21.14 qui suit nous dit que les rotations d'un espace euclidien de dimension 3
sont les applications (non supposées linéaires, a priori) qui conservent le produit vectoriel.
Théorème 21.13 Les rotations conservent le produit scalaire, c'est-à-dire pour toute rotation
u ∈ O+ (E) , on a u (x ∧ y) = u (x) ∧ u (y) pour tous vecteurs x, y dans E.
Démonstration. Soit u ∈ O+ (E) une rotation de E.
Isométries en dimension 3
539
Pour tous vecteurs x, y, z dans E on a :
det (u (x) , u (y) , u (z)) = det (u) det (x, y, z) = det (x, y, z)
= ⟨x ∧ y | z⟩ = ⟨u (x ∧ y) | u (z)⟩
et du fait que u est un automorphisme, cela peut s'écrire det (u (x) , u (y) , w) = ⟨u (x ∧ y) | w⟩
pour tout w ∈ E. Par dénition du produit vectoriel, on en déduit que u (x ∧ y) = u (x) ∧ u (y) .
Pour ce qui suit, on se donne une application u : E → E telle que :
∀ (x, y) ∈ E 2 , u (x ∧ y) = u (x) ∧ u (y)
(21.3)
Avec u (0) = u (0)∧u (0) , on déduit que u (0) est orthogonal à lui même, donc que ∥u (0)∥2 =
⟨u (0) | u (0)⟩ = 0 et u (0) = 0.
Lemme 21.4 Si u s'annule en un vecteur x0 non nul alors u est identiquement nulle.
Démonstration. En notant
D = Rx0 la droite vectorielle engendrée par x0 et H = D⊥
le plan orthogonal à D, on a E = D ⊕ H et tout vecteur x ∈ E s'écrit de manière unique
x = λx0 + h avec λ ∈ R et h ∈ H.
Pour λ = 0, x = h est un vecteur orthogonal à x0 , il existe donc un vecteur z ∈ E tel
x0 ∧ z = x et avec (21.3) , on déduit que u (x) = u (x0 ) ∧ u (z) = 0.
On a donc u (h) = 0 pour tout h ∈ H.
En désignant par h0 un vecteur non nul dans H, pour tout λ ∈ R on peut trouver z ∈ E tel
h0 ∧ z = λx0 et u (λx0 ) = u (h0 ) ∧ u (z) = 0.
On a donc u (x) = 0 pour tout x ∈ D.
Enn si x = λx0 + h avec λ ∈ R∗ et h ∈ H − {0} , le vecteur z0 = x0 ∧ h est non nul (x0 et h
sont linéairement indépendants), u (z0 ) = 0 et en écrivant x = z0 ∧ t, on déduit que u (x) = 0.
En dénitive on a u (x) = 0 pour tout x ∈ E, c'est-à-dire que u est identiquement nulle.
Dans ce qui suit on suppose que u est une solution non identiquement nulle de l'équation
fonctionnelle (21.3) . On a donc u (0) = 0 et u (x) ̸= 0 pour tout x ∈ E − {0} .
Dans un premier temps on montre que l'application u est nécessairement linéaire.
Lemme 21.5 Les vecteurs u (x) et u (y) sont liés si, et seulement si, les vecteurs x et y le sont.
Démonstration. On a :
u (x) , u (y) liés ⇔ u (x) ∧ u (y) = 0 ⇔ u (x ∧ y) = 0 ⇔ x ∧ y = 0 ⇔ x, y liés
Lemme 21.6 Pour tous x, y dans E on a u (x + y) = u (x) + u (y) .
Démonstration. Pour x = 0 ou y = 0 le résultat est évident. On suppose donc que x ̸= 0
et y ̸= 0. Avec :
u (x + y) ∧ u (x) = u ((x + y) ∧ x) = u (y ∧ x) = u (y) ∧ u (x)
= (u (x) + u (y)) ∧ u (x)
on déduit que (u (x + y) − u (x) − u (y)) ∧ u (x) = 0, ce qui équivaut à dire que les vecteurs
u (x + y) − u (x) − u (y) et u (x) sont liés. Pour x ̸= 0 on a u (x) ̸= 0 et il existe alors un réel α
540
Groupe orthogonal d'un espace vectoriel euclidien de dimension 2, de dimension 3
tel que u (x + y) − u (x) − u (y) = αu (x) . Les vecteurs x et y jouant des rôles symétriques on
obtient de même l'existence d'un réel β tel que u (x + y) − u (x) − u (y) = βu (y) .
Si x et y sont linéairement indépendants il en est de même de u (x) et u (y) et l'égalité
αu (x) − βu (y) = 0 se traduit par α = β = 0 et u (x + y) = u (x) + u (y) .
Si les vecteurs x, y sont liés on a y = λx avec λ ∈ R∗ et pour z ∈ E linéairement indépendant
de x (et de y ), le système (x + y, z) est soit libre soit égal à (0, z) , ce qui donne dans tous les
cas :
u (x + y + z) = u (x + y) + u (z)
D'autre part avec (x + z, y) et (x, z) libres on a aussi :
u (x + y + z) = u (x + z) + u (y) = u (x) + u (z) + u (y)
ce qui permet de conclure à u (x + y) = u (x) + u (y) .
Lemme 21.7 Pour tout vecteur x et tout réel λ on a u (λx) = λuf (x) .
Démonstration. Pour x = 0 ou λ = 0 l'égalité est vériée.
Pour x ̸= 0 xé les vecteurs x et λx étant liés il en est de même des vecteurs u (x) et
u (λx) avec u (x) ̸= 0, il existe donc un réel µx (λ) tel que u (λx) = µx (λ) u (x) . Il est clair que
µx (0) = 0 et µx (1) = 1.
Pour λ1 , λ2 dans R on a :
u ((λ1 + λ2 ) x) = µx (λ1 + λ2 ) u (x)
= u (λ1 x + λ2 x) = u (λ1 x) + u (λ2 x)
= (µx (λ1 ) + µx (λ2 )) u (x)
ce qui entraîne µx (λ1 + λ2 ) = µx (λ1 ) + µx (λ2 ) .
Si y est un vecteur linéairement indépendant de x, avec :
u (λx ∧ y) = u (λx) ∧ u (y) = µx (λ) u (x) ∧ u (y)
= u (x ∧ λy) = u (x) ∧ u (λy) = µy (λ) u (x) ∧ f (y)
et avec u (x) ∧ u (y) ̸= 0 (puisque u (x) et u (y) sont libres comme x et y ), on déduit que
µx (λ) = µy (λ) pour tout réel λ. En posant z = x ∧ y, le système (x, y, z) est libre, donc
µx = µy = µz et pour λ1 , λ2 dans R on a :
u (λ1 λ2 z) = µz (λ1 λ2 ) u (z) = µx (λ1 λ2 ) u (z)
= u (λ1 x ∧ λ2 y) = u (λ1 x) ∧ u (λ2 y)
= µx (λ1 ) µx (λ2 ) u (x) ∧ f (y) = µx (λ1 ) µx (λ2 ) u (z)
ce qui entraîne µx (λ1 λ2 ) = µx (λ1 ) µx (λ2 ) .
En dénitive µx est un morphisme de corps non identiquement nul de R sur lui même, c'est
donc l'identité (corollaire 50.1). On a donc u (λx) = λx pour tout x ∈ E.
De deux lemmes qui précèdent, on déduit donc que u est linéaire.
Lemme 21.8 Si les vecteurs x, y sont orthogonaux dans E alors il en est de même des vecteurs
u (x) et u (y) .
Démonstration. Si x = 0, u (x) = 0 est alors orthogonal à f (y) .
Si x ̸= 0, comme y est orthogonal à x, on peut trouver z ∈ E tel que y = x ∧ z et
u (y) = u (x ∧ z) = u (x) ∧ u (z) est orthogonal à u (x) .
Isométries en dimension 3
541
Lemme 21.9 Si x ∈ E est tel que ∥x∥ = 1, on a alors ∥u (x)∥ = 1.
Démonstration. On complète x en une base orthonormée directe (x, y, z) et avec x = y ∧ z,
on a :
∥u (x)∥2 = ∥u (y) ∧ u (z)∥2 = ∥u (y)∥2 ∥u (z)∥2 − ⟨u (y) | u (z)⟩2
= ∥u (y)∥2 ∥u (z)∥2
soit ∥u (x)∥ = ∥u (y)∥ ∥u (z)∥ . De manière analogue, on montre que ∥u (y)∥ = ∥u (x)∥ ∥u (z)∥
et ∥u (z)∥ = ∥u (x)∥ ∥u (y)∥ , ce qui donne :
∥u (y)∥ = ∥u (x)∥2 ∥u (y)∥
avec u (y) ̸= 0, ce qui entraîne ∥u (x)∥ = 1.
Théorème 21.14 Les rotations sont application u : E → E telles que :
∀ (x, y) ∈ E 2 , u (x ∧ y) = u (x) ∧ u (y)
Démonstration. On sait déjà que les rotations conservent le produit vectoriel et si u vérie
l'équation fonctionnelle (21.3) elle est alors linéaire et transforme la base canonique en une base
orthonormée, u est donc un endomorphisme orthogonal.
Avec :
det (u) = det (u (e1 ) , u (e2 ) , u (e3 )) = det (u (e1 ) , u (e2 ) , u (e1 ∧ e2 ))
= det (u (e1 ) , u (e2 ) , u (e1 ) ∧ f (e2 )) = ∥u (e1 ) ∧ u (e2 )∥2 > 0
on déduit que u est une rotation.
21.2.2 Sous-groupes nis de O+ (E)
Le théorème qui suit nous donne une description des sous-groupes nis de O+ (E) .
Théorème 21.15 Un sous-groupe ni de O+ (E) est soit cyclique, soit diédral, soit isomorphe
à A4 , S4 ou A5 .
Démonstration. Voir le paragraphe 4.6.2.
542
Groupe orthogonal d'un espace vectoriel euclidien de dimension 2, de dimension 3