12. Matrices symétriques et matrices définies positives
publicité
1/2
2/2
12. Matrices symétriques et matrices
définies positives
Sections 6.4 et 6.5
MTH1007
J. Guérin, N. Lahrichi, S. Le Digabel
École Polytechnique de Montréal
A2016
(v2)
MTH1007: algèbre linéaire
1/22
1/2
2/2
Plan
1. Matrices symétriques
2. Matrices définies positives
MTH1007: algèbre linéaire
2/22
1/2
2/2
1. Matrices symétriques
2. Matrices définies positives
MTH1007: algèbre linéaire
3/22
1/2
2/2
Valeurs et vecteurs propres
I
Une matrice est symétrique si A> = A.
I
Si A est une matrice symétrique alors ses valeurs propres sont
réelles.
I
Les vecteurs propres d’une matrice symétrique qui
correspondent à des valeurs propres distinctes sont
orthogonaux.
I
On peut donc choisir les vecteurs propres comme étant
orthonormaux.
MTH1007: algèbre linéaire
4/22
1/2
2/2
Vecteurs propres d’une matrice symétrique 2x2
Avec A =
a b
b c
et ses deux valeurs propres λ1 et λ2 , on a les
b
λ2 − c
deux vecteurs propres x1 =
et x2 =
.
λ1 − a
b
MTH1007: algèbre linéaire
5/22
1/2
2/2
Valeurs propres et pivots
I
Les valeurs propres d’une matrice sont très différentes des
pivots.
I
Le seul lien est :
déterminant
I
=
=
produit des pivots
produit des valeurs propres.
Pour les matrices symétriques, les pivots et les valeurs propres
ont le même signe.
MTH1007: algèbre linéaire
6/22
1/2
2/2
Diagonalisation
I
Si A ∈ Rn×n est symétrique, elle est toujours diagonalisable
sous la forme A = SΛS −1 avec S, Λ ∈ Rn×n .
I
Λ est la matrice diagonale des valeurs propres réelles.
I
La matrice des vecteurs propres S contient des vecteurs
orthonormaux : C’est une matrice orthogonale que l’on notera
Q afin d’avoir
A = QΛQ−1 = QΛQ>
(c’est le théorème spectral).
MTH1007: algèbre linéaire
7/22
1/2
2/2
Théorème spectral
Une matrice A est symétrique si et seulement si elle peut être
factorisée sous la forme
A = QΛQ−1 = QΛQ>
où Q est orthogonale et Λ est la matrice diagonale des valeurs
propres.
MTH1007: algèbre linéaire
8/22
1/2
2/2
Exemple
Illustrer le théorème spectral avec
1 2
A=
.
2 4
MTH1007: algèbre linéaire
9/22
1/2
2/2
Décomposition en somme de matrices de projection
Avec A ∈ Rn×n symétrique, on a
A = QΛQ> =
λ1
λ2
x1 x 2 . . . x n
..
.
λn
x>
1
x>
2
..
.
x>
n
>
>
= λ1 x1 x>
1 + λ2 x2 x2 + . . . + λn xn xn . Et donc
A = λ1 P1 + λ2 P2 + . . . + λn Pn
n×n la matrice de projection (de rang 1) sur le
avec Pi = xi x>
i ∈R
vecteur propre xi , i ∈ {1, 2, . . . , n}.
MTH1007: algèbre linéaire
10/22
1/2
2/2
Exemple
Illustrer la décomposition en somme de matrices de projection avec
1 2
A=
.
2 5
MTH1007: algèbre linéaire
11/22
1/2
2/2
1. Matrices symétriques
2. Matrices définies positives
MTH1007: algèbre linéaire
12/22
1/2
2/2
Définitions
I
Une matrice symétrique A est définie positive si toutes ses
valeurs propres sont strictement positives.
I
Une matrice symétrique peut être :
I
Définie positive.
I
Semi-définie positive.
I
Définie négative.
I
Semi-définie négative.
I
Non-définie.
MTH1007: algèbre linéaire
13/22
1/2
2/2
Valeurs propres et pivots pour une matrice
symétrique 2x2
I
a b
Soit A =
une matrice symétrique de taille 2 × 2. A
b c
est définie positive si ses valeurs propres sont strictement
positives.
Les valeurs propres de A sont strictement positives :
1. Si et seulement si a > 0 et ac − b2 > 0.
2. Si et seulement si les pivots sont positifs : a > 0 et
ac−b2
a
> 0.
I
Sinon, si a < 0 et |A| = ac − b2 > 0, A est définie négative.
I
Sinon A est non-définie (ou indéfinie).
MTH1007: algèbre linéaire
14/22
1/2
2/2
L’énergie d’une matrice
I
A est définie positive si x> Ax > 0 pour tout vecteur non nul
x:
a b
x
x> Ax = x y
= ax2 + 2bxy + cy 2 > 0 .
b c
y
I
x> Ax est donc strictement positif pour tout x non nul. Ce
nombre est l’énergie de A.
MTH1007: algèbre linéaire
15/22
1/2
2/2
Exemples
1 2
,
2 1
I
Quelle est la nature des matrices A1 =
1 −2
−1
2
A2 =
et A3 =
?
−2
6
2 −6
I
Si A est (symétrique) définie positive, alors l’équation
x> Ax = ax2 + 2bxy + cy 2 = 1
représente une ellipse dont les axes pointent dans la direction
des vecteurs propres et dont les longueurs sont √1λ et √1λ .
1
MTH1007: algèbre linéaire
2
16/22
1/2
2/2
Sous-matrices principales
Si A = [aij ] ∈ Rn×n , ses n sous-matrices principales sont :
A1 =
[a11 ]
A2 =
a11 a12
a21 a22
a11 a12 a13
a21 a22 a23
a31 a32 a33
..
.
a11 a12 · · · a1k
a21 a22 · · · a2k
..
..
..
.
.
.
A3 =
..
.
Ak =
ak1 ak2 · · · akk
et An = A.
MTH1007: algèbre linéaire
17/22
1/2
2/2
Remarques
I
Si A et B sont symétriques définies positives, alors A + B
l’est aussi.
I
Tout matrice carrée symétrique n × n peut se décomposer en
A = R> R avec R ∈ Rm×n .
I
Décomposition de Cholesky : Si A est symétrique et définie
positive, alors elle peut se décomposer en
A = LL>
avec L triangulaire inférieure.
MTH1007: algèbre linéaire
18/22
1/2
2/2
5 énoncés équivalents pour caractériser une matrice
définie positive
Pour une matrice symétrique A de taille n × n, les énoncés
suivants sont équivalents :
1. Les n pivots de A sont strictement positifs.
2. Les n déterminants des sous-matrices principales de A sont
strictement positifs.
3. Les n valeurs propres de A sont strictement positives.
4. x> Ax > 0 pour tout vecteur x 6= 0. C’est la définition basée
sur l’énergie.
5. A = R> R, où R a des colonnes linéairement indépendantes.
MTH1007: algèbre linéaire
19/22
1/2
2/2
Matrices semi-définies positives
La matrice symétrique A est semi-définie positive si un des énoncés
suivants est vrai :
I
Son déterminant est 0.
I
Sa plus petite valeur propre est 0.
I
Son énergie est nulle.
ATTENTION : Ce n’est pas la définition usuelle. Il est plus
courant de voir : A est semi-définie positive si x> Ax≥0 pour tout
x ∈ Rn (et alors toute matrice définie positive est également
semi-définie positive).
MTH1007: algèbre linéaire
20/22
1/2
2/2
Matrices définies négatives, semi-définies négatives,
et non-définies
I
La matrice symétrique A est définie négative si son opposée
−A est définie positive.
I
La matrice symétrique A est semi-définie négative si son
opposée −A est semi-définie positive.
I
Une matrice symétrique qui n’est ni définie positive,
semi-définie positive, définie négative ou semi-définie négative,
est non-définie (ou indéfinie).
MTH1007: algèbre linéaire
21/22
1/2
2/2
Application : Optimisation
Soit f (x, y) une fonction de Rn dans R.
I
Les points stationnaires de f sont les points (x∗ ) tels que
∇f (x∗ ) = 0.
I
Si ∇2 f (x∗ ) (la matrice hessienne en x∗ ) est :
I
I
I
I
semi-définie positive : x∗ est un minimum local de f .
semi-définie négative : x∗ est un maximum local de f .
non-définie : x∗ est un point de selle.
Si ∇2 f (x), pour tout x, est :
I
I
semi-définie positive : f est convexe et x∗ est un minimum
global de f .
semi-définie négative : f est concave et x∗ est un maximum
global de f .
(avec la définition usuelle de la semi-définie positivité/négativité).
MTH1007: algèbre linéaire
22/22
