1/2 2/2 12. Matrices symétriques et matrices définies positives Sections 6.4 et 6.5 MTH1007 J. Guérin, N. Lahrichi, S. Le Digabel École Polytechnique de Montréal A2016 (v2) MTH1007: algèbre linéaire 1/22 1/2 2/2 Plan 1. Matrices symétriques 2. Matrices définies positives MTH1007: algèbre linéaire 2/22 1/2 2/2 1. Matrices symétriques 2. Matrices définies positives MTH1007: algèbre linéaire 3/22 1/2 2/2 Valeurs et vecteurs propres I Une matrice est symétrique si A> = A. I Si A est une matrice symétrique alors ses valeurs propres sont réelles. I Les vecteurs propres d’une matrice symétrique qui correspondent à des valeurs propres distinctes sont orthogonaux. I On peut donc choisir les vecteurs propres comme étant orthonormaux. MTH1007: algèbre linéaire 4/22 1/2 2/2 Vecteurs propres d’une matrice symétrique 2x2 Avec A = a b b c et ses deux valeurs propres λ1 et λ2 , on a les b λ2 − c deux vecteurs propres x1 = et x2 = . λ1 − a b MTH1007: algèbre linéaire 5/22 1/2 2/2 Valeurs propres et pivots I Les valeurs propres d’une matrice sont très différentes des pivots. I Le seul lien est : déterminant I = = produit des pivots produit des valeurs propres. Pour les matrices symétriques, les pivots et les valeurs propres ont le même signe. MTH1007: algèbre linéaire 6/22 1/2 2/2 Diagonalisation I Si A ∈ Rn×n est symétrique, elle est toujours diagonalisable sous la forme A = SΛS −1 avec S, Λ ∈ Rn×n . I Λ est la matrice diagonale des valeurs propres réelles. I La matrice des vecteurs propres S contient des vecteurs orthonormaux : C’est une matrice orthogonale que l’on notera Q afin d’avoir A = QΛQ−1 = QΛQ> (c’est le théorème spectral). MTH1007: algèbre linéaire 7/22 1/2 2/2 Théorème spectral Une matrice A est symétrique si et seulement si elle peut être factorisée sous la forme A = QΛQ−1 = QΛQ> où Q est orthogonale et Λ est la matrice diagonale des valeurs propres. MTH1007: algèbre linéaire 8/22 1/2 2/2 Exemple Illustrer le théorème spectral avec 1 2 A= . 2 4 MTH1007: algèbre linéaire 9/22 1/2 2/2 Décomposition en somme de matrices de projection Avec A ∈ Rn×n symétrique, on a A = QΛQ> = λ1 λ2 x1 x 2 . . . x n .. . λn x> 1 x> 2 .. . x> n > > = λ1 x1 x> 1 + λ2 x2 x2 + . . . + λn xn xn . Et donc A = λ1 P1 + λ2 P2 + . . . + λn Pn n×n la matrice de projection (de rang 1) sur le avec Pi = xi x> i ∈R vecteur propre xi , i ∈ {1, 2, . . . , n}. MTH1007: algèbre linéaire 10/22 1/2 2/2 Exemple Illustrer la décomposition en somme de matrices de projection avec 1 2 A= . 2 5 MTH1007: algèbre linéaire 11/22 1/2 2/2 1. Matrices symétriques 2. Matrices définies positives MTH1007: algèbre linéaire 12/22 1/2 2/2 Définitions I Une matrice symétrique A est définie positive si toutes ses valeurs propres sont strictement positives. I Une matrice symétrique peut être : I Définie positive. I Semi-définie positive. I Définie négative. I Semi-définie négative. I Non-définie. MTH1007: algèbre linéaire 13/22 1/2 2/2 Valeurs propres et pivots pour une matrice symétrique 2x2 I a b Soit A = une matrice symétrique de taille 2 × 2. A b c est définie positive si ses valeurs propres sont strictement positives. Les valeurs propres de A sont strictement positives : 1. Si et seulement si a > 0 et ac − b2 > 0. 2. Si et seulement si les pivots sont positifs : a > 0 et ac−b2 a > 0. I Sinon, si a < 0 et |A| = ac − b2 > 0, A est définie négative. I Sinon A est non-définie (ou indéfinie). MTH1007: algèbre linéaire 14/22 1/2 2/2 L’énergie d’une matrice I A est définie positive si x> Ax > 0 pour tout vecteur non nul x: a b x x> Ax = x y = ax2 + 2bxy + cy 2 > 0 . b c y I x> Ax est donc strictement positif pour tout x non nul. Ce nombre est l’énergie de A. MTH1007: algèbre linéaire 15/22 1/2 2/2 Exemples 1 2 , 2 1 I Quelle est la nature des matrices A1 = 1 −2 −1 2 A2 = et A3 = ? −2 6 2 −6 I Si A est (symétrique) définie positive, alors l’équation x> Ax = ax2 + 2bxy + cy 2 = 1 représente une ellipse dont les axes pointent dans la direction des vecteurs propres et dont les longueurs sont √1λ et √1λ . 1 MTH1007: algèbre linéaire 2 16/22 1/2 2/2 Sous-matrices principales Si A = [aij ] ∈ Rn×n , ses n sous-matrices principales sont : A1 = [a11 ] A2 = a11 a12 a21 a22 a11 a12 a13 a21 a22 a23 a31 a32 a33 .. . a11 a12 · · · a1k a21 a22 · · · a2k .. .. .. . . . A3 = .. . Ak = ak1 ak2 · · · akk et An = A. MTH1007: algèbre linéaire 17/22 1/2 2/2 Remarques I Si A et B sont symétriques définies positives, alors A + B l’est aussi. I Tout matrice carrée symétrique n × n peut se décomposer en A = R> R avec R ∈ Rm×n . I Décomposition de Cholesky : Si A est symétrique et définie positive, alors elle peut se décomposer en A = LL> avec L triangulaire inférieure. MTH1007: algèbre linéaire 18/22 1/2 2/2 5 énoncés équivalents pour caractériser une matrice définie positive Pour une matrice symétrique A de taille n × n, les énoncés suivants sont équivalents : 1. Les n pivots de A sont strictement positifs. 2. Les n déterminants des sous-matrices principales de A sont strictement positifs. 3. Les n valeurs propres de A sont strictement positives. 4. x> Ax > 0 pour tout vecteur x 6= 0. C’est la définition basée sur l’énergie. 5. A = R> R, où R a des colonnes linéairement indépendantes. MTH1007: algèbre linéaire 19/22 1/2 2/2 Matrices semi-définies positives La matrice symétrique A est semi-définie positive si un des énoncés suivants est vrai : I Son déterminant est 0. I Sa plus petite valeur propre est 0. I Son énergie est nulle. ATTENTION : Ce n’est pas la définition usuelle. Il est plus courant de voir : A est semi-définie positive si x> Ax≥0 pour tout x ∈ Rn (et alors toute matrice définie positive est également semi-définie positive). MTH1007: algèbre linéaire 20/22 1/2 2/2 Matrices définies négatives, semi-définies négatives, et non-définies I La matrice symétrique A est définie négative si son opposée −A est définie positive. I La matrice symétrique A est semi-définie négative si son opposée −A est semi-définie positive. I Une matrice symétrique qui n’est ni définie positive, semi-définie positive, définie négative ou semi-définie négative, est non-définie (ou indéfinie). MTH1007: algèbre linéaire 21/22 1/2 2/2 Application : Optimisation Soit f (x, y) une fonction de Rn dans R. I Les points stationnaires de f sont les points (x∗ ) tels que ∇f (x∗ ) = 0. I Si ∇2 f (x∗ ) (la matrice hessienne en x∗ ) est : I I I I semi-définie positive : x∗ est un minimum local de f . semi-définie négative : x∗ est un maximum local de f . non-définie : x∗ est un point de selle. Si ∇2 f (x), pour tout x, est : I I semi-définie positive : f est convexe et x∗ est un minimum global de f . semi-définie négative : f est concave et x∗ est un maximum global de f . (avec la définition usuelle de la semi-définie positivité/négativité). MTH1007: algèbre linéaire 22/22