wacp5 - WebCampus

Analyse multivariée
cours 5 1
5. L'ANALYSE EN COMPOSANTES PRINCIPALES
5.1. Diagonalisation d'une matrice symétrique et vecteurs propres
Toute matrice réelle R peut être diagonalisée par une série d'opérations élémentaires ARB=Q(i)r. Si la
matrice est symétrique, les opérations sur les lignes et sur les colonnes sont symétriques et la diagonalisation
peut s'écrire:ARA'=Q(i)r. Si la matrice est régulière, on peut écrire: ARA'=I.
L'inverse de chaque opération élémentaire existe donc, A-1ARA'A'-1=A-1IA'-1.
Notons A-1= F => R= FF'
Ceci signifie que toute l'information contenue dans R est contenue dans F. Ce qui va nous intéresser est
l'interprétation particullière que permet F.
Considérons la diagonalisation de la matrice R suivante:
RA'
1,00 -0,29 -0,39 -0,22 0,11 0,33 0,14 0,90 0,06 -0,90
-0,29 1,00 -0,28 0,23 -0,63 -0,34 0,41 -0,07 -0,52 -1,67
-0,39 -0,28 1,00 0,55 0,04 -0,24 -0,50 0,10 0,58 -1,55
A -0,22 0,23 0,55 1,00 -0,16 -0,36 -0,25 0,59 -0,68 1,04
0,11 -0,63 0,04 -0,16 1,00 0,33 -0,35 -0,27 -0,94 -0,84
0,33 -0,34 -0,24 -0,36 0,33 0,64 -0,66 -0,46 -0,69 0,63 1 0 0 0 0
0,14 0,41 -0,50 -0,25 -0,35 0,23 0,67 -0,81 -0,40 -0,57 0 1 0 0 0
0,90 -0,07 0,10 0,59 -0,27 0,72 -0,06 0,08 0,47 -0,22 0 0 1 0 0
0,06 -0,52 0,58 -0,68 -0,94 0,03 -0,27 0,30 -0,35 -0,48 0 0 0 1 0
-0,90 -1,67 -1,55 1,04 -0,84 -0,12 -0,21 -0,20 0,13 -0,11 0 0 0 0 1
La matrice F est l'inverse de A
F
0,64 0,23 0,72 0,03 -0,12
-0,66 0,67 -0,06 -0,27 -0,21
-0,46 -0,81 0,08 0,30 -0,20
-0,69 -0,40 0,47 -0,35 0,13
A 0,63 -0,57 -0,22 -0,48 -0,11
0,33 -0,34 -0,24 -0,36 0,33 1,00 0,00 0,00 0,00 0,00
0,14 0,41 -0,50 -0,25 -0,35 0,00 1,00 0,00 0,00 0,00
0,90 -0,07 0,10 0,59 -0,27 0,00 0,00 1,00 0,00 0,00
0,06 -0,52 0,58 -0,68 -0,94 0,00 0,00 0,00 1,00 0,00
-0,90 -1,67 -1,55 1,04 -0,84 0,00 0,00 0,00 0,00 1,00

Analyse multivariée
cours 5 2
La matrice R peut être reconstituée à partir de F
F'
0,64 -0,66 -0,46 -0,69 0,63
0,23 0,67 -0,81 -0,40 -0,57
0,72 -0,06 0,08 0,47 -0,22
0,03 -0,27 0,30 -0,35 -0,48
F -0,12 -0,21 -0,20 0,13 -0,11
0,64 0,23 0,72 0,03 -0,12 1,00 -0,29 -0,39 -0,22 0,11
-0,66 0,67 -0,06 -0,27 -0,21 -0,29 1,00 -0,28 0,23 -0,63
-0,46 -0,81 0,08 0,30 -0,20 -0,39 -0,28 1,00 0,55 0,04
-0,69 -0,40 0,47 -0,35 0,13 -0,22 0,23 0,55 1,00 -0,16
0,63 -0,57 -0,22 -0,48 -0,11 0,11 -0,63 0,04 -0,16 1,00
Une colonne de F est un vecteur propre de la matrice R, associé à une valeur propre
F(1)
0,64
-0,66
-0,46
-0,69
R 0,63 F(1)
1,00 -0,29 -0,39 -0,22 0,11 1,23 = 1,92 0,64
-0,29 1,00 -0,28 0,23 -0,63 -1,27 -0,66
-0,39 -0,28 1,00 0,55 0,04 -0,88 -0,46
-0,22 0,23 0,55 1,00 -0,16 -1,33 -0,69
0,11 -0,63 0,04 -0,16 1,00 1,21 0,63
Le produit FF'= matrice diagonale des valeurs propres associées aux vecteurs propres formant F
F
0,64 0,23 0,72 0,03 -0,12
-0,66 0,67 -0,06 -0,27 -0,21
-0,46 -0,81 0,08 0,30 -0,20
-0,69 -0,40 0,47 -0,35 0,13
F' 0,63 -0,57 -0,22 -0,48 -0,11
0,64 -0,66 -0,46 -0,69 0,63 1,92 0,00 0,00 0,00 0,00
0,23 0,67 -0,81 -0,40 -0,57 0,00 1,64 0,00 0,00 0,00
0,72 -0,06 0,08 0,47 -0,22 0,00 0,00 0,81 0,00 0,00
0,03 -0,27 0,30 -0,35 -0,48 0,00 0,00 0,00 0,51 0,00
-0,12 -0,21 -0,20 0,13 -0,11 0,00 0,00 0,00 0,00 0,13

Analyse multivariée
cours 5 3
5.2 Représentation géométrique des vecteurs et des matrices
Soit A la matrice
elle peut être représentée comme une collection de vecteurs colonnes a1 a2 a3 ou de vecteurs lignes a'1 a'2
Les représentations géométriques correspondantes étant deux vecteurs dans un espace à trois dimensions,
ou trois vecteurs dans un espace à deux dimensions :
Lorsque le produit scalaire de deux vecteurs est nul, ces vecteurs sont orthogonaux. En deux dimensions,
cela correspond à deux vecteurs perpendiculaires. Ainsi les vecteurs a1 et a3 sont orthogonaux :
A la notion d'orthogonalité est liée celle d'indépendance : je peux me déplacer le long d'un vecteur sans
modifier ma position relative par rapport au second :
Le produit scalaire d'un vecteur avec lui-même a'a représente la norme du vecteur, ou le carré de sa
longueur

Analyse multivariée
cours 5 4
Lorsque la norme du vecteur est 1, le vecteur est appelé vecteur normé. Deux vecteurs qui sont
simultanément normés et orthogonaux sont appelés orthonormés : a'a = b'b= 1 et a'b = b'a= 0. Tout vecteur
peut être normé en le divisant par la racine carrée de sa norme.
Une matrice A est orthogonale si elle est formée d'un ensemble de vecteurs orthonormés (tous normés et
orthogonaux 2 à 2) . Dans ce cas, A'A = AA' = I, puisque ai'aj = 1 si i=j et 0 si i≠j. On note donc que pour une
matrice orthogonale, A' = A-1.
Envisageons la transformation effectuée par une matrice orthogonale, du point de vue géométrique.
Soit deux vecteurs orthogonaux (1 -1) et (1 1). La norme de chacun de ces vecteurs est 2. Les vecteurs 1/ √2
(1 -1) et 1/ √2 (1 1) sont donc orthonormés et la matrice
est une matrice orthogonale (noter que U'U=UU'=I)
Soit le vecteur y 2x1 = U2x2 x2x1. Envisageons le vecteur x = (1 0)
Envisageons le vecteur x = (0 1)
La matrice U effectue une rotation d'un angle . Elle est donc un cas particulier de la matrice
dont on peut vérifier l'orthogonalité : U'U = UU' = I.

Analyse multivariée
cours 5 5
La valeur 1/ √2 étant le sin et le cos de 45°, la matrice orthogonale
effectue une rotation de 45°.
5.3. Valeurs et vecteurs propres d'une matrice de corrélation 2x2
Soit R2x2 la matrice de corrélation associée à une matrice Xnx2.
On peut constater que le vecteur u1 (1 1)' est un vecteur propre de R parce que :
1+r étant la valeur propre associée à ce vecteur propre.
Nous pouvons également envisager le vecteur u1 (1 -1)' qui est un second vecteur propre de R :
r-1
associé à la valeur propre 1-r.
Rappelons nous à présent que les valeurs propres sont les racines de l'équation | R - I| = 0 . Soit le
déterminant de la matrice | R - I| :
= (1- )2 - r2 = 2 - 2 + (1-r2)
  244(1r2)211(1r2)1r21r
ce qui correspond bien aux valeurs propres1+r et 1-r que nous avons trouvé par ailleurs.
Les deux vecteurs propres (1 1)' et ( 1 -1)' peuvent être normés :
1
2(1,1) et 12(1,1)