CHAPITRE 0 Eléments d'algèbre linéaire I. Introduction Pour comprendre certains aspects théoriques et pratiques de la programmation linéaires, il est indispensable de connaître les notions et méthodes fondamentales de l'algèbre linéaire et de quelques autres branches des mathématiques. Le but dans ce chapitre est d'exposer, sous une forme concise et facile à comprendre, quelques éléments de l'algèbre linéaire (matrices, systèmes d'équations linéaires) et de la théorie des ensemble convexes et surtout ce qui est nécessaire pour permettre d'étudier, sans difficultés particulières, la programmation linéaire. II. Notions sur les espaces vectoriels ( Cette paragraphe est essentiellement une reprise de quelque partie du chapitre IV: Espace vectoriels pp: 67-88 de la référence [1]) a) Notions de vecteur : Jusqu'à présent, nous entendions par espace, l'espace à une dimension (ligne droite), à deux dimensions (plan) et l'espace à trois dimensions. On peut établir une correspondance entre les points de la droite et l'ensemble des nombres réels; entre les points du plan et les couples ordonnés de nombres réels; enfin, entre les points de l'espace et les suites ordonnées de trois nombres réels. En vertu de cette correspondance, on appelle espace à une dimension l'ensemble des nombres réels et point de cet espace, un nombre réel; de même, on appelle espace à deux dimensions l'ensemble des couples ordonnés de nombres réels et point de cet espace, tout couple ordonné de nombres; enfin, on appelle espace à trois dimensions, l'ensemble des suites ordonnées de trois réels et point de cet espace toute suite de trois nombre. Il arrive souvent en géométrie, en mécanique, en physique ou en économie d'avoir étudier des objets qui ne sont pas complètement définis par trois réels. Exemple: Si une région produit différents bien de consommation et d'équipement comme, par exemple, des wagons de chemin de fer, des machines-outils, du blé, du lait, des allumettes, etc., il faudra, pour caractériser la production de cette région, utiliser une suite ordonnée de nombres réels. Un système ordonné de n nombres (x1,x2,…,xn) c'est à dire une suite finie de nombres, pris dans un ordre déterminé (celui dans lequel ils sont écrits) sera appelé vecteur à n dimensions (ou encore vecteur, ou point, de l'espace à n dimensions). Les nombres xi, où i=1,…,n s'appellent composantes du vecteur à n dimension, et le nombre n est la dimension du vecteur. b) Opérations sur les vecteurs : Les opérations du calcul sur les vecteurs de dimension n suivent les même loi que ceux vu auparavant sur les vecteurs de dimension 1, 2 ou 3. Ainsi, on appelle somme X+Y des deux vecteurs à n dimensions X=(x1,x2,…,xn) et Y=(y1,y2,…,yn), le vecteur à n dimension X+Y=(x1+y1,x2+y2,…,xn+yn) dont les composantes sont la somme des composantes correspondantes des vecteurs dont on fait la somme. On vérifie bien que X+Y=Y+X et que (X+Y)+Z=X+(Y+Z). Le vecteur nul est le vecteur dont toutes les composantes sont égales à zéro. La multiplication par un scalaire d'un vecteur de dimension n donne un vecteur à n dimensions dont les composantes sont le produit de la composante correspondante par le même scalaire . On vérifie bien que (X+Y)= X+Y et 1(2X)= (12)X. La multiplication de deux vecteurs X=(x1,x2,…,xn) et Y=(y1,y2,…,yn) de même dimension n est le vecteur XY=(x1y1,x2y2,…,xnyn) de même dimension n dont les composantes sont le produit des composantes correspondantes des vecteurs dont on fait le produit. On appelle la multiplication de deux vecteurs X et Y de même dimension n produit scalaire et on note XtY. Comme le vecteur nulle qui est neutre pour l'addition, le vecteur dont les composantes sont tous égales à 1 est l'élément neutre pour la multiplication. On vérifie bien que XY=YX et que (X)Y= (XY) . c) Espace vectoriel : Deux vecteurs définissent un plan ou espace à deux dimensions, trois vecteurs définissent un espace à trois dimensions. Nous connaissons la définitions d'un vecteur à n dimensions et savons faire des opérations avec ces vecteurs, en particulier l'addition et la multiplication d'un vecteur par un nombre. Nous allons maintenant introduire la notion d'espace vectoriel linéaire: on appelle espace vectoriel à n dimensions, l'ensemble des vecteurs à n dimensions, pour lesquels sont définies les notions d'addition vectorielle et de multiplication d'un vecteur par un nombre. d) Indépendance linéaire des vecteurs : Soit X1,X2,…,Xn, un ensemble de vecteurs dans l'espace IRn. Alors, le vecteur 1X1+2X2+…+nXn s'appelle combinaison linéaire des vecteurs. L'ensemble des vecteurs X1,X2,…,Xn, (pour n 2) est dit linéairement dépendant si l'un au moins de ces vecteurs est combinaison linéaire des autres vecteurs de cet ensemble. En particulier, dans le plan, trois vecteurs quelconques sont toujours linéairement dépendants, car l'un d'entre eux peut être écrit comme combinaison linéaire des deux autres. Si aucun des vecteurs a1,a2,…,an n'est combinaison linéaires des autres, ces vecteurs sont dits linéairement indépendants. En d'autres termes les vecteurs X1,X2,…,Xn, forment un système de vecteurs linéairement indépendants d'ordre n, s'il est impossible de trouver n constantes 1, 2,…,n non nulles telles que 1X1+2X2+…+nXn=0. On dit alors que X1,X2,…,Xn forment un système libre d'ordre n. Exemple: Vérifier que le système des vecteurs X1=(0,1,2,3), X2=(-1,1,2,-2) et X3=(-2,-1,1,2) est linéairement indépendant (aide: écrire le système d'équations en i.;i=1,2,3). III. Matrices a) Définitions : On appelle matrice un tableau rectangulaire de n lignes et p colonnes formées de nombres réels. L'élément situé à l'intersection de la i-ième ligne et j-ième colonne est désigné par aij, le premier indice étant celui de la ligne, le second celui de la colonne. Ce tableau est le plus souvent présenté entre deux parenthèses (ou crochets). Ainsi pour désigner la matrice A, nous écrivons : a11 a 21 A ai1 a n1 ou, en abrégé a12 a 22 a1 j a2 j ai 2 aij a n 2 a nj a1 p a2 p aip a np n, p A aij La dimension de la matrice est précisée par le couple ordonné (n,p) où n est le nombre de lignes et p le nombre de colonnes. Dans le cas n=p, la matrice est dite carrée d'ordre n Exemples: Parmis les matrices carrées, nous remarquons les matrices suivantes : 0 0 0 a11 0 a 22 0 0 : Matrice diagonale. Si aii=1 pour tout i=1,…,n, A 0 aii 0 0 0 0 0 a nn alors A est dite matrice unité. a11=(a11) : Les nombres scalaires peuvent être considérés comme des matrices d'ordre 1. a11 a1n 0 A : matrice rectangulaire (de haut). 0 0 a nn a11 a12 a1 p a 21 a 22 a 2 p Si dans la matrice np, A , on échange entre les lignes et les a n1 a n 2 a np a11 a12 colonnes, on obtient la matrice transposée de dimension pn : a1 p a 21 a 22 a2 p a n1 an2 , noté a np t A (ou At ). Ainsi, la transposition d'une matrice revient à l'échange des rôles des lignes et des colonnes. Une matrice carrée A est égale à sa transposée At est dite symétrique ( i,j, aij=aji ). b) Calcul matriciel Egalité de 2 matrices: Deux matrices A=(aij)n,p et B=(bij)n,p sont égales, si i, j, aij=bij. Une telle définition implique que les matrices A et B aient même dimension. Somme de 2 matrices: A et B étant 2 matrices de même dimension, la somme C=A+B est la matrice définie par cij=aij+bij, i, j. C à même dimension que A et B et chacun de ces éléments est donc la somme des éléments homologues de A et B. De même la différence D des matrices A et B est définie par A=B+D. Soit dij=aij-bij, i, j. L'addition des matrices possède les propriétés suivantes: * associative: A+(B+C)=(A+B)+C * Commutative : A+B=B+A 2 0 1 1 3 1 0 2 0 0 0 2 Exemple: Vérifier que 1 0 0 1 1 1 1 1 1 0 2 1 Multiplication d'une matrice par un scalaire: On appelle produit de la matrice A=(aij) par le scalaire , la matrice .A=B, ou B=(bij) de terme général bij = aij. Produit de deux matrices : On définit le produit C de la matrice A par la matrice B si le nombre de lignes de la matrice B est égal au nombre de colonnes de la matrice A. Dans ces conditions, l'élément cij de la matrice C, situé à l'intersection de la i-ième ligne et de la jième colonne, est le produit scalaire du i-ième vecteur ligne de la matrice A, par la j-ième vecteur colonne de la matrice B : cij ai1b1 j ai 2b2 j aipb pj et on note en résumé p cij ail blj . La façon de coupler les termes pour obtenir le terme cij est rendue l 1 explicite par le schéma suivant: b 11 b12 b1 j b1q b21 b22 b2 j b2q p lignes b b b b i 1 i 2 ij iq b p1 b p 2 b pj b pq q colonnes a 11 a12 a1 j a1 p a 21 a 22 a 2 j a 2 p n lignes a i1 a i 2 a ij a ip a n1 a n 2 a nj a np p colonnes c11 c 21 ci1 c n1 c12 c 22 c1 j c2 j ci 2 cij c n 2 c nj c1q c 2q ciq c nq 3 1 1 1 1 1 1 0 0 2 4 5 Exemple: Calculer 2 1 2 2 1 1 et 0 1 0 1 6 2 . 1 2 3 1 0 1 0 0 1 3 1 4 3 1 1 2 1 2 1 2 3 1 1 1 2 1 1 1 0 1 6 2 1 6 1 1 8 1 4 1 0 0 0 1 0 0 0 1 2 4 5 1 6 2 3 1 4 2 4 5 1 6 2 3 1 4 Proposition: Soit B une matrice carrée nn et I la matrice unité d'ordre n. On a B.I=I.B=B. 0 1 0 1 0 0 Exercice: Soit 0 0 0 et 0 0 0 .Calculer A.B et B.A. A-t-on A.B=B.A ? 0 0 0 1 0 0 c) Rang d'une matrice On appelle rang de la matrice A de dimension np le nombre maximum de vecteur indépendants parmi les p vecteurs colonnes de A. Théorème: Le rang de la matrice A (de dimension np) est égal au rang de la plus grande matrice carrée que l'on peut extraire de A. d) Matrice inverse On appellera matrice inverse d'une matrice carrée A d'ordre n, la matrice notée A-1 vérifiant A-1.A=I (avec I la matrice unité). On admettra sans démonstration que si les vecteurs colonnes de la matrice A sont linéairement indépendants alors A-1 existe. II. Déterminants a) Déterminants d'ordre 2 L'étude des déterminants est née de la résolution des systèmes d'équations linéaires, c'est à dire des systèmes d'équations du premier degré. Le problème était de donner une expression générale au valeurs des variables vérifiant un système d'équations linéaires donné. Un système de deux équations à deux variables est représenté par deux droites a11 x a12 y b1 (I) a12 x a22 y b2 Résoudre graphiquement ce système, c'est trouver le point d'intersection des deux droites. a11 x a12 y b1 x(a a a12 a21 ) b1 a22 b2 a12 11 22 (II) a12 x a22 y b2 y(a11 a22 a12 a21 ) b2 a11 b1 a21 Le coefficient commun à x et y dans (II) est appelé déterminant d'ordre 2 et représenté par a a12 dont la valeur est a11 a22 a12 a21 11 a21 a22 Si 0 , le système est indéterminé si les second membres de (II) sont nuls, et impossible autrement. Si 0 , alors b1 a12 x b1 a 22 b2 a12 b2 a 22 (I) a 11 b1 b2 a11 b1 a 21 a 21 b2 y b) Méthode de calcul des déterminants : La méthode de développement du déterminant suivant ses lignes ou ses colonnes, consiste en l'expression du déterminant initial, après transformation et développement suivant une colonne (ou une ligne), en fonction de déterminants de même forme, mais d'ordre inférieur. 1. Calcul du mineur Mij de aij: C'est le déterminant obtenue en supprimant la i-ième ligne et la j-ième colonne contenant aij. 2. Calcul du cofacteur Cij de aij: c'est (-1)i+j Mij 3. Développement d'un déterminant d'ordre quelconque: la valeur d'un déterminant est par définition la somme aij Cij , somme des produit des éléments de l'une quelconque de ses colonnes (ou de ses lignes) par leurs cofacteurs respectifs. Exemple: 3 2 1 5 3 2 3 5 1 7 0 1 0 4 3 0 3 1 3 3 2 3 4 5 2 5 3 5 3 5 1 0 1 1 7 1 1 3 1 3 2 3 3 3 3 2 4 1 1 3 5 3 5 2 5 7 1 1 1 1 7 2 5 0 1 8 3 Exercice: Verifier que 1 1 1 38 . 1 6 1 c) Propriétés des déterminants : Tout déterminant ayant deux de ses lignes (ou deux de ses colonnes) égales ou proportionnelles est nul. Multiplier par un même facteur tous les éléments d'une même ligne ou d'une même colonne d'un déterminant revient à multiplier la valeur de ce déterminant par . 2 8 9 1 8 3 Exemple: Vérifier 8 4 12 2 3 4 2 1 1 4 12 6 1 6 1 2 3 4 2 38 1824 1 On ne change pas la valeur d'un déterminant en ajoutant aux éléments d'une ligne (ou d'une colonne) les quantités proportionnelles aux éléments correspondants dzs autres lignes (ou colonnes) 1 1 2 0 1 2 1 2 Exemple: Vérifier 2 2 3 0 2 3 2 2 (1) 2 2 3 5 3 1 2 3 1 Si 0 alors les équations linéaires dans (I) ne sont pas indépendantes, c'est à dire qu'une équation peut être obtenue à partir d'une combinaison linéaire des autres équations (en multipliant les deux membres de chacunes des équations par un facteur quelconque et en les additionnant ensuite membre à membre. Ainsi pour déterminer l'indépendance de n vecteurs de dimension n, il suffit de calculer leur déterminant. III. Résolution des systèmes d'équations linéaires b1 b2 a12 a 22 a11 a21 b1 b2 a11 x a12 y b1 (I) x ,y 0 a12 x a22 y b2 On remarque que pour les deux inconnues x et y le dénominateur est commun et n'est autre que le déterminant des coefficients de x et y. Pour chaque inconnue le numérateur s'obtient en remplaçant dans les coefficients de cette inconnue par les termes constant du second membre de (I). Ceci constitue la régle de Cramer. Exemple: Utilisant la régle de Cramer, trouver la solution du systèmes suivant 2 x1 x2 5 x3 x4 8 x 3x 6 x4 9 1 2 2 x2 x3 2 x4 5 x1 4 x2 7 x3 6 x4 0 Verifions tout d'abord que 0 . 2 1 5 1 1 3 0 6 27 0 0 2 1 2 0 4 7 6 Donc d'après la régle de Cramer la solution optimale est 8 1 5 1 9 3 0 6 5 2 1 2 0 4 7 6 81 x1 3 27 2 8 5 1 1 9 0 6 0 5 1 2 1 0 7 6 108 x2 4 27 x3 2 1 8 1 1 3 9 6 0 2 5 2 1 4 0 6 x4 2 1 5 8 1 3 0 9 0 2 1 5 1 4 7 0 27 1 27 27 1 27 Considérons un système linéaire d'ordre 3, par exemple, a11 x1 a12 x2 a13 x3 b1 ( III ) a21 x1 a22 x2 a23 x3 b2 a x a x a x b 32 2 33 3 3 31 1 l'écriture matricielle équivalente est a11 a12 a13 x1 b1 a21 a22 a23 x2 b2 a 31 a32 a33 x3 b3 qui s'écrit en condensé A.X=B. La résolution de (III) consiste à passer de A.X=B à A-1.AX=I.X=X=A-1B. Ce qui peut bien sur s'effectuer par la détermination de A-1, mais qu'on peut également obtenir par une succession de combinaisons linéaires sur les équations constituant (III) jusqu'à ce que, au premier 1 0 0 x1 membre, nous obtenions I.X, c'est à dire 0 1 0 x2 . 0 0 1 x 3 Pour cela, constituons le double tableau des coefficients des matrices A et I (matrice unité) : a11 a12 a13 1 0 0 a 21 a 22 a 23 0 1 0 a 31 a32 a33 0 0 1 sur les lignes duquel nous effectuerons simultanément les même combinaisons linéaires. Lorsque la suite des combinaisons conduira dans le tableau de gauche à I, nous aurons obtenu dans le tableau de droite A-1 : 1 0 0 1 A 0 1 0 0 0 1 2 1 3 Exemple: Quelle est la matrice inverse de 3 2 4 . 1 2 1 2 x1 x2 3x3 9 En déduire la solution du système 3x1 2 x2 4 x3 11 x 2 x x 6 2 3 1 Calcul de la matrice inverse: 1. Choisir un elements aii (i-ème ligne et i-ème colonne) de la matrice A. Cette élement est appellée element de pivot. La ligne ou se trouve le pivot (sur tout le tableau) est dite ligne de pivot et la colonne, colonne de pivot. 2 1 3 1 0 0 3 2 4 0 1 0 1 2 1 0 0 1 2. Diviser le ligne de pivot par la valeur de l’élément de pivot pour trouver la ligne transformée de la ligne de pivot. .. .. .. .. .. .. .. .. .. .. .. .. 1 2 1 0 0 1 3. On a associé la valeur 1 à l’intersection de la ligne et de la colonne de pivot et dans le reste de la colonne de pivot on donne des zéros. .. .. 0 .. .. .. .. 0 .. .. .. .. 1 2 1 0 0 1 4. Pour calculer le reste des valeurs du tableau, on opère à des combinaisons linéaires dans le précèdent tableau. Par exemple pour calculer la nouvelle valeur qui va prendre la place de la valeur a23=3. On multiplie 3 par le pivot (-1), on retranche de ce produit le produit de la projection de la valeur 3 sur la ligne pivot par la projection de la valeur 3 sur la colonne 3 (1) 1 4 7 pivot, et on divise-le tout par la valeur du pivot (-1): 1 .. .. 0 .. .. .. .. 0 .. .. .. 7 1 2 1 0 0 1 5. On refait de meme pour lea autres cases du tableau, pour obtenir 5 7 01 0 3 7 10 0 0 1 4 1 2 1 0 0 1 Maintenant on choisie un autre element de pivot de la diagonale (dans une place non déja visité): 5 7 01 0 3 7 10 0 0 1 4 1 2 1 0 0 1 1 0 0 1 0 0 7 1 3 0 0 5 5 5 1 7 1 0 1 5 5 5 3 1 2 1 0 5 5 5 0 0 10 7 2 1 0 7 5 1 0 1 4 3 1 La matrice inverse de la matrice A est: A 1 10 7 2 7 5 1 . 4 3 1 La solution du système d'équation est donc x1 10 7 2 9 1 x2 7 5 1 11 2 x 4 3 1 6 3 3 IV. Ensemble convexes Un ensemble (de points) E est dit convexe s'il contient en entier le segment de droite joignant deux quelconque de ses points. C'est à dire que si x et y sont les coordonnées de deux point de E, alors pour toute valeur du coefficient dans l'intervalle [0,1], la combinaisons linéaire (dite combinaison linéaire convexe) x+(1-)y représente un point qui appartient à E. Un polygone, un cercle, une ellipse, un triangle sont des exemples de figures planes convexes. Le plan lui même est convexe. Une droite divise le plan en deux demis-plans; chacun de ces demi-plans est également convexe. La droite elle même est convexe. Exemple: Ensembles convexes Ensembles non convexes On appelle points extrémals (ou points angulaires d'un ensemble convexe des points qui ne sont situés à l'intérieur d'aucun segment joignant deux points de l'ensemble. Un ensemble peut avoir un nombre fini ou infini de points extrémaux. Les points extrémals d'un carré ou d'un parallélépipède sont les sommets; tout point de la surface d'un sphère est un point extrémal; une droite, un plan n'ont aucu point extrémal. Nous appellerons polyèdre convexe tout ensemble convexe fermé borné dont l'ensemble des points extrémals est fini. Par ensemble fermé, nous entendons un ensemble qui contient tous ses points extrémals. Proposition: Si K est un polyèdre convexe fermé, tout point x, combinaison linéaire convexe des points angulaires de l'ensemble K, appartient à cet ensemble.