Optimisation

Optimisation Théorie et Algorithmes
最优化理论和算法
Yi-Shuai NIU (牛一帅)

Page 2/109 上海交大–巴黎高科卓越工程师学院
巴院Yi-Shuai NIU (牛一帅)Def/Thm

上海交大–巴黎高科卓越工程师学院Page 3/109
Préface
Ce livre est à l’origine un polycopié du cours d’optimisation depuis 2015 pour les étudiants en 3ème année à
l’École d’ingénieur SJTU-Paritech (SPEIT), situé sur la campus Minhang de l’Université Shanghai Jiao Tong en
Chine. Cette école rassemble des 4“Grandes Écoles” françaises de premier plan (École Polytechnique de Paris,
Mines ParisTech, Télécom ParisTech et ENSTA ParisTech) et l’Université Shanghai Jiao Tong pour apporter à des
étudiants chinois et internationaux à fort potentiel une formation leur permettant de devenir des leaders industriels
et des innovateurs possédant un large spectre de connaissances scientifiques, la capacité d’évoluer avec aisance dans
un milieu professionnel multiculturel, et des connaissances approfondies dans une spécialité : Ingénierie mécanique,
Ingénierie en énergie et puissance, Ingénierie de l’information.
Selon les besoins spécifiques des spécialisations concernées, ce cours est une introduction en optimisation linéaire
et non-linéaire, notamment sur des théories et algorithmes qui ont beaucoup d’applications en pratique dans
l’industrie et l’ingénierie comme l’optimisation linéaire et l’algorithme du simplexe, l’analyse convexe, et les outils
fondamentaux pour l’optimisation non-linéaire (par exemple, la théorie de dualité et les conditions d’optimalité).
Ce livre est découpé en 5chapitres :
— L’introduction sur l’optimisation, la modélisation mathématique et les rappels des notions mathématiques
utiles en optimisation (norme vectorielle et matricielle, suite numérique dans Rn, topologie et calcul diffé-
rentiel des fonctions de plusieurs variables) ;
— L’analyse convexe (ensemble convexe, combinaison linéaire, convexe, affine et positive, théorème de Cara-
théodory, projection et séparation, point extrémal et direction extrémale, théorème de représentation de
l’ensemble convexe, lemme de Farkas et de Gordan, fonction convexe et extension sur la fonction D.C.) ;
— L’optimisation linéaire et l’algorithme du simplexe (forme standard, solution de base, l’algorithme du sim-
plexe version tableau, méthode de deux phases, et règles d’anti-cyclage) ;
— La théorie de dualité Lagrangienne (point-selle, problème min-max, et dualité de Lagrange);
— Les conditions d’optimalité KKT (direction réalisable et direction de descente, qualification de contrainte,
conditions d’optimalité d’ordre 1 et 2 pour les problèmes d’optimisation sans contrainte et sous contraintes
d’inégalités et d’égalités) ;
En concernant la modélisation et l’optimisation en informatique, nous utilisons le toolbox d’optimisation de
MATLAB et le logiciel CPLEX. L’apprentissage de ces logiciels et les réalisations sur les algorithmes classiques
(par exemple, l’algorithme du simplexe et l’algorithme du gradient) font partie du cours de TP (travaux pratiques).
Bien noté, l’apprentissage par cœur est, en général, une mauvaise technique d’apprentissage pour les mathéma-
tiques. Nous conseillons une compréhension approfondie des théorèmes et des algorithmes afin de pouvoir utiliser
correctement ces outils puissants pour résoudre des problèmes d’optimisation en science et en ingénierie.
Les volumes de ce livre sont en constante évolution, grâce aux remarques et aux suggestions des élèves et des
professeurs de l’institut. Je tiens à remercier mes collègues Alain Chillès, Marguerite Rossillon et Geoffrey Boutard
pour la relecture du polycopié et leurs collaborations sur l’enseignement d’une partie de TP. Je tiens à exprimer
ma profonde gratitude aux directeurs de l’institut et à toute l’équipe de mathématiques au SPEIT, ce livre n’aurait
pas pu voir le jour sans leurs encouragements et leurs soutiens.
Enfin, je remercie tous les membres de ma famille pour leur compagnie et leur amour éternel.
Shanghai, été 2019
Yi-Shuai NIU
Professeur à l’Université Shanghai Jiao Tong
Def/Thm Yi-Shuai NIU (牛一帅)巴院

Page 4/109 上海交大–巴黎高科卓越工程师学院
巴院Yi-Shuai NIU (牛一帅)Def/Thm

上海交大–巴黎高科卓越工程师学院Page 5/109
Table des matières
Préface 2
1 Introduction de l’optimisation 9
1.1 Brève histoire ................................................ 10
1.2 Définition du problème d’optimisation .................................. 10
1.3 Classes des problèmes d’optimisation ................................... 11
1.4 Rappels mathématiques pour l’optimisation ............................... 11
1.4.1 Normes vectorielles et matricielles ................................ 11
1.4.2 Suite numérique dans Rn..................................... 16
1.4.3 Topologie dans Rn......................................... 17
1.4.4 Fonctions de plusieurs variables et calcul différentiel ...................... 20
Exercices ..................................................... 23
2 Ensemble convexe et fonction convexe 25
2.1 Ensemble convexe ............................................. 25
2.1.1 Définition .............................................. 25
2.1.2 Combinaison linéaire, convexe, affine et positive ......................... 29
2.1.3 Théorème de Carathéodory .................................... 33
2.1.4 Projection et Séparation ...................................... 35
2.1.5 Point extrémal et Direction extrémale .............................. 39
2.1.6 Théorème de représentation .................................... 41
2.1.7 Lemme de Farkas et de Gordan .................................. 42
2.2 Fonction convexe .............................................. 45
2.2.1 Fonction convexe .......................................... 45
2.2.2 Fonction D.C. ............................................ 49
Exercices ..................................................... 51
3 Optimisation Linéaire 53
3.1 Problème d’optimisation linéaire ..................................... 53
3.2 Solution d’optimisation linéaire ...................................... 55
3.2.1 Théorème d’existence de solution optimale d’optimisation linéaire ............... 55
3.2.2 Solution de base .......................................... 56
3.3 Méthodes de résolution du problème (OL) ................................ 60
3.3.1 Méthode graphique ......................................... 60
3.3.2 Algorithme du simplexe ...................................... 61
3.3.3 Tableau du simplexe ........................................ 67
3.3.4 Méthode des deux phases ..................................... 70
3.3.5 Règles d’anti-cyclage ........................................ 73
3.3.6 Logiciels pour l’optimisation linéaire ............................... 77
Exercices ..................................................... 80
4 Théorie de dualité 83
4.1 Problème dual et point-selle ........................................ 83
4.2 Dualité de Lagrange ............................................ 85
Exercices ..................................................... 89
Def/Thm Yi-Shuai NIU (牛一帅)巴院