LfEPSILON STEEPEST DESCENT ALGORITHME ASSOCIE A LA

L’EPSILON STEEPEST DESCENT ALGORITHME
ASSOCIE A LA RECHERCHE LINEAIRE INEXACTE DE
WOLFE
by
DEGAICHIA HAKIMA
Submitted to the de Mathématiques
in partial ful…llment of the requirements for the degree of
Doctorat
at the
UNIVERSITÉ BADJI MOKHTAR ANNABA
degreemonth unde…ned degreeyear unde…ned
c
Université Badji MOKHTAR ANNABA degreeyear unde…ned
Signature of Author...................................................................
de Mathématiques
22 novembre 2014
Accepted by...........................................................................

Table des matières
1 METHODES D’ACCELERATION DE LA CONVERGENCE EN ANALYSE NU-
MERIQUE 11
1.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.2 Les procédés de sommation linéaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
1.2.1 Quelques exemples de procédés réguliers . . . . . . . . . . . . . . . . . . . . . . . . 12
1.3 Le procédé d’extrapolation de Richardson . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
1.4 Le procédé 2D’aitken ..................................... 16
1.5 L’"-algorithme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
1.5.1 L’"-algorithme scalaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
17
1.5.2 L’"-algorithme vectoriel et l’"-algorithme vectoriel normé . . . . . . . . . . . . . . 18
1.6 L’-algorithme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
1.7 Le -algorithme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
1.8 Convergence de l’"-algorithme scalaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
1.9 Convergence de l’"-algorithme vectoriel normé (vectoriel). . . . . . . . . . . . . . . . . . . 22
1.10 Exemples de suites accélérées par l’"-algorithme scalaire et ses deux généralisations . . . . 23
2 OPTIMISATION SANS CONTRAINTES 25
2.1 Dé…nitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
2.2 Direction de descente . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
2.3 Schémas général des algorithmes d’optimisation sans contraintes . . . . . . . . . . . . . . 27
2.3.1 Exemples de choix de directions de descente . . . . . . . . . . . . . . . . . . . . . . 27
2.3.2 Exemple de choix de pas k............................... 27
2.4 Conditions nécessaires d’optimalité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
2

2.4.1 Condition nécessaire d’optimalité du premier ordre . . . . . . . . . . . . . . . . . . 27
2.4.2 Condition nécessaire d’optimalité du second ordre . . . . . . . . . . . . . . . . . . 28
2.5 Conditions su¢ santes d’optimalité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28
2.5.1 Convergence des algorithmes et fonctions multivoques . . . . . . . . . . . . . . . . 29
2.5.2 Cas convexe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
3 THEOREMES DE CONVERGENCE ASSOCIES AUX METHDES A DIRECTIONS
DE DESCENTE ET AUX RECHERCHES LINEAIRES INEXACTES 34
3.1 Recherches linéaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
3.1.1 Principe des méthodes de descente . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
3.1.2 Recherche linéaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
3.1.3 Recherches linéaires inexactes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
3.1.4 La recherche linéaire inexacte d’Armijo . . . . . . . . . . . . . . . . . . . . . . . . 41
3.1.5 La recherche linéaire inexacte de Goldstein . . . . . . . . . . . . . . . . . . . . . . 45
3.1.6 La recherche linéaire inexacte de Wolfe . . . . . . . . . . . . . . . . . . . . . . . . . 49
3.1.7 Rechreche linéaire inexacte de Wolfe forte . . . . . . . . . . . . . . . . . . . . . . . 51
3.1.8 La règle de Wolfe relaxée . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
3.1.9 Algorithme de Fletcher-Lemaréchal . . . . . . . . . . . . . . . . . . . . . . . . . . 56
3.2 Théorèmes de convergence associés aux recherches linéaires inexactes . . . . . . . . . . . . 57
3.2.1 Algorithme général des directions de descente . . . . . . . . . . . . . . . . . . . . . 57
4 METHODE DE LA PLUS FORTE PENTE 63
4.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
4.2 Algorithme de la méthode de la plus forte pente . . . . . . . . . . . . . . . . . . . . . . . 65
4.3 Inconvénients de la méthode de la plus forte pente . . . . . . . . . . . . . . . . . . . . . . 65
4.3.1 Lenteur de la méthode au voisinage des points stationnaires . . . . . . . . . . . . . 65
4.3.2 Le phénomène de Zigzaguing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
4.4 Quelques remèdes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
4.4.1 Changement de direction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
4.4.2 Accéleration de la convergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
4.5 Programme en fortran 90 de la méthode de la plus forte pente et tests numériques . . . . 67
4.5.1 Programme en fortran 90 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
4.5.2 Tests numériques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69
4.6 Convergence de la méthode de la plus forte pente . . . . . . . . . . . . . . . . . . . . . . . 72
3

4.6.1 Cas des recherches linéaires exactes . . . . . . . . . . . . . . . . . . . . . . . . . . . 72
4.6.2 Cas des recherches linéaires inexactes . . . . . . . . . . . . . . . . . . . . . . . . . 74
4.7 Acceleration de la convergence de la méthode de la plus forte pente . . . . . . . . . . . . 75
5 L’EPSILON STEEPEST DESCENT ALGORITHME ASSOCIE A LA RECHERCHE
LINEAIRE INEXACTE DE WOLFE 90
5.1 INTRODUCTION . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 90
5.2 L’EPSILON ALGORITHME ............................... 94
5.3 L’ALGORITHME WOLFE EPSILON STEEPEST DESCENT . . . . . . . . . . 95
5.4 CONVERGENCE GLOBALE DE L’ALGORITHME WOLFE EPSILON STEE-
PEST DESCENT ....................................... 96
5.5 RESULTATS NUMERIQUES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 99
5.6 CONCLUSIONS ET PERSPECTIVE . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 101
.
4

Résumé
On considère le problème d’optimisation sans contraintes suivant :
(P) min ff(x) : x2Rng:
où f:Rn!Rest continument di¤érentiable.
On dé…nit dans ce travail un nouveau algorithme qui accélère la convergence de la méthode du
gradient. On étudie la convergence globale du nouveau algorithme qu’on a nommé Wolfe epsilon steepest
descent algorithme, en utilisant la recherche linéaire inéxacte de Wolfe ([35],[36]). Dans [16] et [33],
Benzine, Djeghaba et Rahali ont étudié le même problème en utilisant une recherche linéaire exacte ou
une recherche linéaire inéxacte d’Armijo. On a aussi e¤ectué 700 tests numériques et nous avons montré
que le nouveau algorithme est plus pérformant que les deux autres déjà étudiés i.e. l’epsilon steepest
algorithme avec des recherches linéaires exactes ou d’Armijo.
5