Analyse Numérique Problèmes Pratiques Méthodes itératives Introduction 1/2 Quel est le point commun entre : la résolution d'un système linéaire par Jacobi par Gauss-Seidel par relaxation le calcul des valeurs propres par la puissance itérée la résolution d'un système non linéaire par Newton par Quasi-Newton Ph. Leray Analyse Numérique 1 Introduction 2/2 Réponse = Méthodes itératives ! On construit une suite uk+1 = g(uk) qui converge vers û la solution du problème On peut étudier les propriétés "générales" de ces méthodes : convergence taux de convergence accélération de la convergence Ph. Leray Analyse Numérique 2 Convergence 1/3 On peut écrire les méthodes itératives sous la forme : Ax=b M uk+1 =N uk + b avec A = M - N et M régulière -1 -1 uk+1 =M N uk + M b -1 -1 uk+1 =M (M-A) uk + M b -1 -1 uk+1 =(I - M A) uk + M b û solution de A x = b vérifie -1 -1 û =(I - M A) û + M b Ph. Leray Analyse Numérique 3 Convergence 2/3 Erreur à la kème itération : ek = û - uk -1 -1 -1 -1 ek+1 = (I - M A) uk + M b - (I - M A) û - M b -1 -1 k ek+1 = (I - M A) ek = (I - M A) e0 -1 k avec B = (I - M A) ek = B e0 Ré-écriture de la suite : uk+1 = B uk + c Ph. Leray Analyse Numérique -1 avec c = M b 4 Convergence 3/3 Théorème : la suite uk converge vers û ssi (B) < 1 démonstration : il faut que ek converge vers 0 quelque soit e0 Ph. Leray Analyse Numérique 5 Taux de convergence 1/8 En dimension 1 : la suite (uk) converge vers û si l'on arrive à trouver et tels que : u k 1 û lim k uk û alors la convergence est d'ordre , avec une erreur asymptotique Ph. Leray Analyse Numérique 6 Taux de convergence En dimension 1 (suite) 2/8 lim k Cas particuliers : u k 1 û uk û si =1, la suite a une convergence linéaire si =2, la suite a une convergence quadratique En général, plus si est grand, plus la suite converge vite. Ph. Leray Analyse Numérique 7 Taux de convergence 3/8 En dimension 1 (suite) lim k Ex d'une suite de limite 0 : uk û convergence linéaire convergence quadratique u k 1 u k 1 lim uk u k 1 uk 0.5 lim uk u k 1 0.5 uk u k 0 u k ( 0.5 )k u0 Ph. Leray u k 1 û 2 2 0.5 0 .5 u k 0 u k ( 0.5 )2 k 1 u0 Analyse Numérique 8 Taux de convergence 4/8 En dimension 1 (suite) 1 0.9 la convergence linéaire c'est bien... 0.8 0.7 0.6 0.5 0.4 la convergence quadratique c'est mieux ! 0.3 linéaire 0.2 quadratique 0.1 0 1 Ph. Leray 2 3 4 5 6 7 8 Analyse Numérique 9 10 9 Taux de convergence 5/8 En dimension n taux de convergence = vitesse à laquelle ek tend vers 0 k on a donc ek = B e0 ek B k . e0 Définitions : : facteur moyen de réduction de l'erreur k Ph. Leray ek e0 B k Analyse Numérique B k 1/ k 10 Taux de convergence 6/8 Définitions (suite) Rk(B) : taux moyen de convergence pour k itérations Rk ( B ) ln B k 1/ k R(B) : taux de convergence asymptotique R( B ) ln ( B ) Ph. Leray Analyse Numérique en effet lim B k k 1/ k ( B ) 11 Taux de convergence 7/8 Application combien faut-il d'itérations pour réduire l'erreur d'un facteur ? étape 1 : convergence donc pour k assez grand Rk ( B ) ln B puisque ek B k . e0 ainsi : Rk ( B ) ln B k 1/ k 0 on choisit B k k 1/ k 1 ln k k ln Rk ( B ) problème : k dépend de Rk(B) Ph. Leray Analyse Numérique 12 Taux de convergence 8/8 Application (suite) ln k Rk ( B ) étape 2 : exprimer k en fonction de R(B) ( B ) k ( B ) B k k donc ainsi : ln ( B ) ln B conclusion : Ph. Leray k 1/ k ( B ) B soit k 1/ k R( B ) Rk ( B ) ln k R( B ) Analyse Numérique 13 Accélération de la convergence 1/5 Principe : prendre une méthode itérative de convergence linéaire construire une nouvelle suite qui converge plus vite. Exemple : soit une suite (uk) de convergence linéaire supposons que pour k suffisamment grand, u k 1 û u k 2 û uk û u k 1 û Ph. Leray Analyse Numérique 14 Accélération de la convergence 2/5 Exemple (suite) u k 1 û u k 2 û uk û u k 1 û u k 2 u k 2u k 1 û u k 2 u k u k21 2 u k 2 u k u u k 1 u k û uk u k 2 u k 2u k 1 u k 2 2u k 1 u k 2 k 1 Méthode du 2 d'Aitken u 2 uk u k 2 2u k 1 u k converge plus vite que la suite originale ~ u u la suite k k Ph. Leray k 1 Analyse Numérique 15 Accélération de la convergence 3/5 En dimension n uk+1 = B uk + c ~ u on va chercher à construire une suite k qui converge plus vite que uk en général, on prend : n ~ u k ai u i k i 0 n k a avec i 1 i 0 Erreur à la kème itération : n k k i ~ k û u k ai B 0 Pk ( B ) 0 avec Pk ( t ) aik t k i 0 Ph. Leray Analyse Numérique i 0 16 Accélération de la convergence 4/5 En dimension n (suite) pour que la nouvelle suite converge rapidement, il faut que : [Pk(B)] soit le plus petit possible Pk(1)=1 le calcul de la nouvelle suite ne soit pas trop lourd ! n a 1 k i 0 i plusieurs méthodes d'accélération : méthode de Tchebycheff méthode de relaxation symétrique ... Ph. Leray Analyse Numérique 17 Accélération de la convergence 5/5 En dimension n (suite) Accélération de Tchébycheff si B hermitienne, et si ses valeurs propres [-,] alors : u~k 1 n1 Bu~k c u~k 1 u~k 1 avec Ph. Leray 1 1 2 2 2 2 Analyse Numérique converge vers û 1 n 1 1 2 4 n 18 Conclusion les méthodes itératives sont très courantes propriétés des méthodes itératives convergence (B) < 1 taux de convergence accélération de la convergence : en dimension 1 : méthode d'Aitken (facile et pas "chère") en dimension n : plusieurs méthodes, mais assez lourdes en calcul il faut trouver un compromis Ph. Leray Analyse Numérique 19