Méthode des moindres carrés et procédé de Gram-Schmidt

Moindres carrés Gram-Schmidt Décomposition QR
11. Méthode des moindres carrés et
procédé de Gram-Schmidt
MTH1008
Sébastien Le Digabel
Polytechnique Montréal
H26
2026-03-23
v2
MTH1008: algèbre linéaire 1/23

Moindres carrés Gram-Schmidt Décomposition QR
Plan
Approximations par moindres carrés
Moindres carrés : Définition
Droite d’ajustement (régression linéaire)
Trois points de vue
Solution analytique
Généralisation
Exercices
Procédé de Gram-Schmidt
Décomposition QR
MTH1008: algèbre linéaire 2/23

Moindres carrés Gram-Schmidt Décomposition QR
Liens avec les manuels
▶αlfa :
▶9.1 : Projections et moindres carrés
▶9.2 : Régression linéaire
▶10 : Orthogonalisation
▶Lay et al. :
▶6.4 : Procédé de Gram-Schmidt
▶6.5 : Méthodes des moindres carrés
MTH1008: algèbre linéaire 3/23

Moindres carrés Gram-Schmidt Décomposition QR
Approximations par moindres carrés
Moindres carrés : Définition
Droite d’ajustement (régression linéaire)
Trois points de vue
Solution analytique
Généralisation
Exercices
Procédé de Gram-Schmidt
Décomposition QR
MTH1008: algèbre linéaire 4/23

Moindres carrés Gram-Schmidt Décomposition QR
Introduction
▶A∈Rm×navec m>net rg(A) = n
▶Le SÉL Ax =best de plein rang colonne et ne possède pas
toujours de solution
▶Au lieu on résout le système A⊤Aˆ
x=A⊤bqui possède
toujours une solution (ce sont les équations normales)
▶p=Aˆ
xest la projection de bdans Im(A): C’est donc le
point de Im(A)le plus proche de b
▶ˆ
xminimise l’erreur
∥e∥2=∥b−p∥2=∥b−Pb∥2=∥b−Aˆ x∥2
▶On peut donc voir ˆ
xcomme la meilleure “solution” possible à
Ax =b
▶ˆ
xest appelée la solution de Ax =bau sens des moindres
carrés
MTH1008: algèbre linéaire 5/23