Régression multiple

Statistiques multivariées :
Régression multiple (linéaire et logistique)
M-A Dronne
2016 - 2017
1 / 64

Introduction
Statistiques multivariées
2 types de méthodes :
IMéthodes descriptives
IAnalyse en composantes principales (ACP)
IAnalyse factorielle des correspondances (AFC)
IMéthodes explicatives
IRégression multiple
IAnalyse discriminante
2 / 64

Rappels régression linéaire simple
Objectif
Etude de la liaison linéaire entre une variable explicative Xet
une variable à expliquer Y
⇒étude de l’influence de Xsur Y
Variables
IVariable X(explicative = indépendante) :
IQuantitative ⇒utilisation directe de la variable
IQualitative ⇒utilisation d’indicatrices
IVariable Y(à expliquer = dépendante) :
IQuantitative ⇒régression linéaire
IQualitative ⇒régression logistique
3 / 64

Rappels régression linéaire simple
Modèle linéaire
Pour chaque individu i, on considère que la valeur yiprise par
la variable Yest une réalisation d’une v.a. Yidéfinie par :
Yi=α+βXi+i
α: ordonnée à l’origine
β: pente de la droite
: résidu (= erreur = aléa de mesure) : v.a.
Conditions à respecter
i: v.a. indépendantes, normales, d’espérance nulle et de
variance constante (= variance résiduelle)
⇒i→ N (0, σ)et cov(i, j) = 0∀i6=j
4 / 64

Rappels régression linéaire simple
Démarche générale
1. Obtention de la droite de régression
⇒Estimation des paramètres (méthode des moindres
carrés / méthode du maximum de vraisemblance)
2. Etude de la qualité de l’ajustement
⇒calcul du coefficient de détermination r2
3. Etude de validité du modèle linéaire
⇒étude des résidus
4. Etude de la liaison linéaire
⇒test de la pente nulle (ou test de Fisher)
5 / 64