chapitre 2

Le modèle linéaire général 97
© 2001 – Presses de l’Université du Québec
Édifice Le Delta I, 2875, boul. Laurier, bureau 450, Sainte-Foy, Québec G1V 2M2 • Tél. : [phone] – www.puq.uquebec.ca
Tiré de :
Traité d’économétrie financière , François-Éric Racicot et Raymond Théoret, ISBN 2-7605-1123-5
CHAPITRE
3
LE MODÈLE LINÉAIRE GÉNÉRAL
Jusqu’ici, nous ne nous sommes intéressés qu’à une seule variable
explicative. Le chapitre que voici se veut plus général en introduisant
plusieurs variables explicatives. Encore une fois, ce chapitre se penche
sur les problèmes d’estimation, de spécification, d’inférence et de
prévision. Lorsque l’on passe au niveau de plusieurs variables explica-
tives, force est d’utiliser le calcul matriciel. Les principes du calcul
matriciel sont présentés à l’annexe de ce chapitre.
1. FORMULATION MATRICIELLE
ET HYPOTHÈSES DE BASE
Soit le modèle linéaire suivant, qui incorpore plusieurs variables expli-
catives :
y x x x e
t t t k tk t
= + + + +β β β
1 1 2 2 ...
où xt1 = 1, ∀t. Si l’on dispose de T observations sur yt et les xtk, on
peut écrire :
y x x x e
y x x x e
y x x x e
k k
k k
T T T k Tk T
1 1 2 12 3 13 1 1
2 1 2 22 3 23 2 2
1 2 2 3 3
= + + + + +
= + + + + +
= + + + + +
β β β β
β β β β
β β β β
...
...
...
...
98 Traité d’économétrie financière
© 2001 – Presses de l’Université du Québec
Édifice Le Delta I, 2875, boul. Laurier, bureau 450, Sainte-Foy, Québec G1V 2M2 • Tél. : [phone] – www.puq.uquebec.ca
Tiré de :
Traité d’économétrie financière , François-Éric Racicot et Raymond Théoret, ISBN 2-7605-1123-5
En exprimant ce système d’équations sous forme matricielle, on a :
y
y
y
x x x
x x x
x x x
T
k
k
T T Tk
1
2
12 13 1
22 23 2
2 3
1
1
1
.
.
.
...
...
. .
. .
. .
...
=
+
β
β
β
1
2
1
2
.
.
.
.
.
.
k T
e
e
e
Sous forme compacte, ce système s’écrit :
y X e= +β
Les hypothèses de base du modèle classique linéaire général de la
régression multiple sont les suivantes :
i) Les innovations e sont IID ~ (0, s2IT). Cette hypothèse
implique que E(e) ; V(e) = E(eeT) = s2IT. Cette hypothèse
implique qu’il n’y a pas de corrélation entre les résidus :
Cov(et, es) = 0, ∀t ≠ s. De plus,
σ σ
t s t s
2 2
= ∀, , .
C’est là l’hypo-
thèse de l’homoscédasticité des résidus.
ii) Les variables explicatives x sont supposées non stochastiques,
c’est-à-dire qu’elles sont fixes dans des échantillons répétés.
Cette hypothèse implique que E(xTe) = 0. Cette hypothèse
est nécessaire pour assurer que l’estimateur des MCO sera
sans biais. C’est aussi une condition de moments utilisée
dans la méthode des moments généralisés (GMM) qui sera
traitée au chapitre 11.
On veut estimer le paramètre b du modèle de régression :
y=Xb+e. À l’instar du chapitre 2, la méthode des MCO consiste à
solutionner le problème de minimisation suivant :
β β
β
MIN SMIN et
t
T
( )
=
=
∑
2
1
, où
e
t
t
TT2
1=
∑=e e
. On a :

Le modèle linéaire général 99
© 2001 – Presses de l’Université du Québec
Édifice Le Delta I, 2875, boul. Laurier, bureau 450, Sainte-Foy, Québec G1V 2M2 • Tél. : [phone] – www.puq.uquebec.ca
Tiré de :
Traité d’économétrie financière , François-Éric Racicot et Raymond Théoret, ISBN 2-7605-1123-5
e e y X y X
y X y X
y y y X X y X X
y y X y X X
TT
T T T
T T T T T T
T T T T T
= −
( )
−
( )
= −
(
)
−
( )
= − − −
(
)
= − −
β β
β β
β β β β
β β β2
Pour calculer
ˆ
β
, on calcule la dérivée suivante :
∂
( )
∂= − −
S
T T
β
ββ2 2X y X X
. On égalise ce résultat à zéro et on obtient :
ˆ
β =
( )
−
X X X y
T T
1
. Précisons ce calcul en introduisant les formes
quadratiques et les techniques de dérivation matricielle.
D’abord la forme quadratique. Sa forme générale est la suivante :
x Ax
T=∑∑ x x a
i
ji
j ij
, où A est une matrice symétrique. Soit l’exemple
suivant où i = 1, 3 et j = 1, 3. Soit A = XTX, cette matrice étant tirée
de l’estimateur des MCO et x = b dans cette forme quadratique. Par
conséquent :
β β β β β β β β β β
β β β β β
β β β β β β β β β β
Ti
ij
j ij j j j j j j
j
a a a a
a a a
a a a a a a
A= = + +
(
)
= + +
(
)
+
+ +
(
)
+ + +
(
== =
∑∑ ∑
1
3
1
3
1 1 2 2 3 3
1
3
1
211 2 1 21 3 1 31
2 1 12 2
222 3 2 32 3 1 13 3 2 23 3 233
))
Parce que A est une matrice symétrique, on a :
β β β β β β β
β β β
β
T
a a a
a a
a
A= + +
+ +
+
11 1
212 1 2 13 1 3
22 2
223 2 3
33 3
2
2 2
2
100 Traité d’économétrie financière
© 2001 – Presses de l’Université du Québec
Édifice Le Delta I, 2875, boul. Laurier, bureau 450, Sainte-Foy, Québec G1V 2M2 • Tél. : [phone] – www.puq.uquebec.ca
Tiré de :
Traité d’économétrie financière , François-Éric Racicot et Raymond Théoret, ISBN 2-7605-1123-5
La dérivée de la forme quadratique s’effectue comme à l’accou-
tumée, c’est-à-dire :
∂
(
)
∂=
∂
(
)
∂
∂
(
)
∂
∂
(
)
∂
=
β β
β
β β
β
β β
β
β β
β
β
β
β
T
T
T
T
a a a
a a a
a a a
A
A
A
A
1
2
3
11 12 13
12 22 23
13 23 33
1
2
3
2
= =2 2A X Xβ β
T
.
C’est là la dérivée recherchée qui constitue le second terme de
∂
( )
∂
Sβ
β
, en la faisant certes précéder d’un terme négatif. Pour sa part,
son premier terme se calcule comme suit. Posons :
∂
(
)
∂=∂
(
)
∂
β
β
β
β
T T T
yX a
, cette substitution :
a X y=
=
a
a
a
T
1
2
3
étant effectuée pour simplifier les calculs. On a donc : bTa = b1a1 +
b2a2 + b3a3. La dérivée partielle recherchée se réduit donc à un simple
calcul habituel, c’est-à-dire :
∂
( )
∂=
∂
( )
∂
∂
( )
∂
∂
( )
∂
=
= =
β
β
β
β
β
β
β
β
T
T
T
T
T
a
a
a
a
a
a
a
a X y
1
2
3
1
2
3
.

Le modèle linéaire général 101
© 2001 – Presses de l’Université du Québec
Édifice Le Delta I, 2875, boul. Laurier, bureau 450, Sainte-Foy, Québec G1V 2M2 • Tél. : [phone] – www.puq.uquebec.ca
Tiré de :
Traité d’économétrie financière , François-Éric Racicot et Raymond Théoret, ISBN 2-7605-1123-5
Nous avons donc démontré comment calculer la dérivée recherchée :
∂
( )
∂= − −
ST T
β
ββ2 2X y X X
Comme cela a été évoqué plus haut, en égalant cette dérivée à 0, on
obtient sous forme matricielle les équations normales énoncées au
chapitre 2, c’est-à-dire :
X y X X
X X X y
T T
T T
=
⇒ =
( )
−
ˆ
ˆ
β
β1
ce qui est l’équation des MCO. En développant les matrices, on a :
ˆ
ˆ
.
.
.
ˆ
...
. . . .
. . . . . .
. .
. .
...
β
β
β
1
2
1
21 2 1
1 2 2
22
1 2
k
t t t t tk
t t t t tk
t tk t tk tk
x x x x x
x x x x x
x x x x x
=
∑ ∑ ∑
∑ ∑ ∑
∑ ∑
22
1
1
2
∑
∑
∑
∑
−
x y
x y
x y
t t
t t
tk t
.
.
.
Pour être certain d’obtenir un minimum, on requiert la condition
second ordre suivante :
∂
( )
∂ ∂ =
2
2
S
T
T
β
β β X X
, soit une matrice définie posi-
tive, c’est-à-dire que les déterminants des sous-matrices de XTX soient
tous positifs.
102 Traité d’économétrie financière
© 2001 – Presses de l’Université du Québec
Édifice Le Delta I, 2875, boul. Laurier, bureau 450, Sainte-Foy, Québec G1V 2M2 • Tél. : [phone] – www.puq.uquebec.ca
Tiré de :
Traité d’économétrie financière , François-Éric Racicot et Raymond Théoret, ISBN 2-7605-1123-5
2. PROPRIÉTÉS DE L’ESTIMATEUR DES MCO
Dans le cas de la régression multiple, l’estimateur des MCO possède
les mêmes propriétés que celles évoquées au chapitre 2 : i) l’estimateur
des MCO du vecteur b est sans biais et efficient dans la classe des
estimateurs linéaires. Cela se résume par le théorème de Gauss-
Markov : sous les hypothèses du modèle classique linéaire général,
l’estimateur des MCO
ˆ
β
est l’estimateur BLUE1 de bêta. Par consé-
quent, en supposant que les résidus ei ~ IID(0, s2) et que X est non
stochastique, on obtient le meilleur estimateur linéaire du modèle de
régression.
Il reste à démontrer ces propriétés. D’abord, celle ayant trait à
l’absence de biais. On sait que
ˆ
β
= (XTX)–1 XTy, où y = Xb + e. En
remplaçant y par sa valeur dans l’expression de
ˆ
β
et en insérant
l’espérance à l’intérieur de l’expression, on a : E(
ˆ
β
) = b + (XTX)–1
XTE(e) puisque X⊥e. Par conséquent,
ˆ
β
ne présente pas de biais.
Passons maintenant à la propriété de l’efficience. Rappelons le
calcul de la variance de
ˆ
β
. On a : V(
ˆ
β
) = E[(
ˆ
β
– b)(
ˆ
β
– b)T] = (XTX)–1
XTE(eeT)X(XTX)–1 = s2(XTX)–1. À partir de ce résultat, on peut
déduire que l’estimateur des MCO est l’estimateur linéaire dont la
variance est la plus faible dans la classe des estimateurs linéaires. En
effet, si l’on suppose un autre estimateur linéaire
ˆ*β
, cela revient à
dire que
V V
ˆ ˆ *β β
( )
≤
( )
et que pour toute autre combinaison linéaire :
V V
T T
c c
ˆ ˆ *β β
( )
≤
( )
.
Envisageons maintenant l’estimateur de la variance de
ˆ
β
,
ˆˆˆ
V
T
β σ
( )
=
( )
−
21
X X
, où
ˆˆ ˆ
σ2=−
e e
T
T k
, et où
ˆ
σ2
est l’estimateur sans
biais de s2 puisque le dénominateur de
ˆ
σ2
représente le nombre de
degrés de liberté.
1. Soit le best linear unbiaised estimator.

Le modèle linéaire général 103
© 2001 – Presses de l’Université du Québec
Édifice Le Delta I, 2875, boul. Laurier, bureau 450, Sainte-Foy, Québec G1V 2M2 • Tél. : [phone] – www.puq.uquebec.ca
Tiré de :
Traité d’économétrie financière , François-Éric Racicot et Raymond Théoret, ISBN 2-7605-1123-5
R2 et
–
R2
Le coefficient de détermination R2 se calcule comme suit à partir de
l’équation de SCT, soit la somme des carrés totale : SCT = SCE +
SCR, où SCE désigne la somme des carrés expliquée et SCR, la
somme des carrés résiduelle. En divisant les deux membres de l’équa-
tion par SCT, on obtient :
RSCR
SCT
e
y y
i
i
T
T
2
2
2
1 1 1= − = − −
( )
= −
∑
∑
ˆˆ ˆ
e e
y Ay
où A I= − ii T
T
est la matrice de transformation des données en dé-
viation de la moyenne. Par exemple, si R2 = 87 %, cela signifie que
87 % de la variation de la variable expliquée est attribuable aux varia-
tions des variables explicatives. Il peut être montré que :
RCov y y
V y V y
t t
t t
2
2
=
( )
( ) ( )
ˆ,
ˆ
, qui est le coefficient de corrélation au
carré entre
ˆ
y
t
et yt. Comme
ˆ
y
t
est une prévision de la valeur de yt, R2
est un indicateur du caractère explicatif de l’équation de régression à
bien modéliser yt. La valeur de R2 est comprise entre 0 et 1. Plus R2
est rapproché de 1, plus le caractère explicatif du modèle est impor-
tant. Comme cela a été expliqué au chapitre 2, cette mesure a la
déficience d’augmenter au fur et à mesure que l’on ajoute des variables
explicatives même si celles-ci ne sont pas significatives. À noter que
l’interprétation du R2 comme coefficient de corrélation de Pearson
entre une variable explicative et la variable dépendante n’est plus
valable, puisque l’on est évidemment ici en présence de plusieurs
variables explicatives. Une mesure alternative qui corrige ce problème
associé aux degrés de liberté est le R2 ajusté de Theil. Elle se définit
comme suit :
Re T k
y y T
i
i
e
y
2
2
2
2
2
111= − −
( )
−
( )
−
( )
= −
∑
∑
ˆ/
/
ˆ
ˆ
σ
σ
104 Traité d’économétrie financière
© 2001 – Presses de l’Université du Québec
Édifice Le Delta I, 2875, boul. Laurier, bureau 450, Sainte-Foy, Québec G1V 2M2 • Tél. : [phone] – www.puq.uquebec.ca
Tiré de :
Traité d’économétrie financière , François-Éric Racicot et Raymond Théoret, ISBN 2-7605-1123-5
Cette mesure utilise les estimateurs sans biais de la variance des
erreurs résiduelles et de la variance de y. Il faut également souligner
que les deux mesures du degré d’ajustement du modèle de régression
que nous avons présentées sont centrées, c’est-à-dire qu’elles sont
définies en déviation de la moyenne. On pourrait également exprimer
ces mesures en données brutes.
3. HYPOTHÈSES SUR LES ERREURS ET CONSÉQUENCES
Supposons le modèle de régression suivant :
y x x e
t t k tk t
= + + + +β β β
1 2 2 ...
, t = 1, …, T
où et ~ N(0, s2). L’application des moindres carrés ordinaires (MCO)
à ce modèle implique que
ˆ~ ,β β σN
T2 1
X X
(
)
−
. Précisons les impli-
cations de ces hypothèses :
i) Sous l’hypothèse de normalité des erreurs, non seulement
l’estimateur des MCO est BLUE par le théorème Gauss-
Markov, mais il devient le meilleur estimateur sans biais de
b. La variance des MCO atteint la borne Cramer-Rao, borne
inférieure pour tous les estimateurs. Cela signifie que sans
l’hypothèse de normalité, il peut exister un estimateur non
linéaire biaisé de b, mais qui comporte une variance échan-
tillonnale inférieure à celle des MCO.
ii) L’estimateur des MCO de b se confond avec celui du maxi-
mum de vraisemblance. Pour ce qui concerne la variance,
l’estimateur de la variance de s2 du maximum de vraisem-
blance est toutefois biaisé, ce qui n’est pas le cas pour les
MCO.
iii) Sous l’hypothèse de normalité, on obtient des tests exacts.
Sachant que
ˆ~ ,β β σN
T2 1
X X
(
)
−
, cela revient à dire que
l’on connaît les distributions exactes des tests. On peut donc
construire les tests t, de x2 et de Fisher dans les petits échan-
tillons. Advenant le cas où l’on ne connaît pas la distribution
des erreurs, on recourt aux distributions asymptotiques de
nos estimateurs pour ainsi effectuer les tests LM, LR et de

Le modèle linéaire général 105
© 2001 – Presses de l’Université du Québec
Édifice Le Delta I, 2875, boul. Laurier, bureau 450, Sainte-Foy, Québec G1V 2M2 • Tél. : [phone] – www.puq.uquebec.ca
Tiré de :
Traité d’économétrie financière , François-Éric Racicot et Raymond Théoret, ISBN 2-7605-1123-5
Wald. Il existe d’autres méthodes de tests pour les petits
échantillons, tels les tests non paramétriques.
4. TESTS D’HYPOTHÈSES
ET INTERVALLES DE CONFIANCE
Tel qu’on vient de le mentionner, l’hypothèse de la normalité des
résidus nous permet d’effectuer des tests d’inférence et de calculer des
intervalles de confiance.
Tests t
Considérons le cas où s2 est inconnu. Soit H0 : bk = 0 et H1 : bk ≠ 0,
c’est-à-dire que l’on veut tester si bk est significativement différent
de 0. Pour construire ce test, on procède de la même façon qu’au
chapitre 2, c’est-à-dire, sous H0 :
t
Vc
t T k
k
k
k
kk
c
=−
( )
=−
×−
( )
ˆ
ˆˆ
ˆ
ˆ~
β
β
β
σ
0 0
2
où ckk provient de la diagonale de la matrice (XTX)–1. La représenta-
tion matricielle de la variance de
ˆ
β
est la suivante :
ˆˆˆ
. . .
. . . .
. . . . . .
. .
. .
. . .
V
T x x
x x x x
x x x x
t tk
t t t tk
tk t tk tk
β σ
( )
=
∑ ∑
∑ ∑ ∑
∑ ∑ ∑
−
2
2
2 2
22
22
1
106 Traité d’économétrie financière
© 2001 – Presses de l’Université du Québec
Édifice Le Delta I, 2875, boul. Laurier, bureau 450, Sainte-Foy, Québec G1V 2M2 • Tél. : [phone] – www.puq.uquebec.ca
Tiré de :
Traité d’économétrie financière , François-Éric Racicot et Raymond Théoret, ISBN 2-7605-1123-5
Par exemple, pour k = 2, c22 est égal à :
c x t22 2
2
=
∑
.
Intervalles de confiance
Pour s2 inconnu, la technique pour construire un intervalle de con-
fiance est exactement la même que celle présentée aux chapitres 1 et
2, c’est-à-dire :
P t t t
P t V t V
c c
k c k k k c k
− < <
[ ]
= −
⇒ −
( )
< < +
( )
= −
1
1
α
β β β β β α
ˆˆˆ ˆ ˆˆ
L’intervalle de confiance pour
ˆ
βk
s’écrit :
ˆ ˆ
β β
k k c
se t±
( )
×
, où se est
l’écart-type de
ˆ
βk
. Le test qui vient d’être présenté est bilatéral. Pour
ce qui concerne les tests unilatéraux, la technique est identique à celle
exposée aux chapitres 1 et 2.
Test F
Dans le chapitre précédent, on a présenté le test F dans le cas univarié
comme étant un t2. Mais dans sa forme la plus classique, le test F est
utilisé pour effectuer un test conjoint sur l’ensemble des paramètres.
En effet, pour tester l’hypothèse H0 : b2 = b3 = ... = bk = 0 : bs = 0
contre H1 : au moins l’un des bk est différent de 0 : bs ≠ 0. Le test F
correspondant est le suivant. Tout d’abord, nous savons que :
ˆ~ ,β β σ
s s
N M
2
(
)
. Posons :
w V
k
s s
T
s s s
s s
T
s s c
1
1
1
2
2
1
= −
( ) ( )
[ ]
−
( )
= −
( )
[ ]
−
( )
−
( )
−
−
ˆ ˆ ˆ
ˆ ˆ ~
β β β β β
β β σβ β χ
M
où
M X AX X X=
(
)
=
(
)
− −
2 2
1 1
T T
* *
. Posons :