Variables aléatoires discrètes - IECL

Variables aléatoires discrètes
Samy Tindel
Université de Lorraine
Telecom Nancy - Module MAP
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
1 / 56
Plan
1
Définitions
2
Variables aléatoires discrètes usuelles
3
Moments des variables aléatoires
4
Vecteurs aléatoires discrets
5
Indépendance
6
Dépendance linéaire
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
2 / 56
Plan
1
Définitions
2
Variables aléatoires discrètes usuelles
3
Moments des variables aléatoires
4
Vecteurs aléatoires discrets
5
Indépendance
6
Dépendance linéaire
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
3 / 56
Introduction
Expérience: lancer de 3 pièces non biaisées.
Modélisation: Ω = {p, f }3 , P({ω}) =
1
8
Résultat de l’expérience: on s’intéresse à la quantité
X (ω) = "Nombre de face obtenu quand ω est réalisée
On obtient
ω
X (ω)
(p, p, p)
0
(p, p, f )
1
(p, f , p)
1
(p, f , f )
2
Samy T. (IECL)
ω
X (ω)
(f , p, p)
1
(f , p, f )
2
(f , f , p)
2
(f , f , f )
3
TN - V.a. discrètes
Module MAP
4 / 56
Introduction (2)
Type d’information d’intérêt:
On s’intéresse souvent à X comme application, i.e.
X : Ω → {0, 1, 2, 3}.
On a alors
X −1 ({2}) = {(p, f , f ), (f , p, f ), (f , f , p)}
et
3
P X −1 ({2}) = .
8
On essaiera de formaliser ce genre de question.
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
5 / 56
Variable aléatoire discrète
Définition
Soit (Ω, A, P) un espace de probabilités.
Soit E un ensemble dénombrable (N, Nd , Z, Zd , Q, Qd ).
Une application X : Ω → E se nomme variable aléatoire discrète.
Remarque:
Ici encore, pour être rigoureux, il faudrait introduire la notion de
mesurabilité.
Exemple: nombre de face sur 3 lancers de pièce
,→ Ω = {p, f }3 et E = {0, 1, 2, 3}.
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
6 / 56
Mesure image
Type d’information d’intérêt:
pour x ∈ E , calcul de P({ω; X (ω) = x })
Abus de notation: on note
P({ω; X (ω) = x }) = PX ({x })= P(X = x )
Définition: PX est une probabilité sur E .
On la nomme mesure image.
On a souvent accès à (E , PX ) au lieu de (Ω, P)
Correspondance avec le monde réel:
Ω = espace des expériences possibles
X = résultat ou résumé de l’expérience
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
7 / 56
Loi d’une v.a. discrète
Définition
Soit X : Ω → E une v.a. discrète.
On suppose que E = {xi ; i ≥ 1}.
L’ensemble
{P(X = xi ); i ≥ 1}
se nomme loi de probabilités de X
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
8 / 56
Exemple
Exemple: nombre de face sur 3 lancers de pièce
,→ Ω = {p, f }3 et E = {0, 1, 2, 3}.
X (ω)
ω
(p, p, p)
0
(p, p, f )
1
(p, f , p)
1
(p, f , f )
2
ω
X (ω)
(f , p, p)
1
(f , p, f )
2
(f , f , p)
2
(f , f , f )
3
3
P(X = 1) = ,
8
3
P(X = 2) = ,
8
Loi de X :
1
P(X = 0) = ,
8
Remarque: on a
Samy T. (IECL)
P3
i=0
P(X = 3) =
1
8
P(X = i) = 1
TN - V.a. discrètes
Module MAP
9 / 56
Plan
1
Définitions
2
Variables aléatoires discrètes usuelles
3
Moments des variables aléatoires
4
Vecteurs aléatoires discrets
5
Indépendance
6
Dépendance linéaire
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
10 / 56
Loi de Bernoulli
Notation: B(p) pour p ∈]0, 1[
Ensemble des valeurs: E = {0, 1}
Loi:
P(X = 0) = 1 − p,
P(X = 1) = p
Utilisation:
(i) Succès dans un jeu binaire
Exemple 1: pile/face. X = 1 si pile, X = 0 sinon ⇒ X ∼ B(1/2)
Exemple 2: jeu de dé. X = 1 si résultat = 3, X = 0 sinon
⇒ X ∼ B(1/6)
(ii) Réponse oui/non dans un sondage
Exemple: X = 1 si une personne approuve la réforme des retraites,
X = 0 sinon ⇒ X ∼ B(p), avec p inconnu
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
11 / 56
Loi Binomiale
Notation: Bin(n, p), pour n ∈ N∗ , p ∈]0, 1[
Ensemble des valeurs: E = {0, 1, . . . , n}
Loi:
!
n k
P(X = k) =
p (1 − p)n−k ,
k
0≤k≤n
Utilisation:
(i) Nombre de succès dans une épreuve de Bernoulli
répétée n fois indépendemment
Exemple: On lance un dé 9 fois. X = nombre de 3 obtenus
⇒ X ∼ Bin(9, 1/6), P(X = 2) = 0.28
(ii) Comptage d’un caractère dans un tirage avec remise
Exemple: lot de 1000 pantalons dont 10% défectueux
On tire 15 pantalons avec remise.
X = nombre de pantalons défectueux obtenus ⇒ X ∼ Bin(15, 1/10)
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
12 / 56
Loi Binomiale: illustration (1)
0.35
0.30
0.25
0.20
0.15
0.10
0.05
0.00
0
1
2
3
4
5
6
Figure : Loi Bin(6; 0.5). Abscisses: k. Ordonnées: P(X = k)
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
13 / 56
Loi Binomiale: illustration (2)
0.15
0.10
0.05
0.00
0
5
10
15
20
25
30
Figure : Loi Bin(30; 0.5). Abscisses: k. Ordonnées: P(X = k)
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
14 / 56
Loi géométrique
Notation: G(p) pour p ∈]0, 1[
Ensemble des valeurs: E = N∗
Loi:
P(X = k) = p (1 − p)k−1 ,
k≥1
Utilisation:
Instant de 1er succès dans un jeu binaire
Exemple 2: jeu de dé.
X = 1er lancer pour lequel résultat = 6
⇒ X ∼ G(1/6), P(X = 5) = 0.08
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
15 / 56
Loi de Poisson
Notation: P(λ) pour λ ∈ R+
Ensemble des valeurs: E = N
Loi:
P(X = k) = e −λ
Samy T. (IECL)
λk
,
k!
TN - V.a. discrètes
k≥0
Module MAP
16 / 56
Loi de Poisson (2)
Utilisation de la
Nombre de
Nombre de
Nombre de
loi de Poisson (exemples):
clients entrant dans un magasin de 14h à 17h
bus passant à un arrêt en 35 mn
requêtes sur un serveur de minuit à 6h
Règle empirique:
Si n → ∞, p → 0 et np → λ, on approche Bin(n, p) par P(λ).
En pratique, cette règle est appliquée pour
p ≤ 0.1 et np ≤ 5
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
17 / 56
Loi de Poisson: illustration (1)
0.30
0.25
0.20
0.15
0.10
0.05
0.00
0
5
10
15
Figure : Loi P(2). Abscisses: k. Ordonnées: P(X = k)
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
18 / 56
Loi de Poisson: illustration (2)
0.20
0.18
0.16
0.14
0.12
0.10
0.08
0.06
0.04
0.02
0.00
0
5
10
15
Figure : Loi P(5). Abscisses: k. Ordonnées: P(X = k)
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
19 / 56
Plan
1
Définitions
2
Variables aléatoires discrètes usuelles
3
Moments des variables aléatoires
4
Vecteurs aléatoires discrets
5
Indépendance
6
Dépendance linéaire
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
20 / 56
Espérance mathématique
Définition
Soit X : Ω → E une v.a. discrète.
On suppose que E = {xi ; i ≥ 1}.
Soit f : E → R. On pose
E[f (X )] =
X
f (xi ) P(X = xi ).
i≥1
Cette quantité se nomme espérance de f (X ).
Remarque: Il faut en principe vérifier que la série définissant E[f (X )]
est absolument convergente, i.e.
X
|f (xi )| P(X = xi ) < ∞.
i≥1
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
21 / 56
Cas particuliers importants
Soit X : Ω → E une v.a. discrète. On suppose que E = {xi ; i ≥ 1}.
(1) Espérance de X :
E[X ] =
X
xi P(X = xi ).
i≥1
(2) Moment d’ordre r (resp. centré d’ordre r ) de X , pour r > 0:
E[X r ] =
X
r
X
xir P(X = xi )
i≥1
E [(X − E[X ]) ] =
(xi − E[X ])r P(X = xi ).
i≥1
(3) Variance de X :
h
i
Var(X ) = E (X − E[X ])2 =
(xi − E[X ])2 P(X = xi ).
X
i≥1
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
22 / 56
Exemple de calcul
Exemple: soit X ∼ B(p) avec p ∈]0, 1[.
On a E = {0, 1} et
E[X ] =
1
X
i P(X = i) = 0 × P(X = 0) + 1 × P(X = 1)= p.
i=0
On a aussi
Var(X ) =
1
X
(i − E[X ])2 P(X = i) = p 2 (1 − p) + (1 − p)2 p
i=0
= p(1 − p)[p + 1 − p]= p(1 − p)
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
23 / 56
Interprétation
Espérance: Pour une v.a. X , l’espérance E[X ] représente
la valeur moyenne que prend X .
Variance: Pour une v.a. X , l’espérance Var(X ) représente
la dispersion de X autour de sa moyenne.
Plus Var(X ) est grande et
Plus le système représenté par X est aléatoire
Moins ce système est prévisible
Ecart type: pour des raisons d’unités physiques, il est plus clair de
raisonner en termes d’écart type σX , avec
σX :=
Samy T. (IECL)
q
Var(X ).
TN - V.a. discrètes
Module MAP
24 / 56
Interprétation (2)
Illustration (de stat descriptive): On veut comparer les performances
de 2 joueurs de foot sur les 5 derniers match (de difficulté similaire).
Ribéry
Messi
5
1
0
1
0
1
0
1
0
1
Rappel: pour des données {xi ; i ≤ n}, on a
P
Moyenne empirique: x̄n = n1 ni=1 xi
P
Variance empirique:
s 2 = n1 ni=1 (xi − x̄n )2
q n
Ecart type: sn = sn2
Sur nos données: x̄R = x̄M = 1 but/match
,→ Même rendement moyen
En revanche, sR = 2 buts/match alors que sM = 0 but/match
,→ M plus fiable (moins aléatoire) que R
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
25 / 56
Interprétation (3)
Illustration 2: Soit X ∼ B(p).
On a vu que
Var(X ) = p(1 − p) := ϕ(p)
La fonction ϕ : [0, 1] → R+ est telle que
ϕ est minimum et nulle en p = 0 et p = 1
ϕ est maximum et vaut 1/4 en p = 1/2
Or p = 0 ou 1 représente le résultat le plus déterministe
alors que p = 1/2 représente le résultat le plus incertain.
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
26 / 56
Propriétés de l’espérance
Proposition
Soit X : Ω → E une variable aléatoire.
Soient f , g : E → R et a, b ∈ R. Alors
(1) On a
E [a f (X ) + b g(X )] = a E [f (X )] + b E [g(X )]
(2) Dans le cas particulier affine, on a
E[aX + b] = a E[X ] + b,
Samy T. (IECL)
et Var(aX + b) = a2 Var(X )
TN - V.a. discrètes
Module MAP
27 / 56
Propriétés de l’espérance (2)
Proposition
(1) Soit X : Ω → E une variable aléatoire. Alors
i
h
Var(X ) = E X 2 − (E[X ])2
(2) Soient d variables aléatoires X1 , . . . , Xd . Alors


d
X
E  Xj 
j=1
=
d
X
E[Xj ]
j=1
Démonstration de (1): On a, si m := E[X ],
h
Var(X ) = E (X − m)2
h
i
= E X 2 − 2m X + m2
h
i
i
= E X 2 − m2
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
28 / 56
Propriétés de l’espérance (3)
Définition: Soit A ⊂ E .
La fonction 1A : E → {0, 1} est définie par
1A (x ) = 1 si x ∈ A,
et 1A (x ) = 0 si x 6∈ A
Proposition
Soit X : Ω → E une variable aléatoire.
Soit A ⊂ E . Alors
E[1A (X )] = P(X ∈ A)
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
29 / 56
Valeurs pour les v.a. usuelles
Tableau récapitulatif:
Loi
E[X ] Var(X )
B(p)
p
p(1 − p)
Bin(n, p) n p n p(1 − p)
1−p
1
G(p)
p
p2
P(λ)
λ
λ
Calculs: au tableau (et à savoir faire)
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
30 / 56
Plan
1
Définitions
2
Variables aléatoires discrètes usuelles
3
Moments des variables aléatoires
4
Vecteurs aléatoires discrets
5
Indépendance
6
Dépendance linéaire
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
31 / 56
Définitions de base
Définition
Soient d v.a. discrètes X1 , . . . , Xd définies sur (Ω, A, P).
(1) On pose, pour ω ∈ Ω, X (ω) = (X1 (ω), . . . , Xd (ω))
X se nomme vecteur aléatoire discret de dimension d
(2) Soit Ei l’ensemble des valeurs prises par Xi .
La loi de probabilité conjointe de X est donnée par
{P (X = (x1 , . . . , xd )) ; (x1 , . . . , xd ) ∈ E1 × E2 × · · · × Ed }
(3) Soit X un vecteur aléatoire discret de dimension d.
La loi marginale de X1 est donnée par
P (X1 = x1 ) =
X
P (X = (x1 , x2 , . . . , xd ))
(x2 ,...,xd )∈E2 ×···×Ed
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
32 / 56
Application (1)
Expérience: lancer de 3 pièces non biaisées.
,→ Ω = {p, f }3 , P({ω}) = 18
Vecteur aléatoire: on pose X (ω) = (X1 (ω), X2 (ω)) avec
X1 (ω) = 1A (ω) et
A = "On obtient au plus une fois pile"
X2 (ω) = 1B (ω) et
B = "On obtient au moins une fois pile et au moins une fois face"
On obtient
ω
(p, p, p)
(p, p, f )
(p, f , p)
(p, f , f )
Samy T. (IECL)
X (ω)
(0, 0)
(0, 1)
(0, 1)
(1, 1)
ω
(f , p, p)
(f , p, f )
(f , f , p)
(f , f , f )
TN - V.a. discrètes
X (ω)
(0, 1)
(1, 1)
(1, 1)
(1, 0)
Module MAP
33 / 56
Application (2)
Loi de probabilité conjointe de X :
1
,
8
1
P (X = (1, 0)) =
,
8
P (X = (0, 0)) =
3
8
3
P (X = (1, 1)) =
8
P (X = (0, 1)) =
Loi de probabilité marginale de X1 :
P(X1 = 0) =
1
X
P (X = (0, i))
i=0
= P (X = (0, 0)) + P (X = (0, 1))
1
1 3
=
+ =
8 8
2
1
P(X1 = 1) =
2
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
34 / 56
Application (3)
Loi de probabilité marginale de X2 :
1
P(X2 = 0) = ,
4
P(X2 = 1) =
3
4
Remarque: On a X1 ∼ B(1/2) et X2 ∼ B(3/4)
Tableau récapitulatif:
0
1
X1 \X2
0
1/8 3/8
1
1/8 3/8
Marg. X2 1/4 3/4
Samy T. (IECL)
TN - V.a. discrètes
Marg. X1
1/2
1/2
1
Module MAP
35 / 56
Plan
1
Définitions
2
Variables aléatoires discrètes usuelles
3
Moments des variables aléatoires
4
Vecteurs aléatoires discrets
5
Indépendance
6
Dépendance linéaire
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
36 / 56
Indépendance
Définition
Soient d v.a. discrètes X1 , . . . , Xd définies sur (Ω, A, P).
On suppose que Xi : Ω → Ei
On dit que X1 , . . . , Xd sont indépendantes si
P (X1 = x1 , . . . , Xd = xd ) := P ((X1 = x1 ) ∩ · · · ∩ (Xd = xd ))
=
d
Y
P(Xi = xi ),
i=1
pour tout d-uplé (x1 , . . . , xd ) ∈ E1 × · · · × Ed .
Remarque: Les v.a. sont indépendantes si les événements
{ω ∈ Ω; Xi (ω) = xi } ,
(x1 , . . . , xd ) ∈ E1 × · · · × Ed
sont indépendants
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
37 / 56
Application (1)
Expérience: lancer de 3 pièces non biaisées.
,→ Ω = {p, f }3 , P({ω}) = 18
Vecteur aléatoire: on pose X (ω) = (X1 (ω), X2 (ω)) avec
X1 (ω) = 1A (ω) et
A = "On obtient au plus une fois pile"
X2 (ω) = 1B (ω) et
B = "On obtient au moins une fois pile et au moins une fois face"
On a vu:
X1 \X2
0
1 Marg. X1
0
1/8 3/8
1/2
1
1/8 3/8
1/2
Marg. X2 1/4 3/4
1
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
38 / 56
Application (2)
On vérifie (avec le tableau) que
P (X = (i, j)) = P (X1 = i) P (X2 = j) ,
pour tout i, j ∈ {0, 1}
On a donc bien X1 ⊥⊥ X2 .
Remarque: Cette indépendance est due au fait que A ⊥⊥ B.
,→ cf. Probabilités Elémentaires, Section 5, Exemple 2.
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
39 / 56
Somme de v.a. indépendantes
Théorème
Soient X1 , X2 : Ω → N deux v.a. indépendantes.
On pose S = X1 + X2 . Alors S est une v.a. dans N, de loi
P(S = s) =
X
P(X1 = j) P(X2 = s − j).
j≤s
Démonstration: On a

P(S = s) = P (X1 + X2 = s) = P 

[
((X1 = j) ∩ (X2 = s − j))
j≤s
=
X
P (X1 = j, X2 = s − j)
j≤s
=
X
P(X1 = j) P(X2 = s − j) (Indépendance)
j≤s
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
40 / 56
Sommes de v.a. de Bernoulli
Proposition
Soit {Xi ; 1 ≤ i ≤ n} v.a. indépendantes, de loi B(p).
P
On pose Sn = ni=1 Xi . Alors S ∼ Bin(n, p)
Démonstration: par récurrence. Supposons que
!
P(Sn−1
n−1 k
= k) =
p (1 − p)n−1−k ,
k
0 ≤ k ≤ n − 1.
On utilise la décomposition
Sn = Sn−1 + Xn ,
Samy T. (IECL)
avec Sn−1 ⊥⊥ Xn
TN - V.a. discrètes
Module MAP
41 / 56
Démonstration
Calcul: Pour 1 ≤ k ≤ n − 1,
P(Sn = k) = P (Sn−1 + Xn ) =
k
X
P (Sn−1 = j) P (Xn = k − j)
j=0
= P (Xn = 0) P (Sn−1 = k) + P (Xn = 1) P (Sn−1 = k − 1)
!
!
n−1 k
n − 1 k−1
= (1 − p)
p (1 − p)n−1−k + p
p
(1 − p)n−k
k
k −1
!
n k
=
p (1 − p)n−k
k
Pour k = 0 et n: même type de raisonnement.
L’hypothèse de récurrence est vérifiée pour n = 1 (car S1 ∼ B(p))
,→ Proposition démontrée.
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
42 / 56
Somme de v.a. de Poisson
Proposition
Soient X1 , X2 deux v.a. indépendantes.
On suppose X1 ∼ P(λ1 ) et X2 ∼ P(λ2 ).
Soit X = X1 + X2 . Alors X ∼ P(λ) avec λ = λ1 + λ2 .
Exemple type d’application:
Soit un arrêt où passent les bus 156 et 354. On pose
X1 := Nombre de 156 passés en 20 mn
X2 := Nombre de 354 passés en 20 mn
X := Nombre de bus passés en 20 mn
Sous les hypothèses de la proposition
on a X ∼ P(λ) avec λ = λ1 + λ2 .
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
43 / 56
Indépendance et espérance
Proposition
Soient d v.a. indépendantes X1 , . . . , Xd : Ω → E .
Soient d fonctions f1 , . . . , fd : E → R. Alors
(1) On a
"
#
E
d
Y
fi (Xi ) =
i=1
d
Y
E [fi (Xi )]
i=1
(2) Corrollaire: on a aussi
Var
d
X
i=1
!
Xi
=
d
X
Var (Xi )
i=1
Remarque:
Le point (1) estR un analogue Rprobabiliste de:
R
R2 ϕ1 (x1 ) ϕ2 (x2 ) dx1 dx2 = R ϕ1 (x1 ) dx1 R ϕ2 (x2 ) dx2
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
44 / 56
Démonstration
Démonstration du point (2): posons mi = E[Xi ]. Alors
Var
d
X

!
Xi
(Xi − mi )
= E
i=1
=

d
X
E  (Xi
d
X

− mi )2 +
h
d
X
i
E (Xi − mi )2 +
d
X
(Xi − mi ) (Xj − mj )
X
E [(Xi − mi ) (Xj − mj )]
i6=j
Var (Xi ) +
i=1
=
X
i6=j
i=1
=

i=1
i=1
=
!2 
d
X
X
E [(Xi − mi )] E [(Xj − mj )]
i6=j
Var (Xi ) .
i=1
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
45 / 56
Application
Espérance et variance de la binomiale: Soit X ∼ Bin(n, p). On
retrouve
E[X ] = n p, Var(X ) = n p (1 − p).
En effet, on utilise la décomposition X = ni=1 Xi ,
avec {Xi ; 1 ≤ i ≤ n} v.a. i.i.d, de loi B(p).
Alors


P
n
X
E[X ] = E 
Xj  =
j=1
n
X
E[Xj ] =
j=1
n
X
p = np
j=1
De même (Indépendance des Xi )
Var(X ) = Var
n
X
i=1
Samy T. (IECL)
!
Xi
=
n
X
Var (Xi ) =
i=1
TN - V.a. discrètes
n
X
p (1 − p) = n p (1 − p)
j=1
Module MAP
46 / 56
Plan
1
Définitions
2
Variables aléatoires discrètes usuelles
3
Moments des variables aléatoires
4
Vecteurs aléatoires discrets
5
Indépendance
6
Dépendance linéaire
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
47 / 56
Covariance
Définition
Soient X1 , X2 : Ω → E , de loi conjointe P.
On note E = {xi ; i ≥ 1} et E[Xl ] = ml
La covariance de X1 et X2 est définie par
Cov(X1 , X2 ) = E [(X1 − m1 ) (X2 − m2 )]
X
(xi − m1 ) (xj − m2 ) P(X1 = xi , X2 = xj )
=
i,j≥1
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
48 / 56
Covariance (2)
Proposition
Expression alternative pour la covariance:
Cov(X1 , X2 ) = E [X1 X2 ] − m1 m2
X
=
xi xj P(X1 = xi , X2 = xj ) − m1 m2
i,j≥1
Démonstration: comme pour la variance.
Remarque: Si X1 ⊥⊥ X2 , on a Cov(X1 , X2 ) = 0.
En effet:
E [(X1 − m1 ) (X2 − m2 )] = E [X1 − m1 ] E [X2 − m2 ] = 0.
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
49 / 56
Corrélation
Définition
Soient X1 , X2 : Ω → E , de loi conjointe P.
On note σX1 et σX2 les écarts-type de X1 et X2 .
Le coefficient de corrélation de X1 et X2 est défini par
ρX1 ,X2 =
Cov(X1 , X2 )
Cov(X1 , X2 )
=q
σX1 σX2
Var(X1 ) Var(X2 )
Interprétation: on a toujours −1 ≤ ρX1 ,X2 ≤ 1 et
Si ρX1 ,X2 ' 1: dép. linéaire positive forte entre X1 et X2
Si ρX1 ,X2 ' −1: dép. linéaire négative forte entre X1 et X2
Si ρX1 ,X2 ' 0: indépendance linéaire entre X1 et X2
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
50 / 56
Exemple 1 (1)
Expérience: lancer de 3 pièces non biaisées.
,→ Ω = {p, f }3 , P({ω}) = 18
Vecteur aléatoire: on pose X (ω) = (X1 (ω), X2 (ω)) avec
X1 (ω) = 1A (ω) et
A = "On obtient au plus une fois pile"
X2 (ω) = 1B (ω) et
B = "On obtient au moins une fois pile et au moins une fois face"
On a vu:
X1 \X2
0
1 Marg. X1
0
1/8 3/8
1/2
1
1/8 3/8
1/2
Marg. X2 1/4 3/4
1
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
51 / 56
Exemple 1 (2)
Calcul: On a
3
3
1
× 0 × 0 + ··· + × 1 × 1 =
8
8
8
3 1 3
Cov(X1 , X2 ) = E [X1 X2 ] − E [X1 ] E [X2 ] = − × = 0
8 2 4
E[X1 X2 ] =
Donc ρX1 ,X2 = 0.
Remarque: ce résultat était prévisible, puisque X1 ⊥⊥ X2 .
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
52 / 56
Exemple 2 (1)
Expérience: lancer de 3 pièces non biaisées.
,→ Ω = {p, f }3 , P({ω}) = 18
Vecteur aléatoire: on pose Y = (Y1 , Y2 ) avec
Y1 = Nombre de face obtenu
Y2 = Nombre de pile obtenu
Loi de Y :
Y1 \Y2
0
1
2
3 Marg. Y1
0
0
0
0 1/8
1/8
1
0
0 3/8 0
3/8
2
0 3/8 0
0
3/8
3
1/8 0
0
0
1/8
Marg. Y2 1/8 3/8 3/8 1/8
1
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
53 / 56
Exemple 2 (2)
Calcul: On a Y1 , Y2 ∼ Bin(3, 1/2). Donc:
3
E[Y1 ] = E[Y2 ] = ,
2
Var(Y1 ) = Var(Y2 ) =
3
4
De plus:
E[Y1 Y2 ] =
3
3
3
×1×2+ ×2×1=
8
8
2
Cov(Y1 , Y2 ) = E [Y1 Y2 ] − E [Y1 ] E [Y2 ] =
Donc
ρY1 ,Y2 = − q
3/4
3/4 × 3/4
3
3 3 3
− × =−
2 2 2
4
= −1.
Remarque: ce résultat était prévisible, puisque Y2 = 3 − Y1 .
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
54 / 56
Exemple 3 (1)
Expérience:
On tire deux boules parmi 3, Rouge, Noire, Verte, avec remise.
,→ Ω = {R, N, V }2 , P({ω}) = 19
Vecteur aléatoire: on pose Z = (Z1 , Z2 ) avec
Z1 = Nombre de rouge obtenu
Z2 = Nombre de noir obtenu
Loi de Z :
Samy T. (IECL)
Y1 \Y2
0
1
2
Marg. Z2
0
1
2
1/9 2/9 1/9
2/9 2/9 0
1/9 0
0
4/9 4/9 1/9
TN - V.a. discrètes
Marg. Z1
4/9
4/9
1/9
1
Module MAP
55 / 56
Exemple 2 (2)
Calcul: Z1 et Z2 ont même loi, et
2
E[Z1 ] = ,
3
8
E[Z12 ] = ,
9
σZ1 =
2
3
De plus:
E[Z1 Z2 ] =
2
2
×1×1=
9
9
Cov(Z1 , Z2 ) = E [Z1 Z2 ] − E [Z1 ] E [Z2 ] =
Donc
ρZ1 ,Z2 = −
2 4
2
− =−
9 9
9
1
2/9
=− .
2/3 × 2/3
2
Remarque:
On s’attendait bien à une dépendance linéaire négative entre Z1 et
Z2 , mais elle est modérée car il manque l’information sur V .
Samy T. (IECL)
TN - V.a. discrètes
Module MAP
56 / 56