NOTIONS ELEMENTAIRES DE STATISTIQUE PROBABILISTE

Chapitre 1
NOTIONS ELEMENTAIRES
DE STATISTIQUE
PROBABILISTE
Les statistiques sont une modélisation de la part aléatoire des phénomènes.
Dans le cadre de ce cours, cet aléatoire concerne la variabilité des mesures quantitatives qui peuvent être entreprise en chimie ou en chimie-physique. Les bases
mathématiques de cette modélisation sont les probabilités. Ici, on se contentera de définitions proposées par l’ISO 3534[8]. Ce cours transcrira souvent des
normes éditées dans les séries ISO, en particulier [8], [9] et [10].
1.1
1.1.1
Défintions
Définition déterministe de la probabilité
Lors de la réalisation d’un événement A dont le nombre d’issues favorables
peut être calculé au moyen de l’analyse combinatoire (compte tenu de l’hypothèse d’équiprobabilité des issues), on définit la probabilité P (A) de cet événement par le rapport du nombre d’issues favorables (nA ) au nombre d’issues
possibles (n) :
nA
(1.1)
n
C’est la définition classique que l’on utilise pour évaluer les issues d’un jeu
de hasard depuis les travaux de B. Pascal au sujet des problèmes du Chevalier
de Méré [3] et développés par Huigens [7] et Bernouilli [1].
Exemple : La probabilité pour obtenir "pile" après un lancé d’une pièce
parfaitement symétrique est de 0,5.
P (A) =
1.1.2
Définition empirique de la probabilité
Si après un grand nombre de réalisations d’une expérience (n réalisations)
on observe nA fois l’issue souhaitée, la probabilité de cet événement est la limite
de la fréquence des observations de l’issue souhaitée :
1
2CHAPITRE 1. NOTIONS ELEMENTAIRES DE STATISTIQUE PROBABILISTE
P (A) = lim
n→∞
nA
n
(1.2)
En réalité, la fréquence observée en fonction de n oscille autour de sa valeur
théorique et s’en rapproche indéfiniment lorsque lim conformément à la "loi
n→∞
des grands nombres" [1, 13].
1.1.3
Variables aléatoires
Considérons un événement comportant un certain nombre d’issues. Si on
associe un nombre à chaque issue, ou à chaque ensemble d’issues, ce nombre est
appelé variable aléatoire ou aléa numérique. On la note par une lettre majuscule
X, par contre les valeurs particulières de la variable aléatoire sont notées par
une minuscule x. On additionne parfois un indice pour faire référence à une
réalisation particulière au sein d’une série de réalisation d’une même variable
aléatoire xi .
Exemple : jeu de pile ou face : Les issues du jeu sont pile ou face. On peut
associer à pile X = 1 et à face X = -1 ou encore 0 et 1 ou tout autre nombre.
X est alors une variable aléatoire.
Exemple détaillé :
Expérience aléatoire : lancer deux dés, un rouge et un bleu.
Evénements : le dé rouge fait 2 et le dé bleu fait 3
Variables aléatoires : X la valeur obtenue au tirage du dé rouge,
Y celle obtenue pour le dé bleu,
Z =X +Y,
T qui vaut 1 si X = Y et 0 sinon.
Remarquons que les événement {“On tire un double”} et {T = 1} sont
identiques.
1.1.4
Continuité et discontinuité d’une variable aléatoire,
notion de densité de probabilité
Variable discontinue ou discrète : C’est une variable qui ne peut prendre que
des valeurs isolées séparées par un intervalle fini, c’est-à-dire non infinitésimal.
Elle est généralement représentée par un entier. On peut associer une probabilité
à chaque valeur possible d’une variable aléatoire discrète.
Variable continue : C’est une variable qui peut prendre toutes les valeurs
d’un intervalle fini ou infini. Cela signifie que la différence entre deux valeurs
voisines peut être aussi petite que l’on peut l’imaginer. C’est un nombre réel.
On ne peut pas associer une probabilité à une valeur particulière d’une variable aléatoire continue. La probabilité pour que X prenne une valeur particulière x dans R (l’ensemble des nombres réels) est toujours nulle. Par contre on
peut associer à x une densité de probabilité f (x) et on peut associer à un intervalle [x, x + δx] une probabilité non nulle (figure 1.1). La densité de probabilité
est définie de la même manière que la densité d’un milieu continu [11, 12].
Si l’intervalle est assez petit pour qu’on puisse y considérer f (x) comme
constant :
P (X ∈ [x, x + δx]) = f (x)δx
(1.3)
1.1. DÉFINTIONS
3
Figure 1.1 – Seule l’aire sous la courbe représentative d’une distribution d’une
fonction de probabilité est, en pratique, une probabilité.
4CHAPITRE 1. NOTIONS ELEMENTAIRES DE STATISTIQUE PROBABILISTE
On constate bien que cette probabilité tend vers 0 lorsque δx tend vers 0.
Remarque : Une probabilité est une grandeur sans dimensions. En revanche, la densité de probabilité a une dimension : c’est l’inverse de la dimension
de la variable aléatoire concernée. Par exemple, si la variable aléatoire est une
mesure de distance exprimée en mètres, alors la densité de probabilité de cette
variable aléatoire s’exprime en mètres−1 .
Exemple : On s’intéresse à la taille des personnes d’un certain âge. Si la
taille est considérée comme une variable aléatoire continue, donc un nombre réel
(un nombre réel est un nombre infiniment précis), rien n’empêche d’examiner la
probabilité pour rencontrer un individu de taille 1,7500 m ou même 1,7543 m. La
probabilité de rencontrer dans la population une valeur numérique aussi précise
est nulle. Il est d’ailleurs impossible de mesurer la taille d’une personne avec une
telle précision. Par contre il existe un certain nombre d’individus ayant une taille
comprise entre 1,75 et 1,76 m si l’échantillon est suffisamment grand. L’opération
qui consiste à définir des classes correspondant à des intervalles de valeur que
peut prendre une variable aléatoire est appelée discrétisation. Usuellement, ces
classes sont ne se recouvrent pas les unes les autres mais couvrent en revanche
la totalité du domaine de définition de la variable aléatoire.
1.2
1.2.1
Généralités sur les lois de probabilités
Définition
Une loi de probabilité est une relation permettant d’associer une probabilité
ou une densité de probabilité à chaque valeur d’une variable aléatoire.
Pour une variable aléatoire discrète, c’est la donnée de la probabilité que
soient prises chacunes des valeurs de la variable aléatoire.
Exemple détaillé : En reprenant l’exemple précédent, la loi de X est
1
6
de même pour Y . Pour Z
P (X = 1) =
P (X = 2) =
1
2
P (Z = 3) =
36
36
Enfin, la loi de T est
P (Z = 2) =
...
1
6
...
P (Z = 7) =
P (X = 6) =
6
36
...
1
6
P (Z = 12) =
1
36
1
5
P (T = 1) =
6
6
Pour une variable aléatoire continue, on ne peut pas procéder de cette manière, puisque dans ce cas P (X = x0 ) = 0 pour tout x0 . On pourrait considérer
que la loi d’une variable aléatoire continue est la donnée de P (X ∈ [a, b]) pour
tout a et pour tout b. Mais c’est assez lourd et nous allons voir dans un instant
que ça revient à donner la fonction de répartition de la variable aléatoire.
P (T = 0) =
1.2.2
Représentation d’une loi de probabilité
Si la variable est discrète : représentation comme un diagramme en bâtons
(figure 1.2).
Pour une variable continue on représente la fonction densité de probabilité
(voir 1.1)
1.2. GÉNÉRALITÉS SUR LES LOIS DE PROBABILITÉS
5
Figure 1.2 – Représentation en bâton d’une distribution de probabilité discrète.
6CHAPITRE 1. NOTIONS ELEMENTAIRES DE STATISTIQUE PROBABILISTE
1.2.3
Fonction de répartition d’une loi de probabilité
La fonction cumulative de distribution, ou fonction de distribution F ou
fonction de répartition F est définie par :
FX (x) = P (X ≤ x)
(1.4)
Cette notion, ainsi que celle de densité de probabilité a vraisemblablement
été énoncée dans leur sens moderne pour la première fois par C. F. Gauss en
1809 [5].
Remarquons que les variables aléatoires continues ont en général une fonction
de répartition dérivable. Leur densité fX est alors la dérivée de leur fonction de
répartition :
0
fX = FX
Et donc, la fonction de répartition est la primitive de la densité qui vaut 0 en
−∞
Z x
FX (x) =
fX (t)dt
−∞
Par ailleurs, remarquons que pour tout a et b
P (X ∈]a, b]) = FX (b) − FX (a)
Ainsi la donnée de la fonction de répartition équivaut à la donnée de la loi. En
pratique, on préférera donner la densité.
1.2.4
Représentation graphique de la fonction de répartition
La courbe est encore appelée Courbe des Probabilités Cumulées. Dans le cas
d’une loi continue, F (x) représente la surface délimitée par la courbe représentation de la loi entre −∞ et l’abscisse x. Ces courbes sont continues dans le cas
de variables aléatoires continues et sont discontinues dans le cas de variables
aléatoirs discrètes.
Remarque : une fonction de répartition est toujours croissante et continue
à droite.
1.2.5
Fractile d’ordre α : tα
Dans le cas d’une loi continue le fractile tα est l’abscisse x telle que la surface
délimitée par la loi de probabilité entre −∞ et tα soit égale à α. Les fonctions
F (t) et tα sont des fonctions réciproques l’une de l’autre.
Si t(α) est le fractile d’ordre α on a les relations :
P (X < tα ) = α
(1.5)
P (X ≥ tα ) = 1 − α
(1.6)
F (tα ) = α
(1.7)
On s’intéresse également au fractile t1−α qui joue le même rôle que tα ) pour
les grandes valeurs de l’absice x (figure 1.5). On démontre que :
1.2. GÉNÉRALITÉS SUR LES LOIS DE PROBABILITÉS
7
Figure 1.3 – Fonction cumulative ou fonction de répartition d’une loi de probabilité continue.
8CHAPITRE 1. NOTIONS ELEMENTAIRES DE STATISTIQUE PROBABILISTE
Figure 1.4 – Fonction cumulative ou fonction de répartition d’une loi de probabilité discrète.
1.3. PARAMÈTRES STATISTIQUES DES VARIABLES ALÉATOIRES
9
Figure 1.5 – Exemples de factiles « inférieur »et « supérieur »d’une loi statistique.
P (X ≥ t1−α ) = α
(1.8)
P (X < t1−α ) = 1 − α
(1.9)
F (t1−α ) = α
(1.10)
Si la loi statistique est symétrique et centrée on a la relation tα = −t1−α .
Les fractiles symétriques sont utilisé pour délimiter chacun une surface extérieure de α2 . La surface totale intérieure à l’intervalle interfractile étant 1 − α.
Seul le fractile positif est donné, la borne inférieur s’en déduisant au signe près.
Remarques :
— Les fractiles des lois de probabilités ont une importance considérable dans
les tests statistiques.
— Des fractiles ne peuvent être définis que pour des variables aléatoires
continues, discrètes ou ordonnées.
1.3
1.3.1
Paramètres statistiques des variables aléatoires
Espérance mathématique
Definition 1. L’espérance mathématique est un paramètre de position (ou paramètre de tendance centrale) défini par les relations :
PN
— Variable discrète : E(X) = R i=1 xi P (X = xi )
— Variable continue : E(X) = U xf (x)dx
Où les xi sont les issues possibles de la variable aléatoire discrète X et U est le
domaine défini par les issus possibles de la variable aléatoire X quand celle-ci
est continue. Notez l’utilisation dans ce cas de la densité de probabilité f (x).
10CHAPITRE 1. NOTIONS ELEMENTAIRES DE STATISTIQUE PROBABILISTE
Figure 1.6 – Exemple de factiles symétrique d’une loi statistique, forcément
symétrique.
L’espérance mathématique s’apparrente donc à une somme des issues possibles de la variable aléatoire pondérée par les porbabilités leurs réalisations
respectives. Cette idée est énoncée dès la naissance des probabilités : le concept
est ainsi déjà énoncé par Huygens en 1657 [7].
Exemple détaillé : Pour le dé à 6 faces,
E(X) = 1.P (X = 1) + 2.P (X = 2) + · · · + 6.P (X = 6) =
1 + 2 + ... + 6
7
=
6
2
Quelques propriétés de l’espérance mathématique
Si α est un nombre,
E(α) = α
(1.11)
Remarque : La dimension de l’espérance mathématique d’une variable aléatoire est la même que celle de cette variable aléatoire.
Si X et Y sont deux variables aléatoire et α et β sont deux nombres :
E(αX + βY ) = αE(X) + βE(Y )
(1.12)
Si X et Y sont deux variables aléatoire indépendantes :
E(XY ) = E(X)E(Y )
(1.13)
On appel variable aléatoire centrée, la variable aléatoire Z construite à
partir de la variable aléatoire X selon la relation :
Z = X − E(X)
L’espérance mathématique de X est donc nulle.
(1.14)
1.3. PARAMÈTRES STATISTIQUES DES VARIABLES ALÉATOIRES
1.3.2
11
Variance et écart-type
Definition 2. La variance est l’espérance du carré de la variable centrée :
V (X) = E((X − E(X))2 ).
PN
— Variable discrète : V (X) = R i=1 (xi − E(X))2 P (X = xi )
— Variable continue : V (X) = U (x − E(X))2 f (x)dx
p
Definition 3. L’écart-type est la racine carrée de la variance : σ(X) = V (X).
La variance et l’écart-type sont des paramètres de dispersion.
Remarque : La dimension de la variance d’une variable aléatoire est le
carré de celle de cette variable aléatoire ; celle de l’écart-type est la même que
celle de la variable aléatoire.
Quelques propriétés de l’espérance mathématique
Si X est une variable aléatoire et α est un nombre :
V (αX) = α2 V (X)
(1.15)
Si X et Y sont deux variables aléatoires :
V (X + Y ) = V (X) + V (Y )
(1.16)
V (X − Y ) = V (X) + V (Y )
(1.17)
Ces propriétés ne s’appliquent pas aux écart-types.
On appel variable aléatoire centré réduite, la variable aléatoire Z défini
par rapport à la variable aléatoire X selon la relation suivante :
Z=
X − E(X)
σ(X)
(1.18)
La variable aléatoire admet une espérance nulle et une variance de 1. Elle
aussi appelée variable normalisée.
Propriété : V X = E(X 2 ) − (EX)2
Démonstration : EX est un nombre qu’on note m et qu’on identifie à la
variable aléatoire constante qui vaut m, notée m aussi.
V X = E((X−m)2 ) = E(X 2 −2mX+m2 ) = E(X 2 )−2mEX+m2 = E(X 2 )−m2
1.3.3
Moments d’ordre supérieur et cumulants
Definition 4. On appelle moment d’ordre n la grandeur :
Mn = E(X n )
(1.19)
Le moment centré d’ordre n est le moment d’ordre n de la variable centrée :
µn = E((X − E(X))n )
(1.20)
12CHAPITRE 1. NOTIONS ELEMENTAIRES DE STATISTIQUE PROBABILISTE
On a donc M1 = E(X) , µ1 = 0 et µ2 = V (X).
Les moments sont particulièrement importants car ils sont liés à la transformée de Fourier de leur distrbution de probabilité. En effet, on définis un fonction
génératrice des moments par la relation suivante :
GX (k) = E(eikX )
(1.21)
Pour une variable continue prenant ses valeurs dans un domaine U :
Z
GX (k) =
e( ikx)fX (x)dx
(1.22)
U
Ainsi, GX (k) apparaît comme la transformée de Fourier de la densité de
probablité fX (x) de la variable aléatoire X 1 .
Pour une variable discrète
GX (k) =
N
X
eikxi P (X = xi )
(1.23)
i=1
Dans ce cas, la fonction GX (k) est évidemment périodique.
Ces fonction GX (k) sont des génératrice de moments parce que leur développement analytique fait apparaître chaque moment individuellement :
GX (k) =
∞
X
(ik)n
Mn
n!
n=1
(1.24)
Ainsi, la connaissance de tous les moments d’une distribution implique que
l’on peut reconstruire la fonction génératrice des moments, puis par transformée
de Fourier inverse, avoir une connaissance exacte de la distribution de probabilité. A l’inverse, la connaissance exacte de la distribution de probabilité, via le
calcul du terme n du développement analytique de la fonction génératrice des
moments, permet d’avoir accès au moment d’orde n.
Si on considère le développement analytique du logarithme de la fonction
GX (k), on obtient les cumulants de la distribution :
log(GX (k)) =
∞
X
(ik)n
Kn
n!
n=1
(1.25)
Les cumulants sont des combinaisons des moments, par exemple :
K1 = M1 = E(X)
K2 = M2 −
M12
= V (X)
K3 = M3 − 3M2 M1 +
K4 = M4 − 4M3 M1 −
Kn = Mn −
n−1
X
(1.26)
2M12
3M22
(1.27)
(1.28)
+
l−1
Cn−1
Kl Mn−l
12M2 M12
−
6M14
(1.29)
(1.30)
l=1
1. Plus exactement, il s’agit de la transformée de Fourier d’un prolongement analytique de
la densité de probabilité.
1.3. PARAMÈTRES STATISTIQUES DES VARIABLES ALÉATOIRES
13
bien entendu la relation de récurrence permet de trouver les moments en
fonction des cumulants :
Mn = Kn +
n−1
X
l−1
Cn−1
Kl Mn−l
(1.31)
l=1
Les cumulants sont étroitements liés aux moments et inversement. L’intérêt
de calculer avec des cumulants est que la fonction génératrice des cumulants est
souvent plus simple à manipuler.
Ces notions ont été développées par le marquis de Laplace au début du
XIXème siècle [11, 12].
1.3.4
Kurtosis et coefficient d’aplatissement
Il est fréquemment affirmé que tous les moments centrés d’ordre impair (>1)
donnent une indication sur la dissymétrie de la loi de probabilité et les moments
d’ordre pair (>2) sur l’aplatissement de cette loi. Ceci vient de comparaisons
à la loi normale centré réduite qui joue un rôle prépondérant en probabilité et
statistique.
En effet, pour la loi normmale centrée, tous les moments d’ordre pair sont
des puissances du moment d’ordre 2 et tous les moments d’ordre impair sont
nuls. En somme, pour une distribution normale quelconque, la connaissance de
la moyenne et de la variance sont suffisant pour la déterminer complètement.
Pour une distribution dont empiriquement, on pense qu’elle ressemble à une
loi normale, il sera donc pertinent de calculer les moments d’ordre 3 et 4 pour
affiner la comparaison à la loi normale.
Definition 5. On appelle coefficient d’assumétrie la quantité
3 !
K3
µ3
X − E(X)
= 3/2 = 3/2
γ=E
σ(X)
µ
K
2
(1.32)
2
On note que pour une distibution normale, gamma = 0 nécessairement,
car la distribution est centrée. Le coefficient d’asymétrie est une grandeur sans
dimension, sa valeur donne une idée de l’importance de la dissymétrie et son
signe montre si la dissymétrie provient de valeurs élevées de X (dissymétrie à
droite ) ou des valeurs petites de X (dissymétrie à gauche).
Definition 6. On appelle Kurtosis la quantité
β=E
X − E(X)
σ(X)
4 !
=
µ4
µ22
(1.33)
On note que la Kurtosis pour une loi normale est donc nécessairement beta =
3. Comme généralement on préfère généralement avoir des quantités relatives à
la valeur zéro, on introduit une Kurtosis normalisée.
Definition 7. On appelle Kurtosis normalisée la quantité
4 !
X − E(X)
K4
β=E
−3= 2
σ(X)
K2
(1.34)
14CHAPITRE 1. NOTIONS ELEMENTAIRES DE STATISTIQUE PROBABILISTE
C’est souvent la Kurtosis normalisée qui est en pratique calculée par les
logiciels de statistique. Dans ce cas, β > 0 (respectivement β < 0) indique une
distribution dont les queues sont plus épaisses (respectivement moins épaisses)
comparées à une distribution normale, toutes choses égales par ailleurs.
1.3.5
Autres paramètres de position
Definition 8. Le mode est la réalisation possible x de la variable aléatiore X
dont la probabilité est maximale.
Cette valeur peut ne pas être unique. Une distribution unimodale est une
distribution n’ayant qu’un seul mode, sinon elle est bimodale, trimodale ou
multimodale.
Definition 9. La médiane Med est la réalisation possible x de la variable aléatoire X pour laquelle P (X < x) = P (X ≥ x).
Pour une distribution continue c’est la valeur qui sépare la courbe de densité
de probabilité en deux portions de surface égale. La médiane est le fractile
d’ordre t 21 .
1.4
1.4.1
Etude de quelques lois de probabilités discrètes
La loi de Bernouilli
Le loi de Bernouilli [1] décrit un jeu comportant deux issues :
— une issue favorable S, à laquelle on associe la valeur 1, avec la probabilité
p;
— une issue défavorable S̄, à laquelle on associe la valeur 0, avec la probabilité q = 1 − p.
Le diagramme en bâton de la distribution ne contient donc que deux barres.
Les paramètres de positions de la distribution peuvent être résumés ainsi :
E(X) = p
(1.35)
V (X) = pq
√
σ(X) = pq
(1.36)
(1.37)
M3 (X) = p
(1.38)
κ3 (X) = pq(q − p)
(1.39)
µ3 (X) = κ3 (X) = pq(q − p)
(1.40)
M4 (X) = p
(1.41)
κ4 (X) = pq(1 − 6pq)
µ4 (X) = κ4 (X) +
p−q
β(X) = √
pq
1 − 6pq
γ(X) =
pq
3κ22 (X)
(1.42)
= pq(1 − 3pq)
(1.43)
(1.44)
(1.45)
1.4. ETUDE DE QUELQUES LOIS DE PROBABILITÉS DISCRÈTES
1.4.2
15
La loi Binomiale
La loi Binomiale [2] est la somme de n processus de Bernouilli de paramètre
p. En d’autre termes il s’agit de compter le nombre de succès, chacun ayant une
probabilité p d’être réalisé, à la suite de n essais indépendants et indiscernables.
Si les essais sont représentés par une chaîne de bits, les succès sont les bits
allumés et les non-succès sont les bits éteints. La position des bits allumés n’est
pas importante : toutes les permutations des bits donnent correspondent au
même nombre de succès et donc à la même réalisation de la variable aléatoire
qui représente leur compte.
La distribution est calculée en utilisant la formule 1.46.
n x
P (X = x) =
p (1 − p)n−x
(1.46)
x
Paramètres statistiques
E(X) = np
(1.47)
V (X) = np(1 − p)
p
σ(X) = np(1 − p)
(1.48)
3 3
(1.49)
2 3
2 2
3
2
M3 (X) = n p − 3n p + 3n p + 2np − 3np + np
3
1 − 2p
κ3 (X) = p
(np(1 − p)) 2
np(1 − p)
µ3 (X) = κ3 (X) = pq(q − p)
M4 (X) = p
(1.51)
(1.52)
(1.53)
κ4 (X) = pq(1 − 6pq)
µ4 (X) = κ4 (X) +
p−q
β(X) = √
pq
1 − 6pq
γ(X) =
pq
(1.50)
3κ22 (X)
(1.54)
= pq(1 − 3pq)
(1.55)
(1.56)
(1.57)
Moyenne : np
Mediane : bnpc si p ≤ 1p
− ln(2) ou si ln(2) ≤ p.
Déviation Standard : np(1 − p).
Coefficient d’applatissement : √ 1−2p si p 6= 0 et p 6= 1.
np(1−p)
1
Kurtosis : 3 − n6 + np(1−p)
On représente la loi binomiale à l’aide d’un diagramme en bâtons. Le diagramme est symétrique lorsque p = q = 0, 5 (Figure 1.7a). Dans ce cas la
médiane, le mode et l’espérance sont égaux. Lorsque p augmente et q diminue
la dissymétrie augmente : la médiane et le mode deviennent sont plus petits que
l’espérance (Figure 1.7b). Enfin, lorsque n est grand et p petit, les valeurs de
P (X = x) diminuent très vite à partir d’une certaine valeur de x. En pratique,
pour ce type de distribution, il n’y a souvent qu’une vingtaine de valeurs dont
la probabilité n’est pas négligeable.
16CHAPITRE 1. NOTIONS ELEMENTAIRES DE STATISTIQUE PROBABILISTE
Figure 1.7 – Diagramme en bâton de distributions binomiales. Les paramètres
sont (a) n=10, p=0,5 et (b) n=10, p=0,3.
1.4. ETUDE DE QUELQUES LOIS DE PROBABILITÉS DISCRÈTES
1.4.3
17
La loi de Poisson
On obtient la loi de Poisson [14] à partir de la loi binomiale lorsque n est très
grand et p très petit, le produit m = np n’étant pas très grand (1 ≤ np ≤ 20).
Par exemple une loi Binomiale de paramètres p = 0,05 et n = 100 est très
bien approximée par une loi de Poisson. Techniquement la distribution d’une
loi de Poisson est donnée par l’équation 1.58. Elle n’est paramétrée que par une
quantité, noté m et qui représente la valeur moyenne de la distribution. D’autre
part, contrairement à la loi Binomiale, son support n’admet pas de majorant.
Pour toute valeur de x entière positive ou nul, on peut calculer une probabilité.
Cette loi modélise très bien les situations où l’on compte des évènements rares
dans une population quasiment infini. Par exemple, le nombre de désintégrations
radioactives par unité de temps, dans un échantillon suit une loi de Poisson. La
probabilité de désintégration d’un atome par seconde est très faible, mais il faut
intégrer celle-ci sur la taille d’un échantillon comprenant un nombre d’atomes
de l’ordre d’une mole. Un autre exemple est le nombre d’objets défectueux issus
d’une chaîne de fabriquation. Un dernier exemple, est le nombre de réponses à
une attaque de phishing par courriel.
P (X = x) =
mx −m
e
x!
(1.58)
Paramètres statistiques
E(X) = m
(1.59)
V (X) = m
√
σ(X) = m
(1.60)
(1.61)
2
3
M3 (X) = m + 3m + m
(1.62)
κ3 (X) = m
(1.63)
µ3 (X) = m
(1.64)
2
3
M4 (X) = m + 7 ∗ m + 6 ∗ m + m
4
(1.65)
κ4 (X) = m
(1.66)
µ4 (X) = (3 ∗ m + 1) ∗ m
1
β(X) = √
m
1
γ(X) = 3 +
m
(1.67)
(1.68)
(1.69)
Moyenne : m
Mediane : bm + 13 − 0.02
√∗ mc.
Déviation Standard : m.
Coefficient d’applatissement : √1m .
1
Kurtosis : 3 − m
Le diagramme est toujours dissymétrique vers les valeurs élevées de x ; la
médiane et le mode sont inférieurs à la moyenne (Figure 1.8). Pour les grandes
valeurs de n, β tend vers 0 et γ tend vers 3, et la loi se rapproche d’une loi de
Normale.
18CHAPITRE 1. NOTIONS ELEMENTAIRES DE STATISTIQUE PROBABILISTE
Figure 1.8 – Diagramme en bâton d’un distribution de Poisson de paramètre
m = 3.
1.5
1.5.1
Etude de quelques lois de probabilités continues utiles pour l’interprétation de données
expérimentales
Loi de Gauss ou loi Normale
Cette loi est fréquemment appelée loi Normale [2, 5]. Sa densité, donnée
par l’équation 1.70, est une fonction continue dépendant des deux paramètres
µ et σ, la moyenne et l’écart-type respectivement. Le cas particulier où µ = 0
et σ = 1 est désigné comme étant une loi Normale Centrée Réduite. Il est
toujours possible de ramener une variable aléatoire X suivant une loi Normale
quelconque à une variable aléatoire Z suivant loi Normale Centrée Réduite par
un changement de variable (équation 1.71). La densité de la loi Normale Centrée
Réduite est donnée par l’équation 1.72.
Remarque : Ainsi la fonction de répartition de la loi normale centrée réduite
est
Z x
1 −t2
√ e 2 dt
Φ(x) =
2π
−∞
Cette fonction est bien définie, mais elle ne peut pas être exprimée comme
composée de fonction classiques. Pour calculer une valeur de Φ, on se reportera
à une table statistique ou à une calculatrice. Le changement de variable pour
calculer les valeurs prises par la fonction de répartition d’une Gaussienne de
paramètres m et σ est
x−m
)
F (x) = Φ(
σ
g(x) =
−(x−m)2
1
√ e 2σ2
σ 2π
(1.70)
1.5. ETUDE DE QUELQUES LOIS DE PROBABILITÉS CONTINUES UTILES POUR L’INTERPRÉTATION D
Z=
X −µ
σ
(1.71)
1 −x2
g1 (x) = √ e 2
2π
(1.72)
Beaucoup de mesures physiques se distribuent suivant une loi Normale. Il
existe des tests statistiques permettant de prouver le caractère normal d’un
ensemble de mesures et la normalité d’une distribution expérimentale est souvent une condition nécessaire pour l’application des tests statistiques sur les
moyennes ou sur les variances.
Paramètres statistiques
E(X) = µ
V (X) = σ
(1.73)
2
(1.74)
σ(X) = σ
(1.75)
2
3
M3 (X) = 3 ∗ σ ∗ µ + µ
(1.76)
κ3 (X) = 0
(1.77)
µ3 (X) = 0
(1.78)
4
2
2
4
M4 (X) = 3 ∗ σ + 6 ∗ σ ∗ µ + µ
κ4 (X) = 0
µ4 (X) = 3 ∗ σ
(1.79)
(1.80)
4
(1.81)
β(X) = 0
(1.82)
γ(X) = 3
(1.83)
Moyenne : µ
Mediane : µ.
Déviation Standard : σ.
Coefficient d’applatissement : 0.
Kurtosis : 3
La loi est représentée par son diagramme de densité (Figure 1.9a). Le mode,
la médiane et la moyenne sont égales. L’aplatissement prend une valeur caractéristique, γ = 3.
Pour une loi Normale Centrée Réduite, les paramètres sont les suivants :
20CHAPITRE 1. NOTIONS ELEMENTAIRES DE STATISTIQUE PROBABILISTE
Figure 1.9 – Diagrammes de densité de probabilité (a) d’une loi Normale de
paramètres µ = 3 et σ = 1.5 et (b) d’une loi Normale Central Réduite.
1.5. ETUDE DE QUELQUES LOIS DE PROBABILITÉS CONTINUES UTILES POUR L’INTERPRÉTATION D
E(X) = 0
(1.84)
V (X) = 1
(1.85)
σ(X) = 1
(1.86)
M3 (X) = 0
(1.87)
κ3 (X) = 0
(1.88)
µ3 (X) = 0
(1.89)
M4 (X) = 3
(1.90)
κ4 (X) = 0
(1.91)
µ4 (X) = 3
β(X) = 0
(1.92)
(1.93)
γ(X) = 3
(1.94)
Moyenne : µ
Mediane : µ.
Déviation Standard : σ.
Coefficient d’applatissement : 0.
Kurtosis : 3
La loi Normale Centrée Réduite représentée par sa densité sur la figure ??b,
est donc symétrique. Le mode, la médiane et la moyenne sont nules. L’aplatissement γ = 3 est prise comme référence lorsqu’on veut comparer les autres lois
statistiques à la loi Normale.
Les tests d’hypothèses font fréquemment appel à la loi Normale Centré Réduite. C’est pourquoi il est important de connaître des ordres de grandeurs
particulièrement fréquents. Ceux-ci sont résumés dans le tableau 1.1.
Approximation d’une loi binômiale par une loi normale
Soit X une variable aléatoire qui suit une loi binômiale de paramètres m et p.
On peut considérer que X = X1 + X2 + · · · + Xn où les Xi sont n variables aléatoires qui suivent une loi de Bernouilli de paramètre p. Ce sont donc n variables
aléatoires indépendantes identiquement distribuées (même loi, de moyenne µ et
√
converge en
de variance σ 2 ). On déduit du théorème centrale limite que X−nµ
σ n
loi vers une Gaussienne. Autrement dit, pour n suffisamment
p grand, on peut
considérer que X suit une loi normale de paramètres np et np(1 − p).
La qualité de l’approximation est meilleure lorsque p est proche de 21 . On
considèrera qu’elle est valide si np ≥ 5 et n(1 − p) ≥ 5.
Nous faisons ici l’approximation d’une variable aléatoire discrète par une
variable aléatoire continue. Pour qu’elle soit valide, il faut lui donner un peu
“d’épaisseur”. P (X = x0 ) en tant que variable aléatoire binômiale est approchée
par la Gaussienne notée aussi X vérifiant
1
1
1
1
P (X ∈]x0 − , x0 + ]) = Φ(x0 + ) − Φ(x0 − )
2
2
2
2
22CHAPITRE 1. NOTIONS ELEMENTAIRES DE STATISTIQUE PROBABILISTE
Log(Distribution)
x
g(x)
P (|X| > x) en %
3.5
0.00087
0.05
3.0
0.0044
0.25
2.6
0.013
1.00
1.96
0.058
5.00
1.00
0.24
32.00
Table 1.1 – Valeurs remarquables de la distribution Normale Centrée Réduite.
La distribution g(x)est représentée en échelle logarithmique pour rendre visible
les queues de la distribution. Les aires colorées correspondent aux probabilités
reportées dans la colonne P (|X| > x), aux différentes absices x.
1.5. ETUDE DE QUELQUES LOIS DE PROBABILITÉS CONTINUES UTILES POUR L’INTERPRÉTATION D
Figure 1.10 – Distribution du χ2 pour différentes valeurs du paramètre k.
Quand k augmente, la distribution se décale vers la droite, s’applatie et approche
une loi normale.
Pour simplifier les notations, le calcul a été fait dans le cas d’une Gaussienne centrée réduite, dans le cas général, il faut tenir compte du changement
de variable en Φ( x−m
σ ).
1.5.2
Loi du χ2
Il s’agit de la loi suivie par une variable aléatoire qui se décompose comme
une somme de carrés de variables aléatoires indépendantes, chacune suivant une
loi normale centrée réduite N (0, 1) (équation 1.95) [6]. Elle apparaît fréquemment, notemment quand il s’agit de calculer les écarts entre des estimations et
les données expérimentales correspondantes. La loi du χ2 est donc utilisée dans
les problèmes d’adéquation, c’est à dire lorsqu’il faut prouver que des valeurs
expérimentales sont proches de valeurs modèles ou théoriques.
X=
X
Y 2 , Y ∼ N (0, 1)
(1.95)
Puisqu’il s’agit d’une somme de carrés de termes, cette distribution a pour
support les nombres réels positifs ou nuls. Elle dépend d’un paramètre k, appelé
degré de liberté qui correspond au nombre de termes de la somme. Quand ce
2
paramètre devient très grand, la loi
√ du χ s’approche d’une loi Normale dont la
moyenne est k et l’écart-type est 2k.
24CHAPITRE 1. NOTIONS ELEMENTAIRES DE STATISTIQUE PROBABILISTE
Paramètres statistiques
E(X) = k
(1.96)
V (X) = 2k
√
σ(X) = 2k
(1.97)
(1.98)
3
2
M3 (X) = k + 6k + 8k
(1.99)
κ3 (X) = 8k
(1.100)
µ3 (X) = 8k
(1.101)
4
3
2
M4 (X) = k + 12k + 44k + 48k
(1.102)
κ4 (X) = 48k
(1.103)
µ4 (X) = 12k(k + 4)
(1.104)
3(k + 4)
r k
8
γ(X) =
k
β(X) =
(1.105)
(1.106)
Moyenne : k
Mediane : 0.
√
Déviation Standard : 2k.
Coefficient d’applatissement :
Kurtosis :
q
8
k.
3(k+4)
k
Fractiles de la loi du χ2
Le risque α représente la surface sous la courbe de densité entre un absice
noté χ2 (k, 1 − α) et l’infinis ou entre 0 et χ2 (k, α). Contrairement aux lois
symétriques où les fractiles « à gauche »se déduisent au signe près des fractiles
« à droite », ici les deux types de fractiles doivent être calculés.
1.5.3
Loi de Student
Pour traiter des tests d’hypothèses, il sera fréquemment fait appel une opération de standardisation consistant à diviser une estimation d’une moyenne
par une estimation d’une déviation standard. La quantité calculée, considérée
comme une variable aléatoire suit une loi dite loi t de Student [15]. Celle-ci se
définis par le rapport de deux variables aléatoires : au numérateur, la première
suit une loi Normale Centré Réduite et au dénominateur se trouve la racine carré
de la seconde variable suivant une loi du χ2 . Elle hérite donc d’un paramètre, ν
le nombre de degrés de libertés. Sa forme exacte est relativement compliquée.
Elle a l’allure d’une fonction Gaussienne dont les queues s’applatissent plus
doucement (Figure ??). A mesure que le paramètre ν prend une valeur élevée,
la loi de Student tend vers la loi Normale (Figure ??). Lorsque ν devient très
grand (en pratique lorsque ν > 40) la loi de Student est quasiment équivalente
à la loi de Gauss.
1.5. ETUDE DE QUELQUES LOIS DE PROBABILITÉS CONTINUES UTILES POUR L’INTERPRÉTATION D
Figure 1.11 – Illustration des fractiles d’une loi du χ2 de paramètre k = 3.
Figure 1.12 – Distribution t de Student de paramètre ν = 1. La distribution
normale est figurée en pointillés pour comparaison.
26CHAPITRE 1. NOTIONS ELEMENTAIRES DE STATISTIQUE PROBABILISTE
Figure 1.13 – Distribution t de Student par différentes valeurs du paramètre
ν = 1. La distribution normale est figurée en pointillés pour comparaison.
Paramètres statistiques
Les moments de la loi t de Student ne sont définis que si leur ordre est
inférieur strictement au nombre de degrés de libertés ν. Dans les formules qui
suivent, il faut donc que ν > 4.
E(X) = 0
(1.107)
ν
V (X) =
ν−2
r
ν
σ(X) =
ν−2
M3 (X) = 0
(1.108)
(1.109)
(1.110)
κ3 (X) = 0
(1.111)
µ3 (X) = 0
(1.112)
2
3∗ν
((ν − 4) ∗ (ν − 2))
6 ∗ ν2
κ4 (X) =
((ν − 4) ∗ (ν − 2)2 )
3 ∗ ν2
µ4 (X) =
((ν − 4) ∗ (ν − 2))
β(X) = 0
M4 (X) =
γ(X) =
Moyenne : 0
Mediane : 0.
3 ∗ (ν − 2)
ν−4
(1.113)
(1.114)
(1.115)
(1.116)
(1.117)
1.5. ETUDE DE QUELQUES LOIS DE PROBABILITÉS CONTINUES UTILES POUR L’INTERPRÉTATION D
Figure 1.14 – Illustration des fractiles d’une loi t de Student de paramètre
ν = 5.
Déviation Standard :
q
ν
ν−2 .
Coefficient d’applatissement :
Kurtosis : 0
3∗(ν−2)
ν−4 .
Fractiles de la loi de Student
Les valeurs des fractiles t(ν, α) et t(ν, 1−α) de la loi de Student sont données
dans les tables statistiques. Aujourd’hui, ces tables sont accessibles dans des
logiciels spécialisés et les plus courantes sont intégrés dans les tableurs tels que
Excel ou LibreOffice.
Puisque la loi est symétrique t(ν, α) = −t(ν, 1 − α) (Figure ??). La valeur
t(ν, 1 − α) à ν constant augmente lorsque α diminue, mais à α constant les
valeurs de t(ν, 1 − α) augmentent sensiblement lorsque ν diminue (voir figures
??et ??).
Ceci s’explique facilement par l’augmentation de l’aplatissement de la courbe.
En effet, plus une courbe est aplatie, plus il faut prendre une abscisse t(1 − α)
R t(1−α)
élevée pour que l’intégrale −∞ Tν (u)du (où Tν désigne la distribution t de
Student) ait une valeur donnée.
Ce comportement peut se traduire comme l’évolution de l’incertitude en
fonction des connaissances acquise sur un sujet. Le nombre de degrés de liberté
représente alors la quantité d’information acquise et t(ν, 1 − α), l’incertitude.
Quand il y a peu d’information, l’incertitude est grande, elle diminue quand
l’information augmente, mais elle ne devient jamais nule.
1.5.4
Loi de Fisher-Snédecor
C’est la loi d’une variable aléatoire continue appelée F dont la densité de
probabilité dépend de deux paramètres k1 et k2 (des degrés de liberté). Elle est
28CHAPITRE 1. NOTIONS ELEMENTAIRES DE STATISTIQUE PROBABILISTE
Figure 1.15 – Evolution des distributions de probabilité d’une loi de Fisher
Snedecor quand (a) ν1 = 5 et ν2 ∈ [2, 10] et (b) ν1 =∈ [2, 10] et ν2 = 5.
suivie par une variable aléatoire qui est le rapport de deux variables aléatoire
suivant une loi du χ2 et pondérée par leurs degrés de libertés respectifs 1.118.
La loi est aussi appelée loi F (ou en anglais F-ratio) [4].
X=
Y1 /k1
Y2 /k2
(1.118)
Le loi est définie sur les nombres réels positifs ou nuls. Quand le nombre
de degrés de libertés du dénominateur k2 est fixé, le mode de la distribution
augmente avec le nombre de degrés de libertés du numérateur k1 , tandis que
la distribution est plus étalée (figure ??(a)). Quand le nombre de degrés de
libertés du numérateur k1 est fixé, le mode de la distribution augmente avec le
nombre de degrés de libertés du dénominateur k2 , tandis que la distribution est
plus resserée (figure ??(b)). La moyenne ne dépend que des degrés de liberté du
dénominateur k2 .
Paramètres statistiques
La variance d’une loi de Fisher-Snedecor n’est définie que si k2 > 4 et k1 > 0.
Les moments d’ordre supérieurs à 2 ont des expression bien trop compliquées
pour être reproduites ici. Par conséquent, la Kurtosis et le coefficient d’assymétrie ne sont pas non plus reproduits.
1.6. CE QU’IL FAUT RETENIR
29
k2
k2 − 2
2 ∗ k22 ∗ (k1 + k2 − 2)
V (X) =
(k1 ∗ (−2 + k2 )2 ∗ (k2 − 4))
s
2 ∗ k22 ∗ (k1 + k2 − 2)
σ(X) =
(k1 ∗ (−2 + k2 )2 ∗ (k2 − 4))
E(X) =
(1.119)
(1.120)
(1.121)
(1.122)
2
Moyenne : k2k−2
k2
Mode : k1k−2
k2 −2 .
1
Déviation Standard :
q
2∗k22 ∗(k1 +k2 −2)
(k1 ∗(−2+k2 )2 ∗(k2 −4)) .
Fractiles de la loi de Fisher-Snedecor
Les tables donnent les valeurs des fractiles supérieurs F (k1 , k2 , 1 − α) pour
une valeur donnée de α. C’est à dire que les deux entrées de la table sont k1 et
k2 . Il y a des tables pour différents risque α = 0, 05 ou α = 0, 01. Ces tables
sont incluses dans les logiciels et les tableurs les plus répandus tels que Excel et
LibreOffice.
Il existe une relation entre les fractiles qui en simplifie le calcul.
F (k1 , k2 , α) =
1.6
—
—
—
—
—
—
—
—
1
F (k2 , k1 , 1 − α)
(1.123)
Ce qu’il faut retenir
Calcul de l’Espérance mathématique
Calcul de la variance
Variable centrée réduite
Proprités d’additivité des l’esprance et de la variance
Loi de Probabilité
Fonction de répartition
Fractiles
Lois de Bernouilli, Binomiale, Poisson, Normale, χ2 , Student, FisherSnedecor
30CHAPITRE 1. NOTIONS ELEMENTAIRES DE STATISTIQUE PROBABILISTE
Bibliographie
[1] Niklaus Bernoulli, Johann Konrad von I Mechel, and Johann Konrad von
I Mechel. Dissertatio inauguralis mathematico-juridica de usu artis conjectandi in jure. Typis Johannis Conradi à Mechel, 1709.
[2] Abraham De Moivre. Miscellanea analytica de seriebus et quadraturis.
1730.
[3] Yves Derriennic. Pascal et les problemes du chevalier de méré. Gazette des
mathématiciens, 97 :45–71, 2003.
[4] Ronald Aylmer Fisher et al. On a distribution yielding the error functions
of several well known statistics. In Proceedings of the international congress
of mathematics, volume 2, pages 805–813, 1924.
[5] Carl Friedrich Gauss. Theoria motus corporum coelestium in sectionibus
conicis solem ambientium auctore Carolo Friderico Gauss. sumtibus Frid.
Perthes et IH Besser, 1809.
[6] Friedrich Robert Helmert. Über die wahrscheinlichkeit der potenzsummen
der beobachtungsfehler. Z. Math. u. Phys, 21 :192–218, 1876.
[7] Christiaan Huygens. De ratiociniis in ludo aleae. Ex officinia J. Elsevirii,
1657.
[8] Statistics – Vocabulary and symbols – Part 1 : General statistical terms
and terms used in probability, 2006.
[9] Statistics – Vocabulary and symbols – Part 2 : Applied statistics, 2006.
[10] Statistics – Vocabulary and symbols – Part 3 : Design of experiments, 1999.
[11] Laplace, Pierre Simon, and de Marquis. Essai philosophique sur les probabilités, 1814.
[12] Pierre Simon marquis de Laplace. Théorie analytique des probabilités. V.
Courcier, 1820.
[13] Norbert Meusnier. Argumentation et démonstration de la loi des grands
nombres dans la démonstration mathématique dans l’histoire. In IREM,
editor, Actes du colloque Inter-Irem de Besançon, La démonstration mathématique dans l’histoire, Besançon, pages 89–97. IREM, 1989.
[14] Siméon Denis Poisson and Christian Heinrich Schnuse. Recherches sur la
probabilité des jugements en matière criminelle et en matière civile. Meyer,
1841.
[15] Student. The probable error of a mean. Biometrika, pages 1–25, 1908.
31