Théorèmes limites I Introduction II Loi des grands nombres

Théorèmes limites
I Introduction
Le cours d’aujourd’hui est consacré à l’étude de certaines situations importantes où l’on cherche à obtenir
des renseignements asymptotiques sur les résultats d’une expérience aléatoire.
Commençons par décrire un cas typique : supposons qu’on réalise un grand nombre de fois une expérience
qui peut réussir ou échouer. Notons Anl’événement désignant la réussite de l’expérience au temps n. Devant
la collection des résultats jusqu’au temps n, vu à travers les événements A1, . . . , An, on peut s’intéresser à la
fréquence de réussite de l’expérience c’est à dire au rapport k
noù kdésigne le nombre de fois où l’expérience
a réussi. Y a-t-il alors un lien entre ce rapport k
net la probabilité de réussite de l’expérience ? C’est le type de
question que nous allons chercher à étudier.
Rappelons auparavant les deux types de convergences que nous avons introduits pour des suites de variables
aléatoires réelles (Xn)n≥0.
a) La convergence en probabilités de Xnvers Xaffirme que si ε > 0est donné, la probabilité que Xns’écarte
de Xde plus de εtend vers 0 soit
P(|Xn−X|> ε)→0.
b) La convergence en loi se lit à travers le représentant de la loi d’une variable aléatoire qu’est la fonction
caractéristique ϕX(t) = E(eitX ). Il y a convergence en loi de Xnvers Xsi pour tout t∈IR,ϕXn(t)→ϕX(t).
II Loi des grands nombres
Soit (Xn)n≥0une suite de variables aléatoires indépendantes et de même loi.
On considère Xn=X1+...+Xn
n, la moyenne arithmétique de X1, . . . , Xn.
On a alors un premier énoncé
Théorème 1 (Loi faible des grands nombres)
Supposons que la loi commune des Xiadmette un moment d’ordre 2. On pose σ2= Var(Xi)et m=E(Xi).
Alors (Xn)n≥1converge en probabilités vers la constante m.
démonstration : Soit ε > 0. On doit montrer que P(|Xn−m|> ε)→0.
Commençons par observer que
E(Xn) = 1
nE(X1+. . . +Xn) = 1 n.n.m =m.
De plus
Var(Xn) = Var(X1+. . . +Xn
n) = 1 n2Var(X1+. . . +Xn) = 1 n2.n.σ2=σ2 n
la dernière égalité résultant du fait que les variables Xiétant indépendantes, la variance de la somme est la
somme des variances.
L’inégalité de Bienaymé-Tchebitcheff nous permet alors d’écrire
P(|Xn−m|> ε) = P(|Xn−E(Xn)|> ε)≤1
ε2Var(Xn) = σ2 nε2
et comme σ2
nε2→0, on a P(|Xn−m|> ε)→0.
Considérons le cas typique évoqué en introduction où l’on regarde la suite des résultats d’une expérience
aléatoire, Andésignant le fait que l’expérience a réussi au n-ième instant.
1

La variable 1IAnvaut alors 1 si l’expérience réussit et 0 si elle rate au n-ième instant. Par ailleurs, on sup-
pose que les événements Airésultant d’une même expérience qu’on répète ont même probabilité pet sont
indépendants ce qui se traduit par le fait que les variables aléatoires 1IAnont même loi et sont indépendantes.
La loi des grands nombres nous dit alors que Pn
k=1 1IAk
nconverge en probabilités vers E(1IA1) = pet
Pn
k=1 1IAk
nest la fréquence de réussite de l’expérience avant le temps n. On a donc pour la probabilité l’inter-
prétation de Bernoulli : quand on répète une expérience, la fréquence de réussite devient avec une très grande
probabilité proche de la probabilité de réussite de l’expérience individuelle.
III Théorème central
La loi des grands nombres nous dit que la fréquence empirique Xnconverge en probabilités vers l’espérance
m. Mais elle ne nous dit rien en ce qui concerne la vitesse de cette convergence. C’est l’objet des résultats que
nous allons maintenant regarder.
Soit donc de nouveau (Xn)n≥1une suite de variables aléatoires indépendantes de même loi admettant une
variance σ2et une espérance m, et posons Xn=X1+...+Xn
n.
On a vu que E(Xn) = met Var(Xn) = σ2
n. Par conséquent, la variable aléatoire Yn=√n σ(Xn−m)est
d’espérance nulle et de variance égale à 1. Le théorème suivant concerne la suite des variables (Yn)n≥1.
Théorème 2 (Thèorème central de la limite)
Sous les hypothèses précédentes, la suite de v.a.r. (Yn)n≥1converge en loi vers la loi N(0,1).
Démonstration : Nous devons commencer par calculer la fonction caractéristique de Yn. Remarquons dans un
premier temps que
Yn=√n
σ(1 n
n
X
i=1
Xi−m) = 1
√nσ
n
X
i=1
(Xi−m).
Notons ϕla fonction caractéristique de la loi commune des Xi−m.
On a alors, pour tout t∈IR,
ϕYn(t) = E(eitYn) = E(eit
√nσ Pn
k=1 (Xk−m)) = E(
n
Y
k=1
eit
√nσ (Xk−m)).
Notons que les variables eit
√nσ (Xk−m)sont indépendantes et donc l’espérance précédente se décompose en
un produit ; on a donc
ϕYn(t) =
n
Y
k=1
E(eit
√nσ (Xk−m))
et puisque les Xk−mont même loi de fonction caractéristique ϕ, on a
ϕYn(t) = ϕ(t
√nσ )n.
Il s’agit maintenant d’étudier la limite de cette expression. Commençons par démontrer un petit lemme tech-
nique.
Lemme 1 Soient u1, . . . , unet v1, . . . , vn2nnombres complexes de module inférieur ou égal à 1. Alors
|
n
Y
k=1
uk−
n
Y
k=1
vk|≤
n
X
k=1 |uk−vk|.
2

Démonstration : elle se fait par récurrence. Le cas n= 1 est évident. Supposons le lemme démontré à l’étape
n−1. On a alors
|
n
Y
k=1
uk−
n
Y
k=1
vk|=|
n
Y
k=1
uk−(
n−1
Y
k=1
uk)vn+ (
n−1
Y
k=1
uk)vn−
n
Y
k=1
vk|
≤|
n−1
Y
k=1
uk(un−vn)+(
n−1
Y
k=1
uk−
n−1
Y
k=1
vk)vn|
≤|
n−1
Y
k=1
uk|| un−vn|+|
n−1
Y
k=1
uk−
n−1
Y
k=1
vk|| vn|.
Or |Qn−1
k=1 uk|≤ 1et |vn|≤ 1. Et utilisant le résultat au rang n−1, on obtient bien
|
n
Y
k=1
uk−
n
Y
k=1
vk|≤
n
X
k=1 |uk−vk|
Terminons alors la démonstration du théorème.
On sait, d’après les propriétés des fonctions caractéristiques, que
ϕ(u)=1−σ2u2
2+o(u2)
puisque la variable aléatoire Xi−mest d’espérance nulle et de variance σ2. De ce fait,
ϕ(t
√nσ )=1−t2
2n+o(1 n).
Posant alors u1=u2=. . . =un=ϕ(t
√nσ )et v1=v2=. . . =vn= 1 −t2
2n, on a bien une collection de 2n
nombres complexes de module inférieur ou égal à 1.
Donc d’après le lemme
|ϕ(t
√nσ )n−(1 −t2
2n)n|≤
n
X
k=1 |ϕ(t
√nσ )−(1 −t2
2n)|
=n|ϕ(t
√nσ )−(1 −t2
2n)|=no(1 n) = o(1)
c’est à dire que
lim
n|ϕ(t
√nσ )n−(1 −t2
2n)n|= 0.
Mais
(1 −t2
2n)n= exp[nln(1 −t2 2n)] = exp[n(−t2 2n+o(1 n)]
en faisant un développement limité du logarithme donc (1 −t2
2n)n= exp(−t2 2+o(1)) et de ce fait
lim
n→+∞(1 −t2
2n)n=e−t2/2.
3

Finalement, on obtient lim
n→+∞ϕ(t
√nσ )n=e−t2/2c’est à dire que ϕYn(t)→e−t2/2et on reconnaît la
fonction caractéristique de la loi N(0,1), ce qui revient à dire que la suite (Yn)n≥0converge en loi vers N(0,1).
On peut donc dire en conclusion que la vitesse de convergence dans la loi faible des grands nombres est de
l’ordre d’une loi normale de variance σ2
n, au sens où la distance qui sépare la moyenne empirique de l’espérance
est asymptotiquement distribuée comme la loi en question.
4