TD 7 – Point de bascule 1 Des probabilités discrètes

ENS Paris, 2013/2014
Processus aléatoires
Bastien Mallein
Bureau V2
TD 7 – Point de bascule
24 mars 2014
1
Des probabilités discrètes
Exercice 1 (Une minoration classique). Soit X une variable aléatoire intégrale à valeurs dans Z+ . Montrer
que
E(X)2
.
P(X > 0) ≥
E(X 2 )
Discuter les cas d’égalité.
Exercice 2 (Dérangement). Soit T une variable aléatoire à valeurs dans N telle que P(T = n) décroit.
Montrer que pour toute injection σ : N → N, on a
E(σ(T )) ≥ E(T ).
Exercice
3 (Dés truqués). On rappelle que la fonction génératrice d’une variable aléatoire est GX (s) =
E sX .
1. Déterminer la fonction génératrice de la loi uniforme sur {2, . . . , 12}.
2. Montrer qu’on ne peut pas simuler la loi uniforme sur {2, . . . , 12} avec deux dés pipés indépendants.
Exercice 4 (Entropie). Soit Ω un ensemble fini. L’entropie d’une probabilité P sur Ω est définie comme
X
H(P) =
−P(ω) log P(ω).
ω∈Ω
L’entropie relative de P par rapport à Q est définie par
(
+∞
si ∃ω ∈ Ω : P(ω) > 0 = Q(ω)
D(P||Q) = P
P(ω)
sinon.
ω∈Ω P(ω) log Q(ω)
1. Montrer grâce à l’inégalité de Jensen que D ≥ 0, et que D = 0 implique P = Q.
2. Soit U la mesure uniforme sur Ω, déterminer à l’aide de H la valeur de D(P||U ).
3. En déduire la loi qui maximise l’entropie.
Exercice 5 (Propagation de la rumeur). On suppose que des individus (Ij , j ∈ N) transmettent une information binaire de façon exacte avec probabilité pj , et inexacte avec probabilité 1 − pj . On part d’une
information 1 donnée à I1 , qui la transmet à I2 , qui la transmet à I3 , etc. Déterminer la probabilité qk que
l’information transmise par l’individu k soit 1.
Donner une expression simplifiée
de qk lorsque pk = p ∈ (0, 1), et déterminer limk→+∞ qk .
P
Qu’observe-t-on lorsque
1 − pk < +∞ ?
1
2
Des inégalités
Exercice 6 (Inégalité de Paley-Zygmund). Soit X une variable aléatoire positive de carré intégrable.
1. Montrer que pour tout a ∈ (0, 1), on a
(1 − a)E(X) ≤ E X1{X≥aE(X)} .
2. En conclure que pour tout a ∈ (0, 1),
P(X ≥ aE(X)) ≥ (1 − a)2
E(X)2
.
E(X 2 )
Exercice 7 (Inégalité de Jensen). Soit f une fonction convexe, et X une variable aléatoire réelle. On rappelle
l’inégalité de Jensen
E(f (X)) ≥ f (E(X)).
Montrer que si f est strictement convexe, et que E(f (X)) = f (E(X)), alors X est une variable aléatoire
constante presque sûrement.
Exercice 8 (Lemme de Hoeffding). Soit X une variable aléatoire réelle telle que E(X) = 0 et P(a ≤ X ≤
b) = 1. Montrer que pour tout λ > 0
(b − a)2
.
E eλX ≤ exp λ2
8
Indication. On pourra montrer dans un premier temps que
beλa
aeλb
E eλX ≤
−
.
b−a b−a
Soit (Xn ) une suite de variables aléatoires i.i.d. de même loi que X, montrer que pour tout > 0,
2
P(Xn ≥ n) ≤ e
3
4
−n (b−a)
2
.
Des convergences
ExerciceP9. Soit (Xn ) des variables aléatoires i.i.d. de loi gaussienne centrée réduite. Pour h ∈ N, on note
n
Yn (h) = j=1 sin(hXj ). Déterminer la limite en loi de √1n (Yn (1), . . . Yn (k)).
Exercice 10. Soit (Xn ) des variables aléatoires i.i.d. à valeurs dans {0, . . . , r} telles que P(X1 = i) = pi .
Identifier la limite en loi de
!2
r
n
1X
1 X
Yn =
1{Xi =j} − pj
√
n j=1
pj i=1
p
Exercice 11. Soit p ∈ (0, 2) et X P
une variable aléatoire réelle telle que E(eitX ) = e−|t| . Montrer que
converge en loi si et seulement si
|aj |p < +∞.
2
P
aj Xj