Lois continues usuelles Obtenir une loi à partir d`une autre L

Université Claude Bernard LYON I PROBABILITES
Année universitaire 2007-2008
Feuille de TD 3
Lois continues usuelles
Exercice 1 Calculer l’espérance et variance de Xlorsque Xest une variable aléatoire
1. de loi uniforme U([a, b]) sur l’intervalle [a, b]⊂R;
2. de loi normale N(m, σ)de paramètre m∈R, σ > 0;
3. de loi exponentielle E(λ)de paramètre λ > 0.
Exercice 2 Soit Xune variable aléatoire de loi de Cauchy de paramètre a > 0,µX(dx) = a
π(a2+x2)dx.
1. Pour quel α∈Rla variable |X|αest-elle intégrable ?
2. Déterminer la fonction caractéristique de cette loi, c.-à.-d. l’espérance de la variable eitX .
Exercice 3 Une variable aléatoire positive Xest sans mémoire si
P(X > t +s|X > t) = P(X > s),∀t, s ≥0.
Montrer qu’une variable aléatoire positive dont la loi admet une densité et qui est sans mémoire est de
loi exponentielle.
Exercice 4 Soit Xune variable aléatoire à valeurs dans R+de densité fet r > 0. Montrer que
E(Xr) = Z∞
0
rxr−1P(X > x)dx.
Indication : on considera les deux cas, E(Xr)fini ou infini, séparément.
Obtenir une loi à partir d’une autre
Exercice 5 Soit Xune variable aléatoire à valeurs dans E⊂Ret f:E→Rune fonction mesurable.
Soit Y=f(X).
1. Montrer que la variable Yest une variable aléatoire.
2. On suppose que Xadmet une densité et que fest injective et C1par morceau. Déterminer la densité
de Yà l’aide d’un changement de variable.
3. On suppose que la loi de Xsoit uniforme sur [0,1] est f(x) = −ln x. Quelle est la loi de Y?
4. On suppose que la loi de Xsoit normale de paramètre m∈Ret σ > 0. Trouver une fonction ft.q.
Y=f(X)est une variable de loi normale de paramètre m= 0 et σ= 1.
Exercice 6 Soit X, Y deux variables aléatoires indépendantes de loi normale N(0,1).
1. Calculer la loi de la variable X
Y.
2. En déduire la loi de Z−1si Zest une variable aléatoire de loi de Cauchy.
L’inégalité de Jensen
Exercice 7 Soit f:E⊂R→Rune fonction convexe définite sur un intervalle Equi contient les valeurs
d’une variable aléatoire X. Alors
f(E(X)) ≥E(f(X)).
Si fest strictement convexe, alors f(E(X)) = E(f(X)) implique que Xest constante.
1

Entropie
Soit (Ω,P)un espace de probabilité fini. L’entropie (sur la base b) de la distribution Pest la valeur
Hb(P) := −X
ω∈Ω
P({ω}) logb(P({ω}))
où b > 0est la base du logarithme. En théorie d’information on utilise surtout b= 2, c’est l’entropie
binaire qu’on va noter H. Ici on définit 0 logb(0) = 0. Autrement dit, Hest l’espérance de la variable
aléatoire X(ω) = −log2(P({ω})). L’entropie (binaire) d’une variable aléatoire finie Xest aussi notée
H(X).
Exercice 8 On considère un jeux de 32 cartes avec la variable aléatoire Xoù
X(carte) = 
asi la carte est noir
bsi la carte est coeur
csi la carte est carreau 7,8,9,10
dpour les autres cartes
où a, b, c, d sont quatre nombres différents.
1. Déterminer H(X).
2. Alice et Bob jouent un jeu : Alice tire une carte Cet demande Bob de déterminer la valeur X(C)en
posant des questions de type ”X(C), appartient-il à A?” où Aest une partie de {a, b, c, d}. Supposons que
Bob choisit les questions ”X(C) = a?”, ”X(C) = b?”, ”X(C) = c?”, dans cet ordre. Déterminer la valeur
moyenne de nombre de questions que Bob à besoin de poser. (La réponse est H(X). On peut montrer
que c’est une strategie optimale pour Bob, optimal dans le sens que la valeur moyenne de nombre des
questions est minimale.)
Exercice 9 Soit maintenant P,P0deux probabilités sur Ω. L’entropie relative D(PkP0)est l’espérance de
la variable ω→log2(P({ω})) + log2(P0({ω})) par rapport à P, c.-à.-d.
D(PkP0) = X
ω∈Ω
P({ω}) logb(P({ω})
P0({ω})).
1. Montrer à l’aide de l’inégalité de Jensen que Dest positif et que D(PkP0)=0implique P=P0.
2. Soit ula distribution uniforme sur Ω. Montrer que
D(Pku) = H(u)−H(P).
3. En déduire que l’entropie d’une distrubution sur Ωprend valeurs entre 0et log2|Ω|et que la distribution
uniforme est l’unique point maximal de H.
2