espérance loi -"1 est" -attention -groupe

IFT6085-H2014: Modèles Graphiques Probabilistes 02 - Familles courantes de distribution
IFT6085-H2014: Modèles Graphiques Probabilistes
Prof:
Aaron Courville
Email:
[email protected]
Office:
3253 Pav. Andre Aisenstadt
Familles courantes de distribution
1

02 - Familles courantes de distribution
IFT6085-H2014: Modèles Graphiques Probabilistes
Modèle statistique
•Modèle paramétrique - Définition: Ensemble ou une famille de
distributions de probabilité paramétrées par un vecteur
•Nous pouvons penser à ces modèles comme des modèles
graphiques simples avec un seul nœud:
•Dans ces notes, nous passerons en revue quelques modèles
de probabilité communes pour différentes sortes de X.
2
θ∈Θ⊂Rp
PΘ={p(x;θ)|θ∈Θ}
X

02 - Familles courantes de distribution
IFT6085-H2014: Modèles Graphiques Probabilistes
Loi Bernoulli
•Loi Bernoulli
-X est une v.a. binaire:
-Le paramètre de modèle:
-Le Bernoulli p.m.f(x):
-Espérance
-Variance:
3
X∼Bernoulli(p)
x∈{0,1}
θ=p∈Θ=[0,1]
f(x;p)=px(1 −p)1−x
E[x]=p
Var[x]=p(1 −p)

02 - Familles courantes de distribution
IFT6085-H2014: Modèles Graphiques Probabilistes
Loi Binomiale
•Loi Binomiale:
-X est une v.a. discrète:
-Les paramètres de modèle:
-Le binomial p.m.f(x):
-Espérance: , Variance:
4
p.m.f.(x): c.d.f.(x):
X∼B(n, p)
x∈{0,1,2,...,n}
θ=(n, p)∈Θ=Z+×[0,1]
E[x]=np
Var[x]=np(1 −p)
f(x;n, p)=!n
x"px(1 −p)n−x

02 - Familles courantes de distribution
IFT6085-H2014: Modèles Graphiques Probabilistes
Loi Multinomiale
•Distribution Multinomiale:
-X est un vecteur aléatoire discrète avec elements
telle que
-Les paramètres de modèle:
ou
- Le multinomial p.m.f.(x):
-Espérance:
-Variance:
5
xi∈{0,1,2,...,n}
θ=(n, p1,...,p
K)∈Θ=R+×[0,1]K
K
!
i=1
pi=1
K
!
i=1
xi=n
X∼Multinomial(n, p1,...,p
K)
f(x;n, p1,...,p
K)= n!
x1!···xK!px1
1···pxK
K
E[xi]=npi
Var[xi]=npi(1 −pi),Cov(xi,x
j)=−npipj