X - Mélanie Prague

Calcul Bayésien : Simulations
Méthodes de Monte-carlo par chaînes de Markov
(MCMC)
5 décembre 2011
Mélanie Prague

2
Plan
Théorie sur l’échantillonnage
- non MCMC
- MCMC : Monte Carlo
Markov Chain
Algorithmique (Métropolis-
Hastings, Gibbs…)

3
Références
Livres :
 The Bayesian Choice – C.P. Robert : 2007, Springer p.285-343
 Bayesian methods for data analysis – B.P. Carlin et T.A. Louis : 2009,
Chapman&Hall p.105-160
Supports numériques :
Vincent MAZET Séminaire MTDE 22/05/2003
Antonietta MIRA Bayesian methods in Inverse Problems Summer course
21-24/06/2004
Alexandre POPIER Méthode de monte-Carlo par chaînes de Markov
Arnaud DOUCET Monte Carlo Methods. Cours d’été MLSS 2011

4
Notations (Bayésiennes)
nceVraisembla :
priori a Loi :
posteriori a Loi :
),...,(
)(
),...,(
1
1
n
n
xxp
xx

5
Motivation (1)
Réaliser des calculs en inférence Bayésienne peut être complexe :
 Avoir une expression analytique de l’a posteriori peut être impossible.
 Même si cela est possible, certains calculs peuvent être nécessaires
(minimisation, intégration…)
-> Il faut échantillonner la loi a posteriori
Exemple :
Considérons x1,…,xn un échantillon d’une loi de Cauchy C(θ,1) et θ~N(μ,σ²), μ
et σ² connus. Ecrivons la distribution a posteriori π(θ| x1,…,xn ).
n
ii
nn
xe
xxpxx
1
²2/
11
1
2
)( )²)(1(
),...,()(),...,(