Réseaux Bayésiens : calcul de lois marginales par élimination de

Université Paris 7 - M1 Ingénierie Informatique
Année 2016-2017
TD de Introduction à l’Intelligence Artificielle n◦ 10
Réseaux Bayésiens : calcul de lois marginales par élimination
de variables
Rappels:
• Si X1 , ..., Xn sont des variables aléatoires de domaine réspectif D1 , ..., Dn , un facteur de cadre
{X1 , ..., Xn } est une fonction de D1 × . . . × Dn dans R.
• Si φ est un facteur de cadre {A1 , .., Ak , B1 , ..., Bl } et ψ est un facteur de cadre {B1 , .., Bl ,C1 , ...,Cm },
k, l, m ≥ 0, le facteur produit φ ψ a pour cadre {A1 , .., Ak , B1 , ...Bl ,C1 , . . . ,Cm } et est défini par
φ ψ(a1 , ..., al , b1 , ..., bl , c1 , ..., cm ) = φ (a1 , ..., al , b1 , ..., bl ) ∗ ψ(b1 , ..., bl , c1 , ..., cm ).
• Si φ est un facteur de cadre {A1 , .., Ak }, le facteur de marginalisation de Ai dans φ est le facteur ψ
de cadre {A1 , .., Ai−1 , Ai+1 , ..., Ak } défini par
ψ(a1 , .., ai−1 , ai+1 , ..., ak ) =
∑
φ (a1 , ..., ai−1 , a, ai+1 , ..., ak )
a∈dom(Ai )
• Exemple: Soit A une variable aléatoire booléenne uniforme. Sa loi de distribution 0 7→ 1/2, 1 7→
1/2 est un exemple de facteur de cadre {A}. Soit B la variable aléatoire booléenne qui 9 fois sur
10 vaut A, une fois sur 10 vaut ¬A. La table de probabilité conditionnelle
(1, 1) 7→ 9/10; (1, 0) 7→ 1/10; (0, 1) 7→ 1/10; (0, 0) 7→ 9/10
est un exemple de facteur de cadre {A, B}. Les produit de ces deux facteur est le facteur de cadre
{A, B} suivant:
(1, 1) 7→ 9/20; (1, 0) 7→ 1/20; (0, 1) 7→ 1/20; (0, 0) 7→ 9/20
Le facteur de marginalisation de A dans ce dernier facteur est le facteur de cadre {B} donné par
0 7→ 1/2, 1 7→ 1/2.
• Soit Φ un ensemble de facteurs, X une variable. Pour éliminer X de Φ il faut:
1. Faire le produit de tous les éléments de Φ dont le cadre contient X (remarque: le produit de
facteurs est associatif et commutatif). Soit ψ le facteur ainsi obtenu.
2. Calculer le facteur de marginalisation de X dans ψ. Soit ρ le facteur ainsi obtenu.
3. Ajouter ρ aux éléments de Φ dont le cadre ne contient pas X, et renvoyer l’ensemble de
facteurs ainsi obtenu.
Pour éliminer plusieurs variables d’un ensemble de facteurs, on ordonne ces variables et on les
élimine les unes après les autres.
1
Exercice 1
Une source aléatoire émet un signal, 0 ou 1, avec probabilité 1/2,1/2. Le signal passe par trois relais, et à
chaque passage il est altéré (c.à.d. nié) une fois sur 100. On considère les variables aléatoires S, R1 , R2 , R3
désignant respectivement le signal emis par la source et le signal relayé par le i-ème relais, 1 ≤ i ≤ 3.
1. Donner le réseau bayésien de S, R1 , R2 , R3 .
2. Exprimer P(S, R1 , R2 , R3 ) en utilisant les probabilités conditionnelles et les propriétés de séparation
de variables exprimées par le réseau.
3. Calculer la loi conjointe de S, R1 , R2 , R3 , et en déduire la loi de R3 .
4. Recalculer la loi de R3 en utilisant l’algorithme d’élimination des variables, dans l’ordre S, R1 , R2 ,
à partir de l’ensemble de facteurs du produit donné au point 2. de l’exercice.
Exercice 2
On reprend l’exemple de la dernière feuille de td sur les études, le loto etc...
E
T
P(E) = 2/3
P(L) = 10−6
P(T |E) = 4/5, P(T |E) = 1/2
P(H|T, L) = 9/10
P(H|T , L) = P(H|T, L) = 2/3
P(H|T , L) = 1/2
L
H
1. Exprimer P(E, T, L, H) en utilisant les probabilités conditionnelles et les propriétés de séparation
de variables exprimées par le réseau.
2. Calculer la loi de H par élimination des autres variables, à partir de l’ensemble de facteurs du
produit donné au point 1. de l’exercice.
2