Bayesian networks...
Bạn đang xem bản rút gọn của tài liệu. Xem và tải ngay bản đầy đủ của tài liệu tại đây (725.08 KB, 26 trang )
Bayesian Networks
GVHD: TS. Lê Thành Sách
Nhóm 4:
Lê Minh Nam – 13070249
Võ Thanh Biết – 13070223
Introduce
Conditional probability
Inference by enumeration
Conditional independence
Bayes’s Rule
Bayesian Network
2
Conditional probability
0 ≤ P(A) ≤ 1
P(true) = 1 and P(false) = 0
P(A B) = P(A) + P(B) - P(A B)
P(A | B, A) = 1
P(A | B, C) = P(A | B)
3
Conditional probability
Definition of conditional probability
Product rule gives an alternative formulation
4
=
=
Example
Topology of network encodes conditional
independence assertions
Weather is independent of the other variables
Toothache and Catch are conditionally independent
given Cavity
5
Inference by enumeration
6
/>Toothache ¬Toothache
Catch ¬Catch Catch ¬Catch
Cavity 0.108 0.012 0.072 0.008
¬Cavity 0.016 0.064 0.144 0.576
Inference by enumeration
Example:
P(Catch) = 0.108 + 0.016 + 0.072 + 0.144
= 0.34
P(Cavity) = 0.108 + 0.012 + 0.072 + 0.008
= 0.2
P(Toothache)=0.108+0.016+0.012+0.064
= 0.2
7
Inference by enumeration
P(A|B) + P(¬A|B) = 1
Example:
¬
¬
8
Toothache ¬Toothache
Catch ¬Catch Catch ¬C atch
Cavity 0.108 0.012 0.072 0.008
¬Cavity 0.016 0.064 0.144 0.576
Inference by enumeration
9
¬
¬
¬
Independence
A and B are independent if and only if it’s
right with one of three cases below:
P(A|B) = P(A)
P(B|A) = P(B)
P(A, B) = P(A) P(B)
10
Conditional Independence
P(X|Y, z) = P(X|z)
AND
P(X|Y, ¬z) = P(X|¬z)
X is conditionally independent of Y given Z.
(i.e. P(X|Y, Z) = P(X|Z)).
11
Bayes’s Rule
Product rule:
Bayes rule:
12
Bayesian Network
Syntax:
• Một tập các biến để làm node X
1
, X
2
, , X
n
• Một tập các kết nối giữa các cặp node
• Mỗi node có 1 bảng xác xuất chịu ảnh hưởng
từ node cha
• Không có chu trình
13
Bayesian Network
Semantics:
P(X
1
, X
2
, , X
n
)
=P(X
n
|X
n-1
, , X
1
).P(X
n-1
|X
n-2
, , X
1
) P(X
2
|X
1
).P(X
1
)
=
P(X
i
|X
i-1
, , X
1
) =
P(X
i
| Parents(X
i
))
VD:
P(A,D,T, H, U)
=P(A|T).P(D|T).P(T| H, U).P(H).P(U)
14
Ví dụ
Thói quen hút thuốc lá hoặc ăn uống xấu đều làm tăng khả năng
bị bệnh tim. Bệnh tim có thể gây nên huyết áp cao hoặc điện
tâm đồ bất thường. Tỉ lệ số người có thói quen hút thuốc lá ở
một thành phố là 30% và tỉ lệ số người có thói quen ăn uống xấu
ở đó là 40%. Thống kê cho thấy 80% số người vừa có thói quen
hút thuốc lá vừa có thói quen ăn uống xấu là bị bệnh tim, trong
khi tỉ lệ đó là 10% trong số những người không có hai thói quen
này. Trong số những người không có thói quen hút thuốc lá
nhưng có thói quen ăn uống xấu có 50% bị bệnh tim, và trong số
những người có thói quen hút thuốc lá nhưng không có thói
quen ăn uống xấu có 40% bị bệnh tim. Ngoài ra, 70% số người
bị bệnh tim có huyết áp cao, trong khi tỉ lệ đó chỉ là 10% trong số
những người không bị bệnh tim. Tương tự, 80% số người bị
bệnh tim có điện tâm đồ bất thường, và tỉ lệ đó là 10% trong số
những người không bị bệnh tim.
15
Bayesian Network
16
H
U
A
T
D
p(H) = 0.3
p(A) = 0.4
p(A|T) = 0.7
p(A|T)= 0.1
p(T|H,A)= 0.8
p(T|H,A)= 0.4
p(T|H,A)= 0.5
p(T|H,A)= 0.1
p(Đ|T) = 0.8
p(Đ|T)= 0.1
Bayesian Network
=Conditional Probabilities + Independence Assumptions
= Full Joint Probability Distribution
17
Bayesian Network
P(Causes | effects) = ?
Diagnostic (from effects to causes): P(H|A)
Causal (from causes to effects): P(A|H)
Intercausal (between causes of a common effect):
P(H | T,U)
Mixed: P(T| A, H)
18
Bayesian Network Reasoning
1. Top – Down
2. Bottom – Up
3. Kết hợp
19
Top-Down
Nếu người đó hút thuốc là thì xác xuất bị
bệnh tim là bao nhiêu?
p(T|H) ?
Bước 1: Thêm những nút cha còn lại vào
p(T|H) = p(T,U|H) + p(T,U|H)
Bước 2: sử dụng chuỗi luật
p(T|H) = p(T|U,H)p(U|H) + P(T|U,H)p(U|H)
Bước 3: xóa node độc lập
p(T|H) = p(T|U,H)p(U) + P(T|U,H)p(U)
20
Top-Down
p(T|H) = p(T|U,H)p(U) + P(T|U,H)p(1-p(U))
= 0.8 * 0.4 + 0.4 * (1-0.4)
= 0.0768
21
Bottom-Up
Nếu không bị huyết áp, thì xác xuất bị bệnh tim là bao
nhiêu?
p(T|A)?
Bước 1: sử dụng công thức Bayesian
p(T|A) =
-Down
22
Kết hợp
p(U|H,)?
=
p(H,
=
U U
=
= 0.1818
23
Ví dụ
Giả sử “người ta đi du lịch hay không phụ thuộc
vào trời mưa và đường bị ngập”. Theo thống kê.
Nếu trời mưa và đường không ngập thì xác suất đi
là 40%, 60% nếu không mưa và đường không
ngập. Đường bị ngập nếu trời mưa là 80% và 10%
khi không mưa. “Trời sẽ mưa hay không còn phụ
thuộc vào mây và gió”. Theo số liệu thống kê trong
mùa mưa, 80% số ngày có mây đen và 40% số
ngày có gió mạnh. Nếu có mây đen và gió không
mạnh thì xác suất trời mưa là 90%. Còn nếu có
mây đen nhưng gió mạnh thì xác suất chỉ khoảng
30%. Trường hợp trời sẽ mưa khi không có mây
đen rất hiếm, chỉ khoảng 10%.
24
Ví dụ
25
MâyĐen
Gió
Ngập
Mưa
DuLịch
p(D) = 0.8
p(G) = 0.4
M p(N)
T 0.8
F 0.1
D G p(M)
T T 0.3
T F 0.9
F T 0.1
F F 0
M N p(D)
T T 0
T F 0.4
F T 0
F F 0.6
