貝葉斯網絡假設是指給定一個變量的父母節點,這個變量條件獨立於他的非后代。
d-separation步驟用途
回答兩類問題,
- 給定變量下條件獨立性問題。例如,在給定D和F的情況下,A和B是否獨立,$ P(A|BDF) = P(A|DF)$ 。
- 邊際獨立性問題。例如,A和B是否獨立,$ P(A|B) = P(A)$ 。
d-separation步驟流程
- 概率表達式中所提到節點及其祖先(不帶子女,除非提到)組成的圖。
- 父母配用無線邊配對。
- 將所有邊變成無向邊。
- 刪除所有給定變量的節點,以及他們的邊。例如,在給定D和F的情況下,A和B是否獨立,$ P(A|BDF) = P(A|DF)$ 。那么要刪去的節點就是D和F。
- 解釋得到的圖。經過前面4步得到一個圖,如果a)變量是不連接的,則獨立或條件獨立性滿足,如果b)變量在圖中是連接的。則不能保證獨立或條件獨立性。這里連接指的是節點之間存在一條路徑。c)如果一個或多個變量在圖中不存在,則獨立或條件獨立性滿足。
熟練之后,可知兩個沒有公共祖先的節點是邊際獨立的,但給定他們的子節點,他們就變成相關的(common effect)例如下圖情形,
下兩個圖是相關路徑(active trails)幾種情形,以及基於相關路徑的兩節點d-separation定義(應該和我們用上述流程得到的連接或不連接是一致的,這個是在另一個文獻里找的),
d-separation步驟例子
給一個概率圖,如下
則,
-
在給定D和F的情況下,A和B是否獨立,即是否有 $ P(A|BDF) = P(A|DF)$ ?
否。四步走,如圖,
-
A和B是否(邊際)獨立,即 $ P(A|B) = P(A)$ ?
是。看圖,
-
給定C的情況下,A,B獨立嗎?
否,上面提到的有名的V-結構(common effect),看圖,應用步驟時注意與問題2區別,
-
給定C的情況下,D,E獨立嗎?
是,朴素貝葉斯條件獨立性假設就是這種共同祖先結構!注意,畫一個點必須畫他的祖先,但沒有提到他的子女,就不畫她的子女。看分析,
-
D,E獨立嗎?
否,
-
給定A,B的情況下,D,E獨立嗎?
否,不同於給定C的情形,
-
$ P(D|CEG) = P(D|C)$ ?
轉換成兩個問題,a給定C時,D,E獨立嗎?且b給定C時,D,G獨立嗎?
a是b否總體否
參考鏈接:
今天很郁悶,我覺得自己很失敗。但我還是要不停的做事情。
越是絕望,越是不能停止做事情。
好熟悉面孔,是哪部劇來着...