近來對貝葉斯網十分感興趣,按照博客《讀懂概率圖模型:你需要從基本概念和參數估計開始》給出的第一個例子,試着搭建了一個student網。
(1)點擊綠F,對條件概率表予以輸入(包括兩個祖先節點difficulty和intelligence,這兩個節點的綠F輸入將會顯現在柱狀圖面版上,其它CPT輸入則不顯示在面版,僅在點擊黃色閃電后自動計算得到)。
(2)現以SAT為例說明為什么p(SAT=low)=0.725:
已知先驗概率:p(intelligence=bad)=0.7,p(intelligence=good)=0.3
根據CPT可知likelihood:
p(SAT=low|intelligence=bad)=0.95
p(SAT=low|intelligence=good)=0.2
p(SAT=high|intelligence=bad)=0.05
p(SAT=high|intelligence=good)=0.8
故可以計算evidence如下:
p(SAT=low)=$∑_{intelligence}$ p(SAT=low,intelligence)
=p(SAT=low,intelligence=good)+p(SAT=low,intelligence=bad)
=p(SAT=low|intelligence=good)p(intelligence=good)
+p(SAT=low|intelligence=bad)p(intelligence=bad)
=0.2*0.3+0.95*0.7=0.725
p(SAT=high)=1-p(SAT=low)=0.275
(3)現給定證據SAT=low,並將該證據嵌入到先驗概率p(intelligence=bad/good)中去,求p(intelligence=bad|SAT=low)和p(intelligence=good|SAT=low):
由(2)知p(SAT=low)=0.725
p(intelligence=bad|SAT=low)=p(intelligence=bad,SAT=low)/ p(SAT=low)
=(0.95*0.7)/0.725=0.917
p(intelligence=good|SAT=low)=1- p(intelligence=bad|SAT=low)=0.083
因此在給子節點SAT的值進行設定以后(變灰以后),現在顯示在父節點Intelligence柱狀圖面板的結果實際上是嵌入證據以后的后驗概率p(intelligence|SAT=low)(但是如果你點擊綠F查看Intelligence可以發現表格所顯示的先驗概率的值p(intelligence)還是保持不變,為0.7和0.3)
(4) uncertain evidence (BRML: 3.2.1 Uncertain evidence)
y為硬證據,y~為軟證據。p(y|y~)是“硬證據確實成立”的概率。以Gibbon太太為例:
“100%確定聽到報警”是硬證據(y=1),“0%確定聽到報警(沒聽到報警)”同樣是硬證據(y=0);
“80%確定聽到報警”是軟證據(y~),硬證據y=1確實成立的概率p(y=1|y~)為80%,硬證據y=0確實成立的概率p(y=0|y~)=20%。
——————
在(3)里我們是將“SAT考了低分”作為證據嵌入的,此時“SAT低分”是確鑿無疑的(稱之為“硬證據”)。現在仍然以SAT成績和智力水平為例,當我不知道我的智力水平,且SAT成績還沒出來,但是我剛剛考完SAT,對自己考了多少分有個大概的估計(以下圖為例:我僅有33.7%的把握我SAT考的不錯),那么這個“不確定成績”也是可以作為證據嵌入的,稱之為“軟證據”。現在我們希望計算嵌入軟證據后的后驗概率p(intelligence|SAT~)。
軟證據如下:
66.3%確定SAT=low——p(SAT=low|SAT~)=0.663
33.7%確定SAT=high——p(SAT=high|SAT~)=0.337
由上面的公式:
p(intelligence=bad|SAT~)=$∑_{SAT}$ p(intelligence=bad|SAT)p(SAT|SAT~)
= p(intelligence=bad|SAT=low)p(SAT=low|SAT~)
+ p(intelligence=bad|SAT=high)p(SAT=high|SAT~)
=0.917*α+0.127(1-α)
=0.917*0.663+0.127*0.337
=0.651
(其中α=0.663,為“SAT考低分的確信程度”)
(紅色部分即(3)中算出的結果,綠色部分我還沒有算,可以用類似的方法手算得出,也可以簡單地在SAT面板上將high的柱狀圖拉到100%再看intelligence面板上bad的顯示值)
2018.9.20
by 悠望南山