一、
貝葉斯網絡，由一個有向無環圖(DAG)和條件概率表(CPT)組成。
貝葉斯網絡通過一個有向無環圖來表示一組隨機變量跟它們的條件依賴關系。它通過條件概率分布來參數化。每一個結點都通過P(node|Pa(node))來參數化，Pa(node)表示網絡中的父節點。
一個簡單的貝葉斯網絡，其對應的全概率公式為：
P(a,b,c)=P(c∣a,b)P(b∣a)P(a)
較復雜的貝葉斯網絡，其對應的全概率公式為：
P(x1,x2,x3,x4,x5,x6,x7)=P(x1)P(x2)P(x3)P(x4∣x1,x2,x3)P(x5∣x1,x3)P(x6∣x4)P(x7∣x4,x5)
二、
三種形式
head-to-head
貝葉斯網絡的第一種結構形式如下圖
P(a,b,c) = P(a)*P(b)*P(c|a,b)成立，化簡后可得：
在c未知的條件下，a、b被阻斷(blocked)，是獨立的，稱之為head-to-head條件獨立
tail-to-tail
第二種結構形式如下圖
考慮c未知，跟c已知這兩種情況：
在c未知的時候，有：P(a,b,c)=P(c)*P(a|c)*P(b|c)，此時，沒法得出P(a,b) = P(a)P(b)，即c未知時，a、b不獨立。
在c已知的時候，有：P(a,b|c)=P(a,b,c)/P(c)，然后將P(a,b,c)=P(c)*P(a|c)*P(b|c)帶入式子中，得到：P(a,b|c)=P(a,b,c)/P(c) = P(c)*P(a|c)*P(b|c) / P(c) = P(a|c)*P(b|c)，即c已知時，a、b獨立。
所以，在c給定的條件下，a，b被阻斷(blocked)，是獨立的，稱之為tail-to-tail條件獨立
head-to-tail
貝葉斯網絡的第三種結構形式如下圖
還是分c未知跟c已知這兩種情況：
c未知時，有：P(a,b,c)=P(a)*P(c|a)*P(b|c)，但無法推出P(a,b) = P(a)P(b)，即c未知時，a、b不獨立。
c已知時，有：P(a,b|c)=P(a,b,c)/P(c)，且根據P(a,c) = P(a)*P(c|a) = P(c)*P(a|c)，可化簡得到：
在c給定的條件下，a，b被阻斷(blocked)，是獨立的，稱之為head-to-tail條件獨立。
head-to-tail是一個鏈式網絡
xi+1的分布狀態只和xi有關，和其他變量條件獨立。通俗點說，當前狀態只跟上一狀態有關，跟上上或上上之前的狀態無關。這種順次演變的隨機過程，就叫做馬爾科夫鏈（Markov chain）
