最小錯誤率的貝葉斯決策和最小風險貝葉斯決策的關系？

 

1.基於最小錯誤率的貝葉斯決策

共w₁~w_n種決策

本質上就是最大后驗概率P(w_i | X)的貝葉斯決策

公式一：P(w_i | X) = P(X | w_i)*P(w_i) / ∑ⁿ_j=1 P(X | w_j)*P(w_j)     

i=1...n，j=1...n

 

2.最小風險的貝葉斯決策

共a₁~a_a種條件風險

對於決策a_i可以在c個風險λ(a_i,w_j)中任選一個，相應的概率是 P(w_j | X) 

本質上就是最小條件風險R(a_i | X)的決策，也就是條件期望損失最小的決策

公式二：R(a_i | X) = E[ λ(a_i,w_j) ] =   ∑^c_j=1 λ(a_i,w_j) _{* P(wj | X)}  =  ∑^c_j=1 λ_{ij * P(wj | X)} 

i=1...a， j=1...c

 

3.二者關系（證明）

其實根據公式二，可以看出基於最小風險的貝葉斯決策本質就是最小錯誤率的決策的加權和，當在0-1損失函數的情況下，即λ_ii=0，λ_ij=1時，基於最小風險的決策與最小錯誤率的決策結果相同。可以把基於最小錯誤率的決策看成是基於最小風險的決策的一個特例。由於損失函數的調整會造成不同的分類結果，當兩類錯誤決策所造成的錯誤相差懸殊時，損失就會起到主導作用，形成基於最小風險的決策。

 

ps:0-1損失函數：錯了損失為1，不錯損失為0，即λ_ii=0，λ_ij=1。

例子：

 

 

 

 

參考：

https://wenku.baidu.com/view/d7fbbf08581b6bd97f19ea16.html

https://wenku.baidu.com/view/16b5a88953d380eb6294dd88d0d233d4b04e3f2a.html

https://www.docin.com/p-1671295744.html