假設已知先驗概率P(ωj),也知道類條件概率密度p(x|ωj),且j=1,2.那么,處於類別ωj,並具有特征值x的模式的聯合概率密度可寫成兩種形式:
p(ωj,x) = P(ωj|x)p(x) = p(x|ωj)P(ωj)
整理后得出貝葉斯公式(只有兩種類型的情況下)
下面分別介紹一下后驗概率、似然函數、先驗概率以及證據因子。
1、后驗概率
后驗概率P(ωj|x),即假設特征值x已知的條件下類別屬於ωj的概率。
2、似然函數
p(x|ωj)為ωj關於x的似然函數,也成為類條件概率密度函數,表明類別狀態為ω時的x的概率密度函數*。
3、先驗概率
先驗概率P(ωj)是由先驗知識而獲得的。
4、證據因子
證據因子的存在知識為了保證各類別的后驗概率的總和為1**。
補充:
*概率密度函數:
在數學中,一個連續型隨機變量的“概率密度函數”是一個描述這個隨機變量的輸出值在某一個確定的取值點附近的可能性的函數。
而隨機變量的取值落在某個區域之間的概率則是概率密度函數在這個區域上的積分。當概率密度函數存在的時候,累積分布函數是概率密度函數的積分。
**概率總和為1:
一個函數 f(x) 要想成為密度函數,那么必須滿足兩個條件:
① f(x) >0, 這很好理解了……概率大於0嘛……比如說吃飯的概率,50%說明一半的可能我會吃飯,但是如果是-50%呢?難道是我吐了一半嗎……很詭異吧
② ∫f(x)dx=1,概率就是某種可能性,如果把所有可能性都包括在內就可以證明這個事情一定是發生的,只是按照那種情況發生我們不知道而已,所以所有可能性的和為1.