先驗概率、后驗概率與似然估計的理解
在機器學習中,時常碰到先驗概率、后驗概率與似然估計,特別是碰到貝葉斯公式的時候。然而,教材上關於這些術語的解釋總量令人頭大,幸好在知乎上有一個仁兄對這些術語作了一個非常通俗易懂的解釋,詳情請參見鏈接:
先驗分布、后驗分布、似然估計這幾個概念是什么意思,它們之間的關系是什么? - Agenter的回答 - 知乎
https://www.zhihu.com/question/24261751/answer/158547500
下面是我個人對這三個術語的理解:這三個術語主要是對因與果之間概率分布的描述,設:
:表示事件的因
:表示事件的果
先驗概率
即為先驗概率,表示在事件發生前,或者是事件的結果出現前,根據以前的經驗或常識而得出的事件原因
發生的概率;
后驗概率
即為后驗概率,表示在知曉事件的結果之后,對事件的原因的概率分布的推斷;
似然估計
即為似然估計,表示在知道事件的原因發生的概率的前提下, 推斷事件的結果的概率分布.
貝葉斯公式
表示知道事件的似然估計, 先驗概率與事件的結果分布時, 用上述三個變量來估計事件后驗概率 . 類似於知道結果, 然后去推斷導致事件這個結果的原因.
