Dirichlet分布
我們把Beta分布推廣到高維的場景,就是Dirichlet分布。Dirichlet分布定義如下
Dirichlet分布與多項式分布共軛。多項式分布定義如下
共軛關系表示如下
Dirichlet-MultCount共軛理解
上述共軛關系我們可以這樣理解,先驗Dirichlet分布參數為α,多項式分布實驗結果為m,則后驗Dirichlet分布的參數為α+m。m為n維向量,表示實驗中各種結果出現的次數。例如投擲骰子的試驗中,m為6維向量,6個分量分別表示出現1點到6點的次數。
一般來說,我們使用貝葉斯定理推斷Dirichlet-MultCount共軛關系。對於參數為α的Dirichlet分布,可以用如下公式表示
這里,表達式如下
進行了多項式分布實驗后,得到結果n后,后驗分布為
參數n與α確定后,后驗分布的期望為