統計學習方法學習筆記（一）--極大似然估計與貝葉斯估計原理及區別

　　　　

　　極大似然估計提供了一種給定觀察數據來評估模型參數的方法，即：“模型已定，參數未知”。即在頻率學派中，參數固定了，預測

值也就固定了。最大后驗概率是貝葉斯學派在完全貝葉斯不一定可行后采用的一種近似手。如果數據量足夠大，最大后驗概率和最大似

然估計趨向於一致，如果數據為0,最大后驗僅由先驗決定。

　　極大似然估計是想讓似然函數極大化，而考慮了最大后驗概率算法的貝葉斯估計，其實是想讓后驗概率極大化。主要區別在於估計

參數中，一個考慮了先驗一個沒有考慮先驗。