最大熵原理

1. 前言 最大熵模型(maximum entropy model， MaxEnt)也是很典型的分類算法了，它和邏輯回歸類似，都是屬於對數線性分類模型。在損失函數優化的過程中，使用了和支持向量機類似 ...

最大熵模型 推導

1、似然函數 　　概率和似然的區別：概率是已知參數的條件下預測未知事情發生的概率，而似然性是已知事情發生的前提下估計模型的參數。我們通常都是將似然函數取最大值時的參數作為模型的參數。 　　那么為何 ...