熵(Entropy),交叉熵(Cross-Entropy),KL-松散度(KL Divergence)

1.介紹： 當我們開發一個分類模型的時候，我們的目標是把輸入映射到預測的概率上，當我們訓練模型的時候就不停地調整參數使得我們預測出來的概率和真是的概率更加接近。 這篇文章我 ...