機器學習之損失函數

0. 前言 1. 損失函數 2. Margin 3. Cross-Entropy vs. Squared Error 總結 參考資料 0. 前言 “盡管新技術新算法層出不窮，但是掌握好基礎算法就能解決手頭 90% 的機器學習問題 ...

Cross-entropy

我們希望並期望我們的網絡能夠從他們的錯誤中學習的很快，首先看一個小例子。 我們將訓練這個神經元做一些非常簡單的事情:把輸入的1轉換成輸出的0。當然，如果我們不是用學習算法，可以很容易地計算 ...

【深度學習筆記】第 2 課：Logistic 多項式回歸法

softmax模型可以用來給不同的對象分配概率。即使在之后，我們訓練更加精細的模型時，最后一步也需要用softmax來分配概率。 cross-entropy 交叉熵是度量這兩個向量距離的方法之一。我們將記它為D以表示距離。 labels標簽向量經過了one-hot編碼 ...