1. Cross entropy
交叉熵損失函數用於二分類損失函數的計算,其公式為：
其中y為真值,y'為估計值.當真值y為1時,
函數圖形:
可見此時y'越接近1損失函數的值越小,越接近0損失函數的值越大.
當真值y為0時,
函數圖形:
可見此時y'越接近0損失函數的值越小,越接近1損失函數的值越大.
2. Binary_crossentropy
Binary_crossentropy為二分類的交叉熵損失函數,如果網絡最后一層是二分類的輸出,比如激活函數是Sigmoid,就采用Binary_crossentropy.
3. Categorical_crossentropy
Categorical_crossentropy為多分類的交叉熵損失函數,如果網絡最后一層是多分類的輸出,比如激活函數是Softmax,就采用Categorical_crossentropy.