1. Cross entropy
交叉熵损失函数用于二分类损失函数的计算,其公式为：
其中y为真值,y'为估计值.当真值y为1时,
函数图形:
可见此时y'越接近1损失函数的值越小,越接近0损失函数的值越大.
当真值y为0时,
函数图形:
可见此时y'越接近0损失函数的值越小,越接近1损失函数的值越大.
2. Binary_crossentropy
Binary_crossentropy为二分类的交叉熵损失函数,如果网络最后一层是二分类的输出,比如激活函数是Sigmoid,就采用Binary_crossentropy.
3. Categorical_crossentropy
Categorical_crossentropy为多分类的交叉熵损失函数,如果网络最后一层是多分类的输出,比如激活函数是Softmax,就采用Categorical_crossentropy.