今天使用交叉熵损失函数训练的时候发现loss为负,且负得越来越多。
tf.losses.categorical_crossentropy
后面发现原来是参数的,输出和标签的位置放反了。
就是说本来通过from_logits=True
,交叉熵可以将logits归到0到1之间,但是如果放反了,函数内部
做softmax就去处理label的onehot,而logits本身就为负,那么就会负得越来越多。
今天使用交叉熵损失函数训练的时候发现loss为负,且负得越来越多。
tf.losses.categorical_crossentropy
后面发现原来是参数的,输出和标签的位置放反了。
就是说本来通过from_logits=True
,交叉熵可以将logits归到0到1之间,但是如果放反了,函数内部
做softmax就去处理label的onehot,而logits本身就为负,那么就会负得越来越多。
本站转载的文章为个人学习借鉴使用,本站对版权不负任何法律责任。如果侵犯了您的隐私权益,请联系本站邮箱yoyou2525@163.com删除。