今天使用交叉熵損失函數訓練的時候發現loss為負,且負得越來越多。
tf.losses.categorical_crossentropy
后面發現原來是參數的,輸出和標簽的位置放反了。
就是說本來通過from_logits=True
,交叉熵可以將logits歸到0到1之間,但是如果放反了,函數內部
做softmax就去處理label的onehot,而logits本身就為負,那么就會負得越來越多。
今天使用交叉熵損失函數訓練的時候發現loss為負,且負得越來越多。
tf.losses.categorical_crossentropy
后面發現原來是參數的,輸出和標簽的位置放反了。
就是說本來通過from_logits=True
,交叉熵可以將logits歸到0到1之間,但是如果放反了,函數內部
做softmax就去處理label的onehot,而logits本身就為負,那么就會負得越來越多。
本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。