神經網絡訓練中的train loss, test loss問題


1.train loss 不斷下降,dev(或test) loss不斷下降:說明網絡仍在學習。

2.train loss 不斷下降,dev(或test) loss趨於不變:說明網絡過擬合。

3.train loss 趨於不變,dev(或test) loss不斷下降:說明數據集100%有問題。

4.train loss 趨於不變,dev(或test) loss趨於不變:說明學習遇到瓶頸,需要減小學習率或批量數目,或者是數據集有問題(數據集標注錯誤數據比較多)。

5.train loss 不斷上升,dev(或test) loss不斷上升:說明網絡結構設計不當,訓練超參數設置不當,數據集未經過清洗等問題。

測試集准確率低

1.訓練集准確率,測試集准確率 ---- 欠擬合

2.訓練集准確率,測試集准確率 ---- 過擬合


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM