解决loss值不下降问题(转)


https://blog.ailemon.me/2019/02/26/solution-to-loss-doesnt-drop-in-nn-train/

 

1.模型结构和特征工程存在问题

 

2.权重初始化方案有问题

 

3.正则化过度

 

4.选择合适的激活函数、损失函数

 

5.选择合适的优化器和学习速率

 

6.训练时间不足

 

7.模型训练遇到瓶颈

 

8.batch size过大

 

9.数据集未打乱

 

10.数据集有问题

 

11.未进行归一化

 

12.特征工程中对数据特征的选取有问题

 


免责声明!

本站转载的文章为个人学习借鉴使用,本站对版权不负任何法律责任。如果侵犯了您的隐私权益,请联系本站邮箱yoyou2525@163.com删除。



 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM