【常用损失函数】


一、Smooth L1 Loss

    1.公式:

     

    2.原因:

    L1损失使权值稀疏但是导数不连续,L2损失导数连续可以防止过拟合但对噪声不够鲁棒,分段结合两者优势。

二、Focal Loss

   1.公式:

   

   2.作用:

          使得正负样本平衡的同时,难分和易分样本的比重不同,更易分。 

三、交叉熵损失

     1.公式:

     

     2.平衡交叉熵损失

        

四、Dice Loss

     1.公式:(类似于交并比)

      

五、平方损失

   1.适用

    用于线性回归中。

六、hinge损失(铰链损失)

    1.公式:

    

     2.适用:

     主要用于SVM中。SVM损失是hinge损失和L2正则损失的和。

七、指数损失

  1.适用

   用于adaboost中。

八、0/1损失

对应方法:

 

   1.Faster RCNN:cls+loc=交叉熵损失+smooth L1损失

   2.YOLO:平方损失

   3.SSD:cls+loc=交叉熵损失+smooth L1损失

   4.EAST:cls+角度+loc=平衡交叉熵损失+cos损失+log交并比损失

分类:

   交叉熵损失、focal loss、指数损失、hinge损失

回归:

   平方损失、smooth L1损失、交并比损失、Dice 损失

 

   

 


免责声明!

本站转载的文章为个人学习借鉴使用,本站对版权不负任何法律责任。如果侵犯了您的隐私权益,请联系本站邮箱yoyou2525@163.com删除。



 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM