一、Smooth L1 Loss
1.公式:
2.原因:
L1損失使權值稀疏但是導數不連續,L2損失導數連續可以防止過擬合但對噪聲不夠魯棒,分段結合兩者優勢。
二、Focal Loss
1.公式:
2.作用:
使得正負樣本平衡的同時,難分和易分樣本的比重不同,更易分。
三、交叉熵損失
1.公式:
2.平衡交叉熵損失
四、Dice Loss
1.公式:(類似於交並比)
五、平方損失
1.適用
用於線性回歸中。
六、hinge損失(鉸鏈損失)
1.公式:
2.適用:
主要用於SVM中。SVM損失是hinge損失和L2正則損失的和。
七、指數損失
1.適用
用於adaboost中。
八、0/1損失
對應方法:
1.Faster RCNN:cls+loc=交叉熵損失+smooth L1損失
2.YOLO:平方損失
3.SSD:cls+loc=交叉熵損失+smooth L1損失
4.EAST:cls+角度+loc=平衡交叉熵損失+cos損失+log交並比損失
分類:
交叉熵損失、focal loss、指數損失、hinge損失
回歸:
平方損失、smooth L1損失、交並比損失、Dice 損失