論文:https://ydwen.github.io/papers/WenECCV16.pdf
A Discriminative Feature Learning Approach for Deep Face Recognition
和contrastive loss的作用類似,就是和softmax loss一起,一個減少類間差距,一個減少類內差距
Cyi表示屬於yi類的特征的的中心
理想情況下,我們每次更新權值都要遍歷全部的訓練集去獲得每個類的中心,這是低效甚至不實際的
為了解決這個問題,作者使用了minbatch中的每個類的中心來更新,(雖然這樣可能有些類的中心在一次迭代中無法更新到,因為有些時候在一個mini-batch中不一定包含所有的類別):
分母加1是為了防止分母為0的情況
總損失函數使用的是Softmax+center Loss聯合損失:
算法流程類似一般的卷積神經網絡,就是多了一個更新中心點的流程:
效果變化:
一開始只使用softmax loss時:
加入center loss后:
效果比contrastive loss好