densenet 中的shortcut connection


DenseNet 

      在FCN 網絡中考慮加入skip connection,在resnet 中加入identity 映射,這些 shortcut connection等結構能夠得到更好的檢測效果,在denseNet 中每一層的特征圖作為其他所有層的輸入,因此對於 L層的網絡,中間有(L(L+1))/2 個連接。

這種短連接的優點:

  • 減輕梯度消失問題,有利於訓練,更快收斂,因為梯度可以直接向前傳遞
  • 加強了特征的傳遞
  • 加強了特征的重用
  • 減少參數


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM