fc全連接層的作用、卷積層的作用、pooling層、激活函數的作用


fc:1.起到分類器的作用。對前層的特征進行一個加權和,(卷積層是將數據輸入映射到隱層特征空間)將特征空間通過線性變換映射到樣本標記空間(也就是label)

  2.1*1卷積等價於fc;跟原feature map一樣大小的卷積也等價於fc,也就是輸入是一個5*3*3的feature map,用一個3x3x5的卷積去計算就是fc 

  3.全連接層參數冗余,用global average pooling替代。在feature map每個channel上使用gap,然后得到channel個結果,分別對應相應的類別的confidence score,最后輸入給softmax。這樣做減少參數,防止過擬合。

  4.遷移學習中,目標域和源域差別較大,不用fc的網絡比用fc的網絡效果差

  5.卷積層本來就是全連接的一種簡化形式:不全連接+參數共享,按照局部視野的啟發,把局部之外的弱影響直接抹為零影響,同時還保留了空間位置信息。這樣大大減少了參數並且使得訓練變得可控。

  6.fc利用的是上一層所有輸入來計算,拋棄了卷積層不同位置的權值共享。對它來說,輸入的不同位置出現同一個pattern是不等價的,因此不適合用於輸出對於每個位置尋找類似pattern的task,比如segmentation、edge detection以及end-to-end的object detection等等,而比較適合用於classification。

特征層提取一個物體的各個部分,不同特征,然后通過fc整合到一起

 
conv:   1.相當於一個特征提取器來提取特征
    2.提供了位置信息
    3.減少了參數個數

pooling: 1.提取特征

      2.減少參數

激活函數:增加網絡的非線性表達能力


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM