fc:1.起到分類器的作用。對前層的特征進行一個加權和,(卷積層是將數據輸入映射到隱層特征空間)將特征空間通過線性變換映射到樣本標記空間(也就是label)
2.1*1卷積等價於fc;跟原feature map一樣大小的卷積也等價於fc,也就是輸入是一個5*3*3的feature map,用一個3x3x5的卷積去計算就是fc
3.全連接層參數冗余,用global average pooling替代。在feature map每個channel上使用gap,然后得到channel個結果,分別對應相應的類別的confidence score,最后輸入給softmax。這樣做減少參數,防止過擬合。
4.遷移學習中,目標域和源域差別較大,不用fc的網絡比用fc的網絡效果差
5.卷積層本來就是全連接的一種簡化形式:不全連接+參數共享,按照局部視野的啟發,把局部之外的弱影響直接抹為零影響,同時還保留了空間位置信息。這樣大大減少了參數並且使得訓練變得可控。
6.fc利用的是上一層所有輸入來計算,拋棄了卷積層不同位置的權值共享。對它來說,輸入的不同位置出現同一個pattern是不等價的,因此不適合用於輸出對於每個位置尋找類似pattern的task,比如segmentation、edge detection以及end-to-end的object detection等等,而比較適合用於classification。
特征層提取一個物體的各個部分,不同特征,然后通過fc整合到一起

pooling: 1.提取特征
2.減少參數
激活函數:增加網絡的非線性表達能力