信道壓縮~通~通~減
一、1 X 1的卷積核作用
所謂信道壓縮，Network in Network是怎么做到的？
對於如下的二維矩陣，做卷積，相當於直接乘以2，貌似看上去沒什么意義：
但是，對於下面這種32通道的數據，如果我用1個1x1x32的卷積核與其做卷積運算，得到的就是1個6x6的矩陣
在這個過程中，發生了如下的事情：
- （1）遍歷36個單元格（6x6）
- （2）計算左圖中32個信道中截面與卷積核中32個元素的乘積
- （3）此時得到的結果，仍然是6x6x32的矩陣
- （4）每個6x6的矩陣都疊加起來，得到一個6x6的矩陣
- （5）接下來用Relu函數作用於這個6x6的矩陣
- （6）得到6x6的輸出
同理，如果我用N個1x1x32的卷積核與其做卷積運算，得到的就是N個6x6的矩陣。
這種做法，通常稱為1x1卷積或Network in Network。它的主要作用，就是降低信道數量。如下圖：
28x28x192的數據，被32個1x1x192的卷積核作用后，就變為28x28x32的數據。這也就是所謂信道壓縮，信道降維。當然如果你願意，也可以增加信道維度。這在Inception網絡中很有用
所以1 X 1 的卷積核有什么作用：
1）跨通道的特征整合
2）特征通道的升維和降維
3）減少卷積核參數（簡化模型）
二、參考
本文參考：https://blog.csdn.net/ybdesire/article/details/80314925
感謝作者的分享：知識分享推動世界進步！