濾波器的大小選擇
- 大部分卷積神經網絡都會采用逐層遞增（1⇒ 3 ⇒ 5 ⇒ 7）的方式。
- 每經過一次池化層，卷積層過濾器的深度都會乘以 2；
卷積神經網絡中卷積核越小越好嗎？
多個小的卷積核疊加使用要遠比一個大的卷積核單獨使用效果要好的多，在連通性不變的情況下，大大降低了參數個數和計算復雜度。
當然，卷積核也不是越小越好，對於特別稀疏的數據比如下圖所示，當使用比較小的卷積核的時候可能無法表示其特征，如果采用較大的卷積核則會導致復雜度極大的增加。
總而言之，我們應該選擇多個相對小的卷積核來進行卷積。
比較一下
圖一 3*3卷積核基本特征
圖二 3*3卷積核等價分析
卷積核作用在這里不進行詳細介紹了，可以簡單理解為將N*N區域的特征提取到1*1的區域中，也就是通過卷積核得到的結果中一個像素（pixel）能夠看到N*N區域的特征。
圖一中可以看到，第一層卷積核的中心像素（pixel）區域（輸入圖中3*3的區域，可以理解成“連通性”），第二層卷積核作用在第一層之上，
這個卷積核中的像素可以“看到”原圖的區域便擴大成5*5。圖二中結果是將三個3*3的卷積核堆積起來得到的，這里能“看到”原圖中的像素個數是7*7個，也就是說 它的效果和一個7*7的卷積核是一樣的。
圖三 復雜度計算
圖四 3*3卷積核另一種簡化
圖三中對於前面提到的卷積核模式進行了復雜度分析，從圖中我們看到，一個7*7卷積核的復雜度為49M（M，復雜度常數），三個3*3卷積核的復雜度是27M，這樣復雜度降低了近50%，還有沒有優化空間呢？答案是肯定的，我們可以將一個3*3的卷積核拆成兩個1*3的卷積核，一個卷積核的復雜度就變成了6M，達到相同效果的同時，復雜度變為18！
---------------------
作者：DefineClass
來源：CSDN
原文：https://blog.csdn.net/kuangtun9713/article/details/79475457