今天在看Resnet視頻的時候接觸了一個新的名詞bottle neck,記錄一下。
課上老師提到Resnet網絡50層以下和50層以上最本質區別是什么?答案是Bottleneck
參考自:https://zhuanlan.zhihu.com/p/98692254
什么是Bottleneck layer
Bottleneck layer又稱之為瓶頸層,使用的是1*1的卷積神經網絡。
使用 \(1\times 1\) 的網絡的一大好處就是可以大幅減少計算量。
ResNet中的Bottleneck layer
Bottleneck layer這種結構比較常見的出現地方就是ResNet block了。
左圖是沒有bottleneck模塊,右圖是使用了bottleneck模塊。
使用 \(1\times 1\)的網絡結構很方便改變維度。靈活設計網絡,並且減小計算量。