今天在看Resnet视频的时候接触了一个新的名词bottle neck,记录一下。
课上老师提到Resnet网络50层以下和50层以上最本质区别是什么?答案是Bottleneck
参考自:https://zhuanlan.zhihu.com/p/98692254
什么是Bottleneck layer
Bottleneck layer又称之为瓶颈层,使用的是1*1的卷积神经网络。
使用 \(1\times 1\) 的网络的一大好处就是可以大幅减少计算量。
ResNet中的Bottleneck layer
Bottleneck layer这种结构比较常见的出现地方就是ResNet block了。
左图是没有bottleneck模块,右图是使用了bottleneck模块。
使用 \(1\times 1\)的网络结构很方便改变维度。灵活设计网络,并且减小计算量。