参考:介绍Bottleneck layer结构

什么是瓶颈层

Bottleneck layer又称之为瓶颈层,使用的是11的卷积神经网络。之所以称之为瓶颈层,是因为长得比较像一个瓶颈。
bottleneck layer | features - 图1
如上图所示,经过1
1的网络,中间那个看起来比较细。像一个瓶颈一样。使用1*1网络的一大好处就是可以大幅减少计算量。

ResNet中的Bottleneck Layer

Bottleneck layer这种结构比较常见的出现地方就是ResNet block了。
bottleneck layer | features - 图2
如图所示分别是有bottleneck和没有bottleneck的ResNet模块。

Deep Residual Learning for Image Recognition 这篇论文对此的解释是: The three layers are 1X1, 3X3, and 1X1 convolutions, where the 1X1 layers are responsible for reducing and then increasing(restoring) dimensions, leaving the 3X3 layer a bottleneck with smaller input/output dimensions. 我们看到,使用 1*1的网络结构很方便改变维度。灵活设计网络,并且减小计算量。且在降维之后可以更加有效、直观地进行数据的训练和特征提取,