什么是瓶颈层
Bottleneck layer又称之为瓶颈层,使用的是11的卷积神经网络。之所以称之为瓶颈层,是因为长得比较像一个瓶颈。
如上图所示,经过11的网络,中间那个看起来比较细。像一个瓶颈一样。使用1*1网络的一大好处就是可以大幅减少计算量。
ResNet中的Bottleneck Layer
Bottleneck layer这种结构比较常见的出现地方就是ResNet block了。
如图所示分别是有bottleneck和没有bottleneck的ResNet模块。
Deep Residual Learning for Image Recognition 这篇论文对此的解释是: The three layers are 1X1, 3X3, and 1X1 convolutions, where the 1X1 layers are responsible for reducing and then increasing(restoring) dimensions, leaving the 3X3 layer a bottleneck with smaller input/output dimensions. 我们看到,使用 1*1的网络结构很方便改变维度。灵活设计网络,并且减小计算量。且在降维之后可以更加有效、直观地进行数据的训练和特征提取,