1.5 网络中的网络以及1×1卷积

1*1卷积类似于一个半侧节点数可伸缩的全连接层，这里的半侧节点数等于滤波器的数量。当滤波器个数小于输入层的通道数时，相当于降维操作；当滤波器个数大于输入层通道数时，相当于升维操作。
image.png
image.png

1.6 谷歌Inception网络简介

Inception网络的创意：需要使用多大的滤波器？11， 33，55还是池化层？为什么不一起完成所有这些任务？
image.png
卷积运算中面临着计算成本很高的问题
image.png
使用11卷积可以将卷积运算成本降低一个数量级
image.png

1.7 Inception网络

Inception模块
image.png
Inception网络
image.png
“We need to go deeper!” 表明了深度学习研究者追求更深层次网络的决心。
image.png

1.8 使用开源实现方案

仅仅阅读文献来学习和研究深度学习是不现实的，利用开源资源是个不错的选择！

1.9 迁移学习

如果我们手头的数据量不够大，使用别人已经训练好的模型数据（代码、权重）作为预训练数据（pre-trained）是个不错的选择，称为“迁移学习”。
image.png

1.10 数据扩充

使用色彩偏移增广数据
image.png
使用增广数据进行训练
image.png

1.11 计算机视觉现状

手动作业（hand-engineering）在数据量较小等情况下在所难免，数据量较大时，有利于减少对手动作业的依赖
image.png
赢得竞赛的一些技巧（集成学习、多剪切）
image.png
使用开源代码
image.png