2.6 解决数据不匹配问题
人工数据合成的比例不能太高,否则会导致对合成数据产生过拟合。
2.7 迁移学习
迁移学习的两个例子:
- 图像识别应用迁移到医学影像识别
- 语音识别应用迁移到唤醒词检测
迁移学习的应用场合:
任务A和任务B具有相同的输入
2. 任务A的可用数据量远大于任务B
3. 任务A的低层次特征可能对任务B有所帮助
2.8 多任务学习
多任务学习的一个简单示例:无人驾驶任务中,要同时识别行人、车辆、信号灯、路标等多种对象
神经网络架构中的多任务学习(与softmax回归只检测一种对象不同,多任务学习要同时检测多种多种对象)
多任务学习的应用场合:所训练的不同任务之间可以共享一些低层次的特征
- 各任务所需数据很相似
- 可以训练一个足够大的神经网络以同时很好地完成所有任务
2.9 什么是端到端的深度学习?
数据量较大时,端对端的学习也能成功,而无需将任务分成很多中间过程
人脸识别可分成两步执行:
- 从图像中识别出人脸
- 识别人脸属于谁的脸(当前人脸与数据库中的人脸数据进行一一匹配)
2.10 是否要使用端到端的深度学习?
端对端学习的优点与缺点:
- 优点:让数据说话;减少对手动设计的组件的依赖
- 缺点:可能需要大量数据;没有好好利用一些有用的手动设计的组件
端对端学习的应用:
- 使用深度学习学习各个组件
- 仔细选择X->Y映射(端对端)所需的数据