2.6 解决数据不匹配问题

image.png
人工数据合成的比例不能太高,否则会导致对合成数据产生过拟合。
image.png
image.png

2.7 迁移学习

迁移学习的两个例子:

  1. 图像识别应用迁移到医学影像识别
  2. 语音识别应用迁移到唤醒词检测

image.png
迁移学习的应用场合:

  1. 任务A和任务B具有相同的输入
    2. 任务A的可用数据量远大于任务B
    3. 任务A的低层次特征可能对任务B有所帮助
    image.png

    2.8 多任务学习

    多任务学习的一个简单示例:无人驾驶任务中,要同时识别行人、车辆、信号灯、路标等多种对象
    image.png
    神经网络架构中的多任务学习(与softmax回归只检测一种对象不同,多任务学习要同时检测多种多种对象)
    image.png
    多任务学习的应用场合:

  2. 所训练的不同任务之间可以共享一些低层次的特征

  3. 各任务所需数据很相似
  4. 可以训练一个足够大的神经网络以同时很好地完成所有任务

image.png

2.9 什么是端到端的深度学习?

数据量较大时,端对端的学习也能成功,而无需将任务分成很多中间过程
image.png
人脸识别可分成两步执行:

  1. 从图像中识别出人脸
  2. 识别人脸属于谁的脸(当前人脸与数据库中的人脸数据进行一一匹配)

image.png
其他示例
image.png

2.10 是否要使用端到端的深度学习?

端对端学习的优点与缺点:

  1. 优点:让数据说话;减少对手动设计的组件的依赖
  2. 缺点:可能需要大量数据;没有好好利用一些有用的手动设计的组件

image.png
端对端学习的应用:

  1. 使用深度学习学习各个组件
  2. 仔细选择X->Y映射(端对端)所需的数据

image.png