一、focus 训练方式【灵感而来】

尝试分类训练是否可以分阶段进行，先对已知数据【类别 1】训练，得到初始模型；而后来了新数据【类别 2】，再灌入模型训练，此时 模型对类别 1、类别 2 的 acc 是否均达到要求

实验过程如下：

  1. 构造输出的分类为 10 类的神经网络
  2. 取标签 = 2 的数据 20 条作为训练数据，10 条作为验证数据，10 条作为测试数据。
  3. 灌入标签 = 2 的数据进行训练
  4. 结果 train、test、val 的 acc 均为 100%
  5. 取标签 = 1 的数据 20 条作为训练数据，10 条作为验证数据，10 条作为测试数据。
  6. 灌入标签 = 1 的数据进行训练
  7. 结果 train、test、val 的 acc 均为 100%
  8. 取之前标签 = 2 的数据进行校验，发现准确率不变
  9. 取数据集中所有标签 = 1 的数据【约 5000 张】灌入模型中验证，发现准确率高达 99.91%，泛化能力超越用 5w 张图片进行训练的 model
  10. 总结，focus 训练方式在 mnist 数据集上验证可行

实验结论：分阶段训练可行。

附件：实验中过程的 notebook
keras-demo.ipynb