1. Awesome Transfer Learning Papers

Let’s read some awesome transfer learning / domain adaptation papers.
这里收录了迁移学习各个研究领域的最新文章。

1.1. General Transfer Learning (普通迁移学习)

1.1.1. Theory (理论)

1.1.2. Others (其他)


1.2. Domain Adaptation (领域自适应)

Including domain adaptation and partial domain adaptation.

1.2.1. Traditional Methods (传统迁移方法)

  • 201711 ICCV-17 Open set domain adaptation

  • 当source和target只共享某一些类别时,怎么处理?这个文章获得了ICCV 2017的Marr Prize Honorable Mention,值得好好研究。

  • 我的解读
  • 20170812 ICML-18 Learning To Transfer,将迁移学习和增量学习的思想结合起来,为迁移学习的发展开辟了一个崭新的研究方向。我的解读

1.2.2. Deep / Adversarial Methods (深度/对抗迁移方法)

  • 20191124 AAAI-20 (AdaFilter: Adaptive Filter Fine-tuning for Deep Transfer Learning)(https://arxiv.org/abs/1911.09659)

  • Adaptively determine which layer to transfer or finetune

  • 自适应地决定迁移哪个层或微调哪个层
  • 20190731 MICCAI-19 Unsupervised Domain Adaptation via Disentangled Representations: Application to Cross-Modality Liver Segmentation

  • Disentangled representations for unsupervised domain adaptation

  • 基于解耦表征的无监督领域自适应
  • 20190719 arXiv Agile Domain Adaptation

  • Domain adaptation by considering the difficulty in classification

  • 通过考虑不同样本分离的难度进行domain adaptation
  • 深度适配网络(Deep Adaptation Network, DAN)

  • 发表在ICML-15上:learning transferable features with deep adaptation networks

  • 我的解读

1.3. Domain Generalization


1.4. Multi-source Transfer Learning (多源迁移学习)


1.5. Heterogeneous Transfer Learning (异构迁移学习)


1.6. Online Transfer Learning (在线迁移学习)

  • 20180128 第一篇在线迁移学习的文章,发表在ICML-10上,系统性地定义了在线迁移学习的任务,给出了进行在线同构和异构迁移学习的两种学习模式。Online Transfer Learning

  • 扩充的期刊文章发在2014年的AIJ上:Online Transfer Learning

  • 我的解读
  • 文章代码:OTL
  • KIS-17 Online transfer learning by leveraging multiple source domains 提出一种综合衡量多个源域进行在线迁移学习的方法。文章的related work是很不错的survey。
  • CIKM-13 OMS-TL: A Framework of Online Multiple Source Transfer Learning 第一次在mulitple source上做online transfer,也是用的分类器集成。
  • ICLR-17 ONLINE BAYESIAN TRANSFER LEARNING FOR SEQUENTIAL DATA MODELING 用贝叶斯的方法学习在线的HMM迁移学习模型,并应用于行为识别、睡眠监测,以及未来流量分析。
  • KDD-14 Scalable Hands-Free Transfer Learning for Online Advertising 提出一种无参数的SGD方法,预测广告量
  • TNNLS-17 Online Feature Transformation Learning for Cross-Domain Object Category Recognition 在线feature transformation方法
  • ICPR-12 Online Transfer Boosting for Object Tracking 在线transfer 样本
  • TKDE-14 Online Feature Selection and Its Applications 在线特征选择
  • AAAI-15 Online Transfer Learning in Reinforcement Learning Domains 应用于强化学习的在线迁移学习
  • AAAI-15 Online Boosting Algorithms for Anytime Transfer and Multitask Learning 一种通用的在线迁移学习方法,可以适配在现有方法的后面
  • IJSR-13 Knowledge Transfer Using Cost Sensitive Online Learning Classification 探索在线迁移方法,用样本cost

1.7. Zero-shot / Few-shot Learning

  • 20181106 arXiv Zero-Shot Transfer VQA Dataset

  • English: A dataset for zero-shot VQA transfer

  • 中文:一个针对zero-shot VQA的迁移学习数据集

1.7.1. Zero-shot Learning based on Data Synthesis (基于样本生成的零样本学习)

详细介绍

  • 20171022 ICCVW-17 Zero-shot learning posed as a missing data problem

  • 算法首先学习 semantic embeddings 的结构性知识,利用学习到的知识和已知类的 image features 合成未知类的 image features。再利用无标记的未知类数据对合成数据进行修正。 算法假设未知类数据呈混合高斯分布,用 GMM-EM 算法进行无监督修正。

  • 20180516 arXiv-18 A Large-scale Attribute Dataset for Zero-shot Learning

  • 传统 ZSL 数据集(如 AwA, CUB)存在规模小,属性标注不丰富等问题。本文提出一个新的属性数据集 LAD 用于测试零样本学习算法。新数据集包含 230 类, 78,017 张图片,标注了 359 种属性。基于此数据集举办了 AI Challenger 零样本学习竞赛。 110+ 支来自海内外的参赛队伍提交了成绩。

  • 20190108 WACV-19 Zero-shot Learning via Recurrent Knowledge Transfer

  • 基于样本合成的零样本学习算法通常将 semantic embeddings 的知识迁移到 image features 以实现 ZSL。然而,这种 training 和 testing space 的不一致,会导致这种迁移失效。因此,本文提出 Space Shift Problem,并针对此问题,提出一种(在 image feature space 和 semantic embedding space 之间)递归传递知识的解决方案。


1.8. Deep Transfer Learning (深度迁移学习)

1.8.1. Non-Adversarial Transfer Learning (非对抗深度迁移)

  • 20180724 ECCV-18 Zero-Shot Deep Domain Adaptation

  • Perform zero-shot domain adaptation when there is no target domain data available

  • 当目标领域的数据不可用时如何进行domain adaptation :
  • 20171226 NIPS 2016 把传统工作搬到深度网络中的范例:不是只学习domain之间的共同feature,还学习每个domain specific的feature。这篇文章写得非常清楚,通俗易懂! Domain Separation Networks | 代码
  • 深度适配网络(Deep Adaptation Network, DAN)

  • 发表在ICML-15上:learning transferable features with deep adaptation networks

  • 我的解读
  • 深度联合适配网络(Joint Adaptation Network, JAN)

  • Deep Transfer Learning with Joint Adaptation Networks

  • 延续了之前的DAN工作,这次考虑联合适配

1.8.2. Deep Adversarial Transfer Learning (对抗迁移学习)

  • 20181211 arXiv Adversarial Transfer Learning

  • A survey on adversarial domain adaptation

  • 一个关于对抗迁移的综述,特别用在domain adaptation上

1.9. Multi-task Learning (多任务学习)

  • 20180524 arXiv 杨强团队、与之前的learning to learning类似,这里提供了一个从经验中学习的learning to multitask框架:Learning to Multitask

1.10. Transfer Reinforcement Learning (强化迁移学习)

  • 20190305 arXiv [Sim-to-Real Transfer for Biped Locomotion]

  • Transfer learning for robot locomotion

  • 用迁移学习进行机器人定位

1.11. Transfer Metric Learning (迁移度量学习)


1.12. Transitive Transfer Learning (传递迁移学习)


1.13. Lifelong Learning (终身迁移学习)


1.14. Negative Transfer (负迁移)


1.15. Transfer Learning Applications (应用)

See HERE for a full list of transfer learning applications.