• 基础性研究
  • 专属NLP研究

  • 交叉领域

    基础性研究

  • 网络结构：transformer改变了nlp的任务方式

  • 优化理论（lookahead）
  • 对抗训练
  • 数据增强（人工构造更多数据）
  • 半监督学习（域迁移）
  • 元学习（meta learning）（Auto ML）
  • 多任务学习（通过数学的方式把语义表示出来）
  • 集成学习（动态选择哪个模型去用）
  • 图网络（知识图谱…….）
  • 知识图谱（专业领域）
  • 多模态学习（不同来源的数据集，结构化数据和文本的集合）

  • 机器推理

    NLP研究

  • 预训练：通用语义特征弄进来（BERT、XLNet）

  • 文本分类（落地困难）
  • 序列标注（命名实体识别）
  • 关系提取
  • 依存分析（语法树）
  • 语法解析（处理逻辑的系统）
  • Seq2Seq
  • 文本生成
  • 文本推荐
  • 翻译
  • 指代消解（代词）
  • NLP综合性研究：对话机器人、文本校对、文本检索、开源情报系统、Smart BI