ACL、IJCAI和SIGIR是自然语言处理、人工智能和信息检索领域的顶级国际学术会议。AIS 2020由北京智源人工智能研究院、美团点评承办,共征集三大会议论文共76篇,分为15个Session,包含自然语言分析和应用、知识和推理、信息检索、推荐系统、机器翻译、情感分析、对话控制和生成、自然语言生成、语言模型和跨语言处理等热点研究问题和方向。

特意起了个大早,听了开幕式,还有Session1和Session2都是关于NLP分析与应用的,开幕式能听个大概,后面的Session压根就跟不上了,10min一篇paper,之前也没有提前读过这些论文,难度确实大,然而NLP的基础知识还没补完,听起来确实犹如天书吧,还是太菜了
下面总结一下唯一我能听懂的前沿趋势报告

ACL前沿趋势报告

主讲人:车万翔老师

image-20200523084859470.png

  1. 人机对话异军突起:研究意义明确,应用价值巨大,任务型对话(NLU DM NLG) 和开放域对话

  2. 机器学习持续热门:预训练模型层出不穷、减轻过拟合问题、对Transformer的分析和改进、对抗训练提升模型鲁棒性

  3. 文本生成强势上升:深度学习使得无中生有成为可能,对话、翻译、文摘等关系紧密
  4. 问答系统绝地反击:对话问答、长文档问答
  5. 新资源和机器挑战:被预训练模型横扫,期待新的数据集
  6. 机器翻译有所衰落:只是相对来说
  7. 句法分析逐渐式微
  8. 语义分析:词级别语义昙花一现,研究热点转向动态词向量,预训练模型
  9. 其他维度的趋势:多语言、多模态、融入知识、多领域、图神经网络、低资源小样本、零样本

IJCAI前沿趋势报告(NLP in IJCAI 2020)

主讲人:贾珈老师
研究热点:模型结构、生成、注意力机制、实体、知识
通过算法层面和领域层面两方面来介绍

算法层面:

1.无监督预训练:研究普适的预训练,比如EViLBERT、AdaBERT等
2.多语言(跨语言)学习
3.Meta Learning and Few Shot Learning
4.迁移学习:预训练与微调、迁移学习框架、领域迁移
5.Bias in NLP:偏差问题,测试Word Embedding 是否 fair 等等
6.知识融合:用知识图谱提升(阅读理解、QA、翻译、对话生成)效果,用知识图谱生成新对话?

领域层面:

1.QA:知识图谱与QA相结合,从Simple QA到Complex QA,MultiTask 与 QA
2.自然语言生成 NLG:对话生成、段落生成、回答生成、评论生成、法律文本本生成、普适NLG框架、
3.多模态 Multi-Modality:视频-文本检索 视觉-语言导航 普适预训练模型

SIGIR前沿趋势报告

接收较为严格,2020和2019趋势大体一致,主要还是推荐、检索、评估(CTR等等吧…)
image-20200523093942509.png

image-20200523094447813.png

当前的研究热点如下:

  1. 传统IR 任务: 推荐、搜索、排序
  2. 流行方法在IR:对抗

如何中一篇SIGIR?

  1. 10页太困难
  2. Solid Experiments 实验一定要做足
  3. 新应用交叉领域
  4. 机器学习问题(Bias)还是那个偏差的问题

除了SIGIR之外,还可以关注全国信息检索学术会议CCIR

当时老师过的太快了,很多东西来不及记…仓促之间之记下来这些
注:以上内容均来整理自诸位老师的PPT,在此感谢,侵删