综述

2021年2月,来自图灵奖获得者,Google学者Y Bengio的团队,发表了一篇综述:《Towards Causal Representation Learning》,Towards Causal Representation Learning.pdf

论文主要观点:
因果表示学习探索。回顾了因果推理的基本概念,并将其与机器学习的关键性开放问题联系起来,包括迁移和泛化,分析因果关系如何为现代机器学习研究做出贡献。讨论同时也涉及到相反的方向:因果方面的大多数工作都是从因果变量给定的前提开始的。因此,人工智能和因果性的一个核心问题是因果表示学习,即从低级观测值中发现高级因果变量。最后,划定了因果性对机器学习的一些影响,并提出了两个社区交叉的关键研究领域,包括在一定规模上学习非线性因果关系,因果变量的学习、理解现有深度学习方法的偏差、学习世界和智能体的因果正确模型。

与现代机器学习的关联

1、迁移性、一般性

2、鲁棒性(可干预)

3、迁移学习、可持续学习、元学习

1、因果表征:从非结构化的数据中提取出可以用于因果推断的结构化变量
以前的因果推理只能基于结构化的数据

主要问题

1、causal discovery

2、learn robust representation
domain adaptation / 加入公平性的constraints

3、帮助机器学习
debiasing recommendation system / unbiased learning to rank

设立新的基准

1、干预的鲁棒性

2、与train环境无关

文章集合

https://github.com/rguo12/awesome-causality-algorithms