因果机器学习的技术发展与挑战

ICML：因果遇见机器学习之地

某中心网络服务首席研究科学家Dominik Janzing在今年的国际机器学习大会（ICML）上共同发表了四篇论文，这些论文与Janzing的大多数论文一样，标题中都包含"因果"一词。

在ICML 2022上，Janzing与某中心副总裁、杰出科学家Bernhard Schölkopf及其同事共同撰写的2012年ICML论文《论因果与反因果学习》获得了大会"时间检验奖"的荣誉提名。

"目前涉及因果性的论文仍占少数，"Janzing表示，"但这一比例正在增加。从长期趋势来看，明显是在增长，我坚信这一趋势将持续一段时间。我的预测是因果性将扮演比现在更重要的角色。"

因果机器学习的发展脉络

Janzing解释说，机器学习研究人员对因果性日益增长的兴趣源于相邻领域的相关工作。

"传统的因果性问题关注特定干预的因果效应，"Janzing说，"例如，有位患者；患者是否服用某种药物。在存在其他影响因素（称为协变量）的情况下，这对康复有什么影响？"这种因果性概念一直是实验设计和经济学的核心。

"随后出现了另一个研究群体，即图形模型群体，他们开始建模更复杂的系统，"Janzing继续道，"基于大量变量的图形模型可用于计算一个特定变量对另一个变量的平均效应。但它还有更普遍的目标，即将复杂系统分解为可理解的机制。我研究了诸如因果发现问题——如何从被动观察中推断图形模型。这仍然是一个非常雄心勃勃的目标。我乐观地认为，对于这个问题，进展也将来自与机器学习的更紧密联系。"

机器学习与因果性的融合

Janzing表示，大约在2010年左右，"因果性对许多不同的机器学习问题都很重要这一点变得更加明显，因为仅仅推断统计关系与推断生成过程是有区别的。"

Janzing指出，目前正在探索几个与因果性相关的机器学习热点话题，包括可解释AI、公平性以及对分布变化具有鲁棒性的数据表示学习。

"可解释AI是否必然包含因果解释？"Janzing问道，"语义上有意义的表示是否必然是因果表示？如果是，在什么意义上？"

"虽然因果问题进入了所有这些讨论，但我们也可以更好地理解因果性意味着什么。有时人们谈论'真实的因果图'，好像它是刻在石头上的绝对真理。我相信因果性通常是依赖于上下文的东西，特别是在变量来自强聚合的领域——比如宏观经济数量。我觉得'所有模型都是错的，但有些是有用的'这一格言在研究人员讨论因果模型时尚未得到恰当的理解，可能是因为图形模型的目的不一定是对某一特定任务有用，而是为了理解复杂系统中发生的事情。"

定义与概念挑战

Janzing解释说，理解因果性含义的问题不仅仅是哲学性的，它也对研究有直接影响。

"当我们研究应用时，我们清楚地看到有一些需要定义的概念，"他说，"我的学生有时会惊讶于这些概念尚不存在，因为它们听起来如此明显，应该存在。但它们不存在。这表明这个领域还很年轻。"

例如，Janzing在ICML上的一篇论文《基于因果结构的异常根因分析》提出了一种量化不同根本原因对结果贡献程度的方法。但它首先提出了极端事件根本原因的正式定义——"我们在任何地方都没有找到，"Janzing说。

数学工具的多样性

Janzing说，就像该领域的基本概念仍需进一步定义一样——"主要是在图形模型框架之上"——哪些数学工具对因果分析最有用仍有待观察。迄今为止的因果机器学习工作涉及统计学、函数分析（特别是核方法）、线性代数、香农信息论、算法信息论、傅里叶分析、群论和博弈论。

"如果我看看因果推断中应用的数学方法，那么我会说，没有人知道10年后因果性主要将使用哪些数学方法，"Janzing说，"我不认为有任何数学与此无关。所以在我看来，这个领域仍然如此开放，远未固化为某些特定主题、问题类型和方法。"