不变性与因果表示学习：前景与局限

Dec, 2023

不变性与因果表示学习：前景与局限

Invariance & Causal Representation Learning: Prospects and Limitations

Simon Bing, Jonas Wahl, Urmi Ninad, Jakob Runge

TL;DR在因果模型中，假定给定的机制对其他机制的变化是不变的。我们通过建立不可能的结果，表明仅靠不变性无法识别潜在的因果变量。结合实际考虑，我们利用这些理论发现来强调通过利用不变性来识别表示的需求需要额外的约束。

Abstract

In causal models, a given mechanism is assumed to be invariant to changes of other mechanisms. While this principle has been utilized for inference in settings where the causal variables are observed, theoretical insights when the variables of interest are latent are largely missing. W

causal models invariance latent variables causal representation learning additional constraints

发现论文，激发创造

通过分布匹配实现不变因果机制

本文提出了一种基于因果结构的新算法来学习不变表示，通过实验证明其在各种任务上表现优异，尤其是领域泛化方面取得了最先进的结果。

Jun, 2022

潜变量因果推断：最新进展与未来前景

通过综述研究，我们对近期在潜变量条件下的因果推断相对于影响因素进行了全面的回顾，涵盖了因果效应估计、中介分析、反事实推理和因果发现等任务，并介绍了在大型语言模型时代下因果推断存在的新机会。

Jun, 2024

走向因果表示学习

论文回顾了因果推断的基本概念，并将其与机器学习的关键问题联系起来，提出了因果表示学习的核心问题，并提出了机器学习和因果学研究领域的关键研究方向。

Feb, 2021

通过不变因果机制进行表示学习

自我监督学习是一种通过前馈未标记的数据来预先训练表示的策略，本文提出了一个新的自我监督目标函数 ReLIC，通过对预训练期间使用的代理分类器的显式不变性约束来更有效地利用数据增强，提高了泛化性能，实验表明 ReLIC 在图像分类和游戏领域都具有较好的表现。

Oct, 2020

可识别因果表示学习：无监督，多视角，和多环境

通过学习具有因果模型语义的潜在变量表示形式，此研究论文探讨了因果模型在人工智能中的应用和理论基础，重点关注可辨识性问题以及在无直接监督下的表示学习目标可行性。

Jun, 2024

混合观测确定鲁棒因果表达方式

从观察中学习表示纯粹关注于学习一种对预测模型有益的低维紧凑表示。本文开发了一种学习方法，通过使用互信息度量对学习过程进行正则化，从观察数据中学习这种表示，根据假设的因子因果图。我们从理论和实证角度证明，使用学习的因果表示训练的模型在对抗攻击和分布转移方面比基准模型更强健。

Oct, 2023

从机制到属性：等变性视角下的可识别表示学习

本文提出了一种基于机制的无监督表示学习方法，探讨了不同机制知识水平下的可辨识性问题，并研究了机制归纳偏差在提高可辨识性方面的应用。

Oct, 2021

一种用于非监督表示学习的因果排序先验

利用加性噪声模型实现无监督表示学习，并通过潜在分布的 Hessian 构建损失函数以鼓励潜在空间遵循因果排序。

Jul, 2023

不变性、因果性和鲁棒性

本论文讨论了概率不变性或稳定性的概念及其如何应用于因果推断与预测鲁棒性问题。同时提出了一种用于风险最小化问题的因果形式化方法，通过估计常常出现在数据收集中的异构性或扰动数据来确定这种不变性。此新方法在许多应用中具有潜在的实用价值，比标准回归或分类框架中的机器学习或估计方法提供了更强的鲁棒性和更好的因果解释。

Dec, 2018

非线性不变风险最小化：一种因果方法

提出了一种不变因果表示学习 (iCaRL) 方法，通过利用广义指数族分布得出数据表示，可以在非线性场景中实现超出分布的泛化，并发现目标的全部直接原因，针对合成和真实数据集提出性能优于基线方法的实验结果。

Feb, 2021