部分可观测因果表示学习的稀疏原则
我们提出了一个统一的框架来研究从同时观察到的多个视图(如不同的数据模态)中学习到的表征的可识别性。我们允许部分观察的设置,其中每个视图都由一些潜在变量的子集的非线性混合构成,这些潜在变量可以有因果关系。我们通过对比学习和每个视图的单个编码器证明,任意数量的视图的所有子集共享的信息可以通过平滑双射进行学习。我们还提供了图形判据,指示哪些潜在变量可以通过一组简单的规则进行识别,我们称之为可识别代数。我们的总体框架和理论结果统一并扩展了关于多视图非线性 ICA、解缠和因果表示学习的几项先前工作。我们在数字、图像和多模态数据集上实验证实了我们的论述。此外,我们证明了我们设置的不同特殊情况下先前方法的性能可以得到恢复。总的来说,我们发现在部分可观察性的一般性较弱的假设下,获取多个部分视图有助于识别更精细的表征。
Nov, 2023
在非参数的因果表示学习中,通过稀疏约束和适当的因果影响条件,可以恢复有向无环图的势化图,从而揭示潜在因果模型的潜在变量及其关系的特定且复杂的方式。
Feb, 2024
研究非参数学习中未知干预数据的因果表征学习,证明两个有关变量的观察分布和一次干预足以提供可识别性,同时说明了保留潜在变量之间因果影响的等价解决方案在绘制新数据的因果推论方面的合理性
Jun, 2023
研究了在存在潜在变量的数据中重构因果图模型的问题,提出通过将其还原为混合预言机来确定潜在表示和潜在因果模型,从而揭示了混合模型顺序学习和可观测和不可观测之间的双分图结构学习问题之间的联系,并提供了几个重构完整图模型的算法。
Jun, 2021
从观察中学习表示纯粹关注于学习一种对预测模型有益的低维紧凑表示。本文开发了一种学习方法,通过使用互信息度量对学习过程进行正则化,从观察数据中学习这种表示,根据假设的因子因果图。我们从理论和实证角度证明,使用学习的因果表示训练的模型在对抗攻击和分布转移方面比基准模型更强健。
Oct, 2023
探讨线性系统中存在测量误差时的因果推断问题,在鉴定列的置换和缩放范围内确定混合矩阵的情况下,发现这个问题与存在未观察到的无父原因的因果推断问题之间有相当惊人的联系,并提出了因果结构学习方法并在合成数据上评估了它们的性能。
Nov, 2022
通过对连续潜在分布进行观测,在只有弱监督信号的情况下,可以识别与无源干扰相关的潜在因素,这可以通过对潜在变量的块状扰动实现,且可以提供一种基于此理论的自然估计过程。
Jun, 2022
从观察到的低级数据中揭示潜在高级因果表征是因果表征学习的目标之一,本文通过对多个环境中潜在因果变量之间因果影响的变化进行识别性探索,扩展了潜在因果模型的范围以涉及非线性因果关系,并且提出了一种新的经验估计方法,通过理论发现为学习一致的潜在因果表征提供了可行性。
Oct, 2023