学习独立的因果机制
利用元学习方法,基于快速适应新分布的速度,学习因果结构,包括因果关系的参数化,模块化和编码等方面,以提高对非标准干预的快速适应能力和降低重学需要的信息量。
Jan, 2019
本文提出了一种利用机制转移适应目标领域的方法,该方法可以在数据生成机制在不同领域间不变的假设下应对非参数移位问题,并应用因果模型中的结构方程来进行域适应,实验证明该方法可以在回归问题中有效使用。
Feb, 2020
生成模型可以通过实现真实数据生成过程的因果图结构向未被观测环境进行预测,然而,由于因果图结构节点通常未被观测,这导致了模型的超参数化和因果结构的不可识别性,此文章开发了一种理论框架,通过一个弱化的可识别性标准解决这种情况,并展示经典的随机梯度下降可能阻碍模型对未被观测数据的预测能力,建议在训练期间明确地强制执行机制的独立性,使用真实世界数据训练的深度生成模型实验证明这些看法,并展示这些模型的外推能力如何被利用。
Apr, 2020
本文提出一种基于独立因果机制(ICM)原理的新梯度学习框架,理论和实验结果表明,这种学习方法可以在训练时利用不同环境之间的分布偏移,使神经网络更加鲁棒,并成功地找到与环境无关的关系,达到了对不稳定环境的泛化能力。
Oct, 2020
本文探讨了在非独立同分布环境下学习因果结构的方法,提出了稀疏机制偏移假设,并应用于提出的机制偏移得分进行实证研究,结果证明了该算法具有较高的正确性和实用性。
Jun, 2022
本文提出了一种基于独立因果机制的因果解缠结的新概念,并提出了ICM-VAE框架来学习因果解缠结表示,使用可学习的基于流的差分同胚函数将噪声变量映射到潜在因果变量,同时为了促进因果因素的解缠结,提出了因果解缠结先验。在相对温和的条件下,我们提供了理论结果,显示出因果因子和机制的可识别性。经验证明,该框架引导出高度解缠结的因果因子,提高了干预的稳健性,并且与因果生成相容。
Jun, 2023
本研究探究使用无监督学习的方法,从畸变的数据点中学习一组独立机制的反向模型,包括引入正交化层到专家结构中以增加输出的多样性以及通过专家之间再分配数据点的方式防止任何一个声称多种机制。
Jun, 2023
基于新的等效形式主义,提出了一种新的因果生成模型,利用拓扑排序从观测值中推断顺序,设计了基于Transformer的架构来学习固定点结构因果模型,并通过广泛的评估表明该模型在生成的超出分布问题中胜过多个基准模型。
Apr, 2024