重新审视领域通用性中的伪相关
提出了一种不变因果表示学习(iCaRL)方法,通过利用广义指数族分布得出数据表示,可以在非线性场景中实现超出分布的泛化,并发现目标的全部直接原因,针对合成和真实数据集提出性能优于基线方法的实验结果。
Feb, 2021
本研究提出了一种针对领域间泛化问题的新方法,通过使用修改非因果特征但不改变因果特征的转换方式,从而获得跨领域的最优模型,并且该方法只需要一个单一领域的数据即可实现,在实验中证明了该方法的有效性。
Mar, 2022
本文提出了一种基于因果关系的结构性因果模型来解决域泛化问题,并基于此提出了一种Causality Inspired Representation Learning (CIRL)算法,该算法通过计算需满足的三个基本属性来强制表示满足因果机制的性质,进而提升了广义性能力。实验结果表明,该方法有效。
Mar, 2022
通过引入因果推断中的直接与间接效应的概念,该论文提出了一种两阶段算法以解决out-of-distribution generalization中的相关性偏移问题,改善了现有方法的泛化性能。
Nov, 2022
本文提出了一种方法,通过估计标签对因果效应的影响来自动识别虚假属性,并使用正则化目标来减轻分类器对它们的依赖性,优于先前方法,特别是在虚假相关性高的情况下,并在噪声影响下缓解了对虚假属性的依赖。
Jun, 2023
数据驱动的学习中出现虚假相关性,我们通过合并推导虚假相关性的指标,研究它们对基于ERM基线模型的影响,并从因果图生成的合成数据集中观察连接这些假设和模型设计选择的模式。
Aug, 2023
通过使用人为生成的因果知识来提高神经网络的数据表示,从而改进复杂分类任务中的自动生成模型的数据的分布外泛化性能,进而指向通过改进机器学习系统开发实践来提高机器学习系统的鲁棒性和安全性的努力中动力系统方法的实用性。
Sep, 2023
深度生成模型在数据密度估计和有限样本数据生成方面取得了巨大成功。然而,它们存在无法解释性、倾向于引起虚假相关性和在超出分布范围的外推方面表现不佳等一些基本缺点。为了解决这些挑战,可以将因果性理论融入深度生成建模,结构因果模型可以描述数据生成过程并对系统中的变量之间的复杂因果关系和机制进行建模。因此,结构因果模型可以与深度生成模型自然地结合起来,给深度生成模型提供许多有益的属性,如分布偏移鲁棒性、公平性和互操作性。我们提供了一个因果生成建模的技术调研,将其分为因果表示学习和可控反事实生成方法两类。我们关注因果生成模型在公平性、隐私、超出分布泛化和精准医学方面的基本理论、形式化、缺点、数据集、度量和应用。我们还讨论了该领域未解决的问题和未来研究方向。
Oct, 2023
通过评估一个不变表示学习(IRL)家族(InvRat)在部分信息和全部信息的不变特征结构因果模型(PIIF SCM / FIIF SCM)中的弱点,然后统一它们的因果图以提出重新结构化的SCM(RS-SCM),该论文综述了IRL通过重新构建虚假和假不变特征来改进特实验验证了基于RS-SCM的条件互信息方法来纠正不准确和虚假的不变影响,并在各种OOD泛化基准测试中验证了我们的方法的优越性。
Dec, 2023