建模数据生成过程是实现超出分布泛化的必要条件

Jun, 2022

建模数据生成过程是实现超出分布泛化的必要条件

Modeling the Data-Generating Process is Necessary for Out-of-Distribution Generalization

Jivat Neet Kaur, Emre Kiciman, Amit Sharma

TL;DR本论文提出了一种适应性统计算法 CACM，通过建立数据生成过程中的因果关系来自适应地识别并应用正确的独立性约束，从而提高对不可见域的准确性，证明了现有单一、固定约束算法无法在所有转移中有效而导致了混合实证结果。

Abstract

Recent empirical studies on domain generalization (DG) have shown that DG algorithms that perform well on some distribution shifts fail on others, and no state-of-the-art DG algorithm performs consistently well on all shifts. Moreover, real-world data often has multiple distribution sh

domain generalization multi-attribute distribution shift datasets canonical causal graph independence constraints causally adaptive constraint minimization

发现论文，激发创造

图形在分布偏移下的泛化

通过引入图学习不变领域生成（GLIDER）的新框架，本文在节点级别的属性分布和拓扑结构分布的共同分布转变的情境下，实现了优于基准方法的节点级别 OOD 广义化跨域模型。

Mar, 2024

ADMG 因果数据增强实用指南

本文实验证明，采用 ADMG 因果增强方法可以提高机器学习模型的鲁棒性，特别是在处理少样本数据时，但其增强效果受到离群点的影响，也对超参数的值敏感。

Apr, 2023

边缘传递学习实现域泛化

提出了领域泛化问题的形式框架，主要是在标记的训练集数据来自于几个相关的预测问题的情况下，通过扩充原特征空间来增加特征向量的边际分布，以期在未知的未标记数据集上获得精确的预测。针对核方法，提供了更多的定量结果和通用一致的算法，并在一个合成和三个真实世界的数据集上做了实验比较.

Nov, 2017

因果启发式表示学习用于领域泛化

本文提出了一种基于因果关系的结构性因果模型来解决域泛化问题，并基于此提出了一种 Causality Inspired Representation Learning （CIRL）算法，该算法通过计算需满足的三个基本属性来强制表示满足因果机制的性质，进而提升了广义性能力。实验结果表明，该方法有效。

Mar, 2022

学习加权表示以实现跨设计通用化

提出了一个基于表示学习和样本重加权的误差界，针对因果推断和无监督域自适应问题，在设计转换下减少泛化误差的算法框架，与以往方法相比具有更好的效果并具有渐近一致性。

Feb, 2018

缓解协变量和条件偏移的领域泛化

本文提出一种新颖的领域泛化方法，通过视觉对齐和基于不确定性引导的置信度集成 (VAUE) 来处理分布偏移，在 4 个广泛使用的数据集上展示了其卓越的性能。

Sep, 2022

领域泛化的因果平衡

采用平衡的小批量采样策略来消除数据中的错误相关性，提高机器学习模型在不同领域的泛化能力并以此训练贝叶斯最优分类器，通过实验证明该方法优于 20 种基准方法。

Jun, 2022

利用因果不变转换实现对分布外的泛化

本研究提出了一种针对领域间泛化问题的新方法，通过使用修改非因果特征但不改变因果特征的转换方式，从而获得跨领域的最优模型，并且该方法只需要一个单一领域的数据即可实现，在实验中证明了该方法的有效性。

Mar, 2022

非线性不变风险最小化：一种因果方法

提出了一种不变因果表示学习 (iCaRL) 方法，通过利用广义指数族分布得出数据表示，可以在非线性场景中实现超出分布的泛化，并发现目标的全部直接原因，针对合成和真实数据集提出性能优于基线方法的实验结果。

Feb, 2021

DDG-DA：用于可预测概念漂移适应的数据分布生成

本研究提出了一种基于 DDG-DA 的预测建模方法，结合对数据演化的预测和生成的方法，能够有效应对概念漂移，提高预测性能。

Jan, 2022