CVPRMar, 2022

利用因果不变转换实现对分布外的泛化

PDF
TL;DR本研究提出了一种针对领域间泛化问题的新方法，通过使用修改非因果特征但不改变因果特征的转换方式，从而获得跨领域的最优模型，并且该方法只需要一个单一领域的数据即可实现，在实验中证明了该方法的有效性。
out-of-distributioncausalitytraining domainsinvariant causal mechanismgeneralization capability
发现论文，激发创造
  • 关于超出分布泛化的理论框架

    本文第一次尝试对 OOD 问题的可学习性和扩张函数进行严格和量化的定义，并引入了一个新的扩张函数概念来量化不变特征的方差程度，进而证明了 OOD 泛化误差界，实验证明我们的模型选择标准相比基线有显著优势。

    Jun, 2021

  • 领域泛化的因果平衡

    采用平衡的小批量采样策略来消除数据中的错误相关性，提高机器学习模型在不同领域的泛化能力并以此训练贝叶斯最优分类器，通过实验证明该方法优于 20 种基准方法。

    Jun, 2022

  • 基于不变因果学习算法在观测数据上应用的一步

    该研究提出了一种方法，使用多个训练环境来生成不同干预的多个环境，并评估了基于模拟数据的不受监督的学习问题的 ICP 性能，最后与 ICP 相结合提出了改进的方法，提高了在具有多个协变量的数据集中进行因果发现的性能。

    Apr, 2023

  • 非线性不变风险最小化：一种因果方法

    提出了一种不变因果表示学习 (iCaRL) 方法，通过利用广义指数族分布得出数据表示，可以在非线性场景中实现超出分布的泛化，并发现目标的全部直接原因，针对合成和真实数据集提出性能优于基线方法的实验结果。

    Feb, 2021

  • 关于校准和域外泛化

    本文提出了一种新颖的多域校准机制，该机制使分类器能够在未知领域中实现良好的泛化性能，实验证明通过训练或修改模型实现多域校准可以显著提高模型在未知测试域上的性能。

    Feb, 2021

  • 图形在分布偏移下的泛化

    通过引入图学习不变领域生成（GLIDER）的新框架，本文在节点级别的属性分布和拓扑结构分布的共同分布转变的情境下，实现了优于基准方法的节点级别 OOD 广义化跨域模型。

    Mar, 2024

  • 学习因果不变表示以实现图上的跨分布泛化

    该研究提出了一种新的框架，Causality Inspired Invariant Graph LeArning (CIGA)，通过使用因果模型来确定图表上的潜在分布偏移，从而捕获图表的不变性，以在各种分布偏移下保证 OOD 泛化性能。

    Feb, 2022

  • 通过风格转移进行前门调整以实现外分布泛化

    本研究提出了一种前门调整方法，利用因果图的角度对图像分类过程中的训练偏见问题进行了分析，并以此缓解了混淆特征导致的图像分类结果不稳定的问题。

    Dec, 2022

  • 不变性原理遇见信息瓶颈：超出分布泛化

    通过在线性分类任务中的实验证明了仅仅使用不变性原理是不够的，利用信息瓶颈限制的形式加入不变性原则可以解决当因果特征占据标签信息的时候分类模型的失效问题。

    Jun, 2021

  • 领域泛化中的直接风险最小化

    通过引入因果推断中的直接与间接效应的概念，该论文提出了一种两阶段算法以解决 out-of-distribution generalization 中的相关性偏移问题，改善了现有方法的泛化性能。

    Nov, 2022