Jun, 2023

图结构和特征外推用于超出分布的泛化

PDF
TL;DR本文提出了使用非欧氏线性外推的方法来实现图形 OOD 广义化，并在不破坏基本因果机制的情况下为特定转移定制 OOD 样本，理论分析和实证结果表明了我们的方法在解决目标转移问题上的有效性。
out-of-distribution generalizationgraph learningdata augmentationnon-euclidean-space linear extrapolationtarget shifts
发现论文，激发创造
  • 图上的外域泛化：一份综述

    我们综合调查了图形领域中的 ODD 概括率，并详细审查了最近在这个领域取得的进展，然后根据其在图形机器学习流水线中的位置，从数据、模型和学习策略等不同概念上将现有方法分为三类，并对每个类别进行了详细讨论，最后分享了我们对未来研究方向的看法。

    Feb, 2022

  • 处理图上的分布偏移：一个不变性的视角

    本文提出了一种基于不变性学习和风险最小化的方法，实现图神经网络对于图结构数据上的越域通用性问题进行预测和预测不确定性的估计。

    Feb, 2022

  • 通过因果干预实现图形的超出分布泛化

    通过因果关系分析揭示了图神经网络在节点分布迁移中一种存在于环境背景潜在混淆偏差，提出一种简明的、有原则性的方法通过因果推断来训练鲁棒的图神经网络，以抵消训练数据中的混淆偏差，并促进学习可泛化的预测关系。实验证明，该模型可以有效提高各类分布迁移情况下的泛化性能，在图的分布迁移基准测试中相比最先进方法最多提高 27.4% 的准确率。

    Feb, 2024

  • 超越泛化：关于图上的外域适应性问题调查

    在这篇综述文章中，我们详细回顾了图形 OOD（Out-Of-Distribution）适应方法，并根据学习范式和技术对其进行了分类。我们还指出了有前景的研究方向和相应的挑战。

    Feb, 2024

  • 图形在分布偏移下的泛化

    通过引入图学习不变领域生成（GLIDER）的新框架，本文在节点级别的属性分布和拓扑结构分布的共同分布转变的情境下，实现了优于基准方法的节点级别 OOD 广义化跨域模型。

    Mar, 2024

  • 关于超出分布泛化的理论框架

    本文第一次尝试对 OOD 问题的可学习性和扩张函数进行严格和量化的定义，并引入了一个新的扩张函数概念来量化不变特征的方差程度，进而证明了 OOD 泛化误差界，实验证明我们的模型选择标准相比基线有显著优势。

    Jun, 2021

  • 无需考虑大小的图表示方法，用于图分类和推断

    该研究探讨使用因果模型学习具有近似不变性的表示方法，并展示了这种方法对于培训 / 测试分布转移具有对抗性的图形分类中的好处。

    Mar, 2021

  • 具有可控数据增强的图像领域外泛化

    Graph Neural Network 在解决图分类问题上表现出了极好的性能，然而，由于训练和测试数据的选择偏差，造成了分布差异的广泛存在。针对这个问题，我们提出了 OOD-GMixup 方法来联合调控度量空间中的训练分布，并且通过消除杂乱相关和生成虚拟样本来度量、控制分布偏差。实验结果表明，我们的方法在几个真实世界的图分类数据集上优于现有方法。

    Aug, 2023

  • 面向外部分布泛化：一项调查

    该研究论文系统而全面地讨论了 Out-of-Distribution generalization 问题，其中包括它的定义、方法论、评估以及对未来的启示和发展方向，以及包括无监督表示学习在内的现有方法。

    Aug, 2021

  • OOD-GNN: 面向外分布的通用图神经网络

    本文提出了一种名为 OOD-GNN 的图神经网络，它通过使用利用随机傅里叶特征的非线性图表示装饰方法来消除图表示中相关和不相关部分之间的统计依赖关系，进而使其能够实现对训练图数据分布以外的新颖测试图数据的良好性能。经实验证明，该方法在两个合成和 12 个真实数据集上均远远优于现有的最优基准模型。

    Dec, 2021