我们综合调查了图形领域中的 ODD 概括率,并详细审查了最近在这个领域取得的进展,然后根据其在图形机器学习流水线中的位置,从数据、模型和学习策略等不同概念上将现有方法分为三类,并对每个类别进行了详细讨论,最后分享了我们对未来研究方向的看法。
Feb, 2022
该研究论文系统而全面地讨论了 Out-of-Distribution generalization 问题,其中包括它的定义、方法论、评估以及对未来的启示和发展方向,以及包括无监督表示学习在内的现有方法。
Aug, 2021
通过引入图学习不变领域生成(GLIDER)的新框架,本文在节点级别的属性分布和拓扑结构分布的共同分布转变的情境下,实现了优于基准方法的节点级别 OOD 广义化跨域模型。
Mar, 2024
综述研究了图学习中的分布转变问题及解决方法,将现有的图学习方法分为图领域适应学习、图越域学习和图持续学习三种关键场景,详细讨论了这些场景下的现有进展,并对该领域进行了潜在应用和未来研究方向的分析。
Feb, 2024
机器学习模型在非独立同分布的数据分布下表现出可疑的风险,因此需要发展算法来评估和改善模型的泛化能力以及处理分布变化的能力。本文综述了现有的非独立同分布泛化评估的研究,将其划分为三个范式:非独立同分布性能测试、非独立同分布性能预测和非独立同分布内在特性表征,并简要讨论了预训练模型的非独立同分布评价。最后,提出了未来研究的几个有前景的方向。
本文提出了使用非欧氏线性外推的方法来实现图形 OOD 广义化,并在不破坏基本因果机制的情况下为特定转移定制 OOD 样本,理论分析和实证结果表明了我们的方法在解决目标转移问题上的有效性。
Jun, 2023
本文提出了一种基于不变性学习和风险最小化的方法,实现图神经网络对于图结构数据上的越域通用性问题进行预测和预测不确定性的估计。
通过因果关系分析揭示了图神经网络在节点分布迁移中一种存在于环境背景潜在混淆偏差,提出一种简明的、有原则性的方法通过因果推断来训练鲁棒的图神经网络,以抵消训练数据中的混淆偏差,并促进学习可泛化的预测关系。实验证明,该模型可以有效提高各类分布迁移情况下的泛化性能,在图的分布迁移基准测试中相比最先进方法最多提高 27.4% 的准确率。
本研究旨在开发用于图形的 OOD 基准(称为 GOOD),以区分协变和概念变化并设计准确反映不同变化的数据拆分。在 10 个常用的基线方法上提供性能结果,结果表明在分布内和 OOD 设置之间存在显着性能差距,本基准将不断发展并扩大资源的数量和种类。
Jun, 2022
本文提出了一种名为 OOD-GNN 的图神经网络,它通过使用利用随机傅里叶特征的非线性图表示装饰方法来消除图表示中相关和不相关部分之间的统计依赖关系,进而使其能够实现对训练图数据分布以外的新颖测试图数据的良好性能。经实验证明,该方法在两个合成和 12 个真实数据集上均远远优于现有的最优基准模型。
Dec, 2021