DIVE:子图分歧用于图形分布外泛化
本文提出了一种名为OOD-GNN的图神经网络,它通过使用利用随机傅里叶特征的非线性图表示装饰方法来消除图表示中相关和不相关部分之间的统计依赖关系,进而使其能够实现对训练图数据分布以外的新颖测试图数据的良好性能。经实验证明,该方法在两个合成和12个真实数据集上均远远优于现有的最优基准模型。
Dec, 2021
该研究提出了一种新的框架,Causality Inspired Invariant Graph LeArning (CIGA),通过使用因果模型来确定图表上的潜在分布偏移,从而捕获图表的不变性,以在各种分布偏移下保证OOD泛化性能。
Feb, 2022
我们综合调查了图形领域中的ODD概括率,并详细审查了最近在这个领域取得的进展,然后根据其在图形机器学习流水线中的位置,从数据、模型和学习策略等不同概念上将现有方法分为三类,并对每个类别进行了详细讨论,最后分享了我们对未来研究方向的看法。
Feb, 2022
本研究通过提出一个名为MARIO的不受模型限制的方案来改善无监督图对比学习方法的异分布推广性,该方法介绍了信息瓶颈原则和不变性原则,并在广泛实验中表现出在异分布测试集上具有最先进性能,与现有方法相比在内分布测试集上维持了相当的性能。
Jul, 2023
对于图外分布问题(OOD),本研究从体系结构角度进行了全面调查,探讨了现代图神经网络的常见构建模块。通过广泛的实验,揭示了图的自注意机制和解耦体系结构对图ODD泛化的正面贡献,而线性分类层则会损害图ODD泛化能力。此外,我们基于这些发现开发了一种新的图神经网络模型DGAT,它充分利用了图的自注意机制和解耦体系结构的稳健特性,并通过广泛的实验证明了我们模型在图ODD下的有效性,对各种训练策略都展现出了明显和一致的改进。
Feb, 2024
提出了一种统一框架,利用必要性和充分性概率来提取不变的子图结构(PNSIS),并采用集成方法利用虚假子图增强噪声数据的泛化性能,在图OOD问题上胜过现有技术,显示了在实际场景中的有效性。
Feb, 2024
在这篇综述文章中,我们详细回顾了图形OOD(Out-Of-Distribution)适应方法,并根据学习范式和技术对其进行了分类。我们还指出了有前景的研究方向和相应的挑战。
Feb, 2024
通过因果关系分析揭示了图神经网络在节点分布迁移中一种存在于环境背景潜在混淆偏差,提出一种简明的、有原则性的方法通过因果推断来训练鲁棒的图神经网络,以抵消训练数据中的混淆偏差,并促进学习可泛化的预测关系。实验证明,该模型可以有效提高各类分布迁移情况下的泛化性能,在图的分布迁移基准测试中相比最先进方法最多提高27.4%的准确率。
Feb, 2024
本文针对图学习中分布外(OOD)泛化的主要挑战,提出了一种基于信息瓶颈理论的不变图学习框架(InfoIGL),旨在提取图的稳定特征并提高模型对未见分布的泛化能力。通过引入冗余过滤器和多层次对比学习,InfoIGL在不依赖不变性监督信号的情况下,显著提升了图分类任务的OOG泛化性能,实验结果显示该方法在合成和真实世界数据集上实现了最先进的性能。
Aug, 2024