OOD-GNN: 面向外分布的通用图神经网络
本文提出了一种名为 StableGNN 的基于因果关系的图神经网络框架,该框架从图数据中提取高级表示,并利用因果推断的区分能力帮助模型消除虚假相关性,具有良好的有效性、灵活性和解释性。
Nov, 2021
我们综合调查了图形领域中的ODD概括率,并详细审查了最近在这个领域取得的进展,然后根据其在图形机器学习流水线中的位置,从数据、模型和学习策略等不同概念上将现有方法分为三类,并对每个类别进行了详细讨论,最后分享了我们对未来研究方向的看法。
Feb, 2022
本文提供首个理论研究证明图神经网络在图形大小大于训练图形的情况下,能够执行归纳式跨领域链接预测任务,我们提出了一种结构节点嵌入的方法,并证明了它的有效性和收敛性。
May, 2022
针对图形数据的OOD检测问题,本论文提出了一种基于图神经网络的能量函数的有效OOD鉴别器,命名为GNNSafe,并在模拟和真实数据集上的评估中证明了它的性能优于现有技术。
Feb, 2023
用于图的预测任务的最先进模型为图神经网络 (GNNs)。本文主要研究在训练和推理期间出现了未在训练集中出现的节点的情况下,存在于图中的 out-of-distribution (OOD) 节点。我们提出了 Out-of-Distribution Graph Attention Network (OODGAT),作为一种新颖的 GNN 模型,通过显式地模型化节点之间的交互,将异常值与正常值分离开来,从而优于现有的异常值检测方法并在内部分布分类方面更好或与之媲美。
Aug, 2023
Graph Neural Network在解决图分类问题上表现出了极好的性能,然而,由于训练和测试数据的选择偏差,造成了分布差异的广泛存在。针对这个问题,我们提出了OOD-GMixup方法来联合调控度量空间中的训练分布,并且通过消除杂乱相关和生成虚拟样本来度量、控制分布偏差。实验结果表明,我们的方法在几个真实世界的图分类数据集上优于现有方法。
Aug, 2023
本研究探讨了图神经网络在分布发生偏移的情况下的泛化能力问题,并提出了学习重加权以增强泛化能力的新方法L2R-GNN,通过对图表示变量进行聚类和学习权重以去除不同类别之间的相关性,有效改善了图神经网络的泛化能力,并在各种图预测基准测试中取得了优异的性能。
Dec, 2023
该研究介绍了一种名为GOODAT的图形局外检测方法,采用一种轻量级图形遮罩技术,通过学习测试样本中的信息子图,能够有效区分局内与局外样本,相较于现有方法具有更好的性能。
Jan, 2024
对于图外分布问题(OOD),本研究从体系结构角度进行了全面调查,探讨了现代图神经网络的常见构建模块。通过广泛的实验,揭示了图的自注意机制和解耦体系结构对图ODD泛化的正面贡献,而线性分类层则会损害图ODD泛化能力。此外,我们基于这些发现开发了一种新的图神经网络模型DGAT,它充分利用了图的自注意机制和解耦体系结构的稳健特性,并通过广泛的实验证明了我们模型在图ODD下的有效性,对各种训练策略都展现出了明显和一致的改进。
Feb, 2024
本研究解决了图形机器学习中的分布外(OOD)泛化问题,该领域面临源数据与目标数据分布之间的差异。本文提出DIVE方法,通过训练多个模型关注所有标签预测子图,并使用正则化器惩罚模型间提取子图的重叠,显著改善了现有方法,从而增强了图形机器学习的泛化能力。
Aug, 2024