带有非分布节点的图学习

KDDAug, 2023

Learning on Graphs with Out-of-Distribution Nodes

Yu Song, Donglin Wang

TL;DR用于图的预测任务的最先进模型为图神经网络 (GNNs)。本文主要研究在训练和推理期间出现了未在训练集中出现的节点的情况下，存在于图中的 out-of-distribution (OOD) 节点。我们提出了 Out-of-Distribution Graph Attention Network (OODGAT)，作为一种新颖的 GNN 模型，通过显式地模型化节点之间的交互，将异常值与正常值分离开来，从而优于现有的异常值检测方法并在内部分布分类方面更好或与之媲美。

Abstract

graph neural networks (GNNs) are state-of-the-art models for performing prediction tasks on graphs. While existing GNNs have shown great performance on various tasks related to graphs, little attention has been paid to the scenario where out-of-distribution (OOD) nodes exist in the gra

graph neural networks out-of-distribution nodes graph learning outlier detection oodgat

发现论文，激发创造

OOD-GNN: 面向外分布的通用图神经网络

本文提出了一种名为 OOD-GNN 的图神经网络，它通过使用利用随机傅里叶特征的非线性图表示装饰方法来消除图表示中相关和不相关部分之间的统计依赖关系，进而使其能够实现对训练图数据分布以外的新颖测试图数据的良好性能。经实验证明，该方法在两个合成和 12 个真实数据集上均远远优于现有的最优基准模型。

Dec, 2021

通过因果干预实现图形的超出分布泛化

通过因果关系分析揭示了图神经网络在节点分布迁移中一种存在于环境背景潜在混淆偏差，提出一种简明的、有原则性的方法通过因果推断来训练鲁棒的图神经网络，以抵消训练数据中的混淆偏差，并促进学习可泛化的预测关系。实验证明，该模型可以有效提高各类分布迁移情况下的泛化性能，在图的分布迁移基准测试中相比最先进方法最多提高 27.4% 的准确率。

Feb, 2024

关于对非分布式图形泛化图形神经网络

本文提出了一种名为 StableGNN 的基于因果关系的图神经网络框架，该框架从图数据中提取高级表示，并利用因果推断的区分能力帮助模型消除虚假相关性，具有良好的有效性、灵活性和解释性。

Nov, 2021

探究图神经网络的超范围泛化：一种架构视角

对于图外分布问题（OOD），本研究从体系结构角度进行了全面调查，探讨了现代图神经网络的常见构建模块。通过广泛的实验，揭示了图的自注意机制和解耦体系结构对图 ODD 泛化的正面贡献，而线性分类层则会损害图 ODD 泛化能力。此外，我们基于这些发现开发了一种新的图神经网络模型 DGAT，它充分利用了图的自注意机制和解耦体系结构的稳健特性，并通过广泛的实验证明了我们模型在图 ODD 下的有效性，对各种训练策略都展现出了明显和一致的改进。

Feb, 2024

基于能量的图神经网络异常检测

针对图形数据的 OOD 检测问题，本论文提出了一种基于图神经网络的能量函数的有效 OOD 鉴别器，命名为 GNNSafe，并在模拟和真实数据集上的评估中证明了它的性能优于现有技术。

Feb, 2023

GOOD-D: 无监督图形外分布检测

本研究旨在通过无监督学习的方式，利用图像对 OOD 图像进行检测，提出了一种基于对比学习的 GOOD-D 图像对比学习框架，并使用基于层级对比学习的方法捕捉潜在的 ID 模式，能够在不使用任何 ground truth 标签的情况下准确检测 OOD graphs，并建立了一个综合基准来比较我们的提出的方法和不同的最先进的方法，实验结果证明了我们方法的卓越性。

Nov, 2022

GOODAT：面向测试时图形外分布检测

该研究介绍了一种名为 GOODAT 的图形局外检测方法，采用一种轻量级图形遮罩技术，通过学习测试样本中的信息子图，能够有效区分局内与局外样本，相较于现有方法具有更好的性能。

Jan, 2024

消息传递图神经网络在大型测试图中的 OOD 链接预测泛化能力

本文提供首个理论研究证明图神经网络在图形大小大于训练图形的情况下，能够执行归纳式跨领域链接预测任务，我们提出了一种结构节点嵌入的方法，并证明了它的有效性和收敛性。

May, 2022

图上的外域泛化：一份综述

我们综合调查了图形领域中的 ODD 概括率，并详细审查了最近在这个领域取得的进展，然后根据其在图形机器学习流水线中的位置，从数据、模型和学习策略等不同概念上将现有方法分为三类，并对每个类别进行了详细讨论，最后分享了我们对未来研究方向的看法。

Feb, 2022

解决图神经网络中本地化训练数据的影响

通过规范化方法，适应并改善模型在局部训练数据和整个图预测过程中的表现，提高图神经网络模型对非分布式数据的适应能力和泛化性能。

Jul, 2023