一个图不仅仅是其节点:走向图结构不确定性感知学习
我们的研究提出了一个不确定性估计框架,可应用于任何泛化图神经网络(GNN)的基础网络上,以提高节点分类性能。该不确定性估计器模型是一个神经网络,将不确定性建模为概率分布而非离散的概率标量值。通过在 $n$ 路 $k$ 样本方式下进行训练,我们的方法在少样本学习设置中提高了分类准确率,而无需特定的元学习架构。在多个数据集和不同 GNN 基础网络上进行的实验证明了不确定性估计器对于带有 GNN 的少样本节点分类的有效性。
Jun, 2024
本篇论文提出了一种基于图神经网络的节点分类不确定性感知学习框架,通过分布鲁棒优化来最小化最坏风险,以更好地在各种噪声情况下实现节点嵌入学习,实验结果表明与现有方法相比,该框架具有更优越的预测表现。
Jun, 2023
本文提出了使用 GNN 的多源不确定性框架,反映了深度学习和信念 / 证据理论领域中各种类型的预测不确定性,以进行节点分类预测。该框架通过从训练节点给定标签收集证据,设计了基于图的核狄利克雷分布估计 (GKDE) 方法,准确预测节点级狄利克雷分布,并检测超出分布的节点,该模型在六个真实网络数据集上表现优于现有模型,并提供了理论证明解释此结果背后的原因。
Oct, 2020
通过综述现有的图卷积神经网络预测不确定性理论与方法,以及相关任务,我们主要关注不确定性的集成,这旨在增强模型性能与预测可靠性,从而桥接理论与实践,并连接不同的图卷积神经网络社区,同时为这个领域提供了有价值的研究方向。
Mar, 2024
我们提出了 G-DeltaUQ,这是一个新的训练框架,旨在改进图神经网络的内在不确定性估计,通过独特的图锚定策略适应图数据,从而在节点和图分类中实现更好的标定准确度。
Jan, 2024
在节点分类的背景下,本文理论上证明了在超图上,大多数 HyperGNN 可以使用带有超图的加权团展开的 GNN 进行近似。通过加权团展开的 GNN,我们提出了一种简单高效的框架 WCE-GNN,用于超图节点分类,并在九个真实超图节点分类基准上的实验证明了 WCE-GNN 相比于最先进的 HyperGNN 具有更高的分类准确性,以及更好的内存和运行时效率。
Feb, 2024
该研究展示了在预测任务中,图神经网络(GNNs)利用关系信息作为归纳偏差以提高模型的准确性。通过学习图结构的方法来解决下游预测任务中未知的相关关系,同时证明了点预测损失函数(如平均绝对误差)的最小化并不能保证对潜在关系信息及其相关不确定性进行适当的学习。相反,合适的损失函数在随机模型输出上同时确保了(i)未知邻接矩阵潜在分布和(ii)在预测任务上的最佳性能。最后,我们提出了一种基于采样的方法来解决这一联合学习任务。实证结果验证了我们的理论观点,并证明了所提方法的有效性。
May, 2024
本文对多个数据集上应用先进的图神经网络(Graph Neural Networks,GNNs)进行校准的实验进行了实证评估,结果表明,GNNs 在一些数据集上可以被校准,但在另一些数据集上却可能出现重大偏差,而且目前先进的校准方法可以提供帮助,但并不能完全解决问题。
May, 2019
本文提出了一种新的框架,称为联合簇监督学习,用于建模每个节点与其相应簇的联合分布,通过联合损失训练图神经网络,从而明确地增强目标节点的区分能力,并且有效地保护节点分类不受敌对攻击的影响。
May, 2024
安全部署图神经网络 (GNNs) 在分布偏移下需要模型提供准确的置信指标 (CI)。然而,尽管众所周知在计算机视觉领域 CI 质量随着分布偏移而降低,但 GNN 领域对此行为的研究仍然不足。因此,我们从在受控的结构和特征分布偏移下进行的 CI 校准案例研究开始,并证明了增强表达能力或模型规模并不总是导致 CI 性能的提高。因此,我们主张使用认识不确定性量化 (UQ) 方法来调节 CI。为此,我们提出了 G-$\Delta$UQ,这是一种新的单模型 UQ 方法,它将最近提出的随机居中框架扩展到支持结构化数据和部分随机性。在协变量、概念和图大小转移方面进行评估,G-$\Delta$UQ 不仅在获取校准 CI 方面优于几种受欢迎的 UQ 方法,而且在使用 CI 进行广义泛化预测或 OOD 检测时也优于其他方法。总的来说,我们的工作不仅引入了一种新的灵活的 GNN UQ 方法,还对安全关键任务中的 GNN CI 提供了新的见解。
Sep, 2023