图神经网络中的不确定性研究
对图形模型中的不确定性进行量化的最新方法进行了概述,并将其组织为不确定性表示和处理方法,以加深对图形模型中不确定性量化方法的理解,从而提高其在关键应用中的效果和安全性。
Apr, 2024
我们的研究提出了一个不确定性估计框架,可应用于任何泛化图神经网络(GNN)的基础网络上,以提高节点分类性能。该不确定性估计器模型是一个神经网络,将不确定性建模为概率分布而非离散的概率标量值。通过在 $n$ 路 $k$ 样本方式下进行训练,我们的方法在少样本学习设置中提高了分类准确率,而无需特定的元学习架构。在多个数据集和不同 GNN 基础网络上进行的实验证明了不确定性估计器对于带有 GNN 的少样本节点分类的有效性。
Jun, 2024
AutoGNNUQ 是一种自动化不确定性量化方法,通过生成一组高性能的图神经网络(GNNs)进行分子属性预测,实现对预测的不确定性的估计,并利用方差分解来提供减少不确定性的有价值见解。在多个基准数据集上的计算实验证明,AutoGNNUQ 在预测准确性和不确定性的性能方面优于现有的不确定性量化方法。此外,利用 t-SNE 可视化方法来探索分子特征与不确定性之间的相关性,为数据集的改进提供了见解。AutoGNNUQ 在药物发现和材料科学等领域具有广泛的应用价值。
Jul, 2023
本文提出了使用 GNN 的多源不确定性框架,反映了深度学习和信念 / 证据理论领域中各种类型的预测不确定性,以进行节点分类预测。该框架通过从训练节点给定标签收集证据,设计了基于图的核狄利克雷分布估计 (GKDE) 方法,准确预测节点级狄利克雷分布,并检测超出分布的节点,该模型在六个真实网络数据集上表现优于现有模型,并提供了理论证明解释此结果背后的原因。
Oct, 2020
我们提出了 G-DeltaUQ,这是一个新的训练框架,旨在改进图神经网络的内在不确定性估计,通过独特的图锚定策略适应图数据,从而在节点和图分类中实现更好的标定准确度。
Jan, 2024
在这篇综述中,我们针对当前图神经网络(Graph Neural Networks,GNNs)的信任度问题,介绍了最近关于启发于因果关系的 GNNs 的研究,并提出了基于因果学习能力的 Causality-Inspired GNNs(CIGNNs)的分类和典型方法,以及它们如何缓解信任度风险。我们还总结了有用的资源,并探讨了在这个新兴领域中的几个未来方向,希望能够为新的研究机会提供启示。
Dec, 2023
本文对神经网络不确定性估计进行了全面的概述和介绍,包括模型不确定性和数据不确定性,并介绍了通过确定性神经网络、贝叶斯神经网络、神经网络集合和测试时间数据增强方法来建模这些不确定性的方法。此外,还讨论了不确定性方面的实际应用中存在的挑战和限制,以及未来工作的展望。
Jul, 2021
本文提出了一种基于贝叶斯学习框架嵌入 GNN(图神经网络)的不确定性传递方法,通过建模节点预测的后验概率的置信度以及消息的不确定性,实现了有关节点分类的不确定度传递。同时,还提出了一种针对分类的不确定度取向损失函数,使得训练集中可能引入误差的样本可以得到应有的惩罚,最终通过实验结果的比较证明了该方法的优越性。
Apr, 2023
该研究展示了在预测任务中,图神经网络(GNNs)利用关系信息作为归纳偏差以提高模型的准确性。通过学习图结构的方法来解决下游预测任务中未知的相关关系,同时证明了点预测损失函数(如平均绝对误差)的最小化并不能保证对潜在关系信息及其相关不确定性进行适当的学习。相反,合适的损失函数在随机模型输出上同时确保了(i)未知邻接矩阵潜在分布和(ii)在预测任务上的最佳性能。最后,我们提出了一种基于采样的方法来解决这一联合学习任务。实证结果验证了我们的理论观点,并证明了所提方法的有效性。
May, 2024
本研究探讨了图中非独立节点预测的不确定性量化方法,并提出了一种名为图后验网络(GPN)的新模型,该模型采用贝叶斯后验更新技术并在节点分类中表现出优越性能。
Oct, 2021