通过综述现有的图卷积神经网络预测不确定性理论与方法,以及相关任务,我们主要关注不确定性的集成,这旨在增强模型性能与预测可靠性,从而桥接理论与实践,并连接不同的图卷积神经网络社区,同时为这个领域提供了有价值的研究方向。
Mar, 2024
AutoGNNUQ 是一种自动化不确定性量化方法,通过生成一组高性能的图神经网络(GNNs)进行分子属性预测,实现对预测的不确定性的估计,并利用方差分解来提供减少不确定性的有价值见解。在多个基准数据集上的计算实验证明,AutoGNNUQ 在预测准确性和不确定性的性能方面优于现有的不确定性量化方法。此外,利用 t-SNE 可视化方法来探索分子特征与不确定性之间的相关性,为数据集的改进提供了见解。AutoGNNUQ 在药物发现和材料科学等领域具有广泛的应用价值。
Jul, 2023
我们提出了 G-DeltaUQ,这是一个新的训练框架,旨在改进图神经网络的内在不确定性估计,通过独特的图锚定策略适应图数据,从而在节点和图分类中实现更好的标定准确度。
Jan, 2024
本研究比较了多种机器学习技术的 UQ 准确性,并对两个模型(船只在波浪中的运动和 Majda-McLaughlin-Tabak 模型)进行了应用。
Jun, 2023
本文介绍了一个包含不确定性建模、解法和评估的完整框架,用于量化神经网络中包括噪声、有限数据、超参数、过度参数化、优化和采样误差及模型错误等多源的误差和不确定性,特别关注向无限维函数空间中的偏微分方程和操作映射的学习,包括一个在原型问题上进行的广泛的比较研究。
Jan, 2022
我们的研究提出了一个不确定性估计框架,可应用于任何泛化图神经网络(GNN)的基础网络上,以提高节点分类性能。该不确定性估计器模型是一个神经网络,将不确定性建模为概率分布而非离散的概率标量值。通过在 $n$ 路 $k$ 样本方式下进行训练,我们的方法在少样本学习设置中提高了分类准确率,而无需特定的元学习架构。在多个数据集和不同 GNN 基础网络上进行的实验证明了不确定性估计器对于带有 GNN 的少样本节点分类的有效性。
Jun, 2024
本篇研究论文重点介绍了机器学习模型中的不确定性量化方法,特别关注神经网络以及在工程设计和医疗领域的应用。通过介绍多种不确定性量化方法和计量标准,本篇论文旨在帮助提高机器学习模型的安全性和可靠性,同时提供两个具体案例:锂离子电池寿命预测和涡轮发动机剩余使用寿命预测。
May, 2023
本研究探讨了图中非独立节点预测的不确定性量化方法,并提出了一种名为图后验网络(GPN)的新模型,该模型采用贝叶斯后验更新技术并在节点分类中表现出优越性能。
Oct, 2021
该研究综述了图神经网络和概率图形模型的交叉应用,探讨了 GNN 如何受益于 PGM 学习结构表示,如何实现更有效的推理和结构学习,以及分析了近期研究中使用的基准数据集和未来研究方向。
May, 2022
神经网络模型在科学机器学习任务中的应用近年来已大量增加。尤其是,在建模具有时空复杂性的过程方面,神经网络模型表现出色。然而,这些高度参数化的模型在产生与感兴趣的区域保持定量化误差界限方面引起了怀疑。因此,有必要寻找适用于神经网络的不确定性量化方法。本研究对神经网络对复杂时空过程进行了参数不确定性量化的比较,采用了哈密顿蒙特卡洛和 Stein 变分梯度下降及其投影变体。具体而言,我们将这些方法应用于用递归神经网络和神经常微分方程模型建模的发展系统的图卷积神经网络模型。我们展示了 Stein 变分推断是复杂神经网络模型的可行替代方法。对于我们的示例,与哈密顿蒙特卡洛相比,Stein 变分推断在时间上给出了类似的不确定性描述,尽管方差普遍更大。投影 Stein 变分梯度下降也产生了与非投影对应的类似的不确定性描述,但是在神经网络预测的稳定性和复杂的似然函数空间中卷积产生了活动权重空间的大幅减少与困扰。
Feb, 2024