贝叶斯图神经网络在一致预测中的温度
本研究提出了一种基于置信度的图神经网络模型 CF-GNN,以保证模型的可靠性,所采用的置信度预测方法即为 conformal prediction,该方法可产生预测区间,该区间内包含了真值标签,该模型通过拓扑感知输出修正模型减少了预测集大小,从而实现了较高的预测精度。
May, 2023
本文探讨了在深度神经网络中表示模型不确定性的 Conformal Prediction 框架,提出了一种新的基于概率方法的模型不确定性量化方法,并提供了可靠的边界用于计算不确定度。
Jun, 2023
这篇论文介绍了一种无分布和无模型偏见的不确定性量化方法,用于构建基于 GNN 的链接预测的具有统计保证的预测区间,该方法在遵循幂律分布的图结构上显著提高了基线方法的有效性。
Jun, 2024
本研究提出了一种名为邻域适应序列预测(NCP)的新算法,通过利用神经网络的学习表示来识别给定测试输入的 k 个最近邻校准样例,并根据它们的距离分配重要性权重,创建自适应预测集,从而提高使用 CP 进行深度分类器的不确定性量化的效率。
Mar, 2023
该研究论文研究了适用于高概率包含真实标签的预测集的不确定性量化技术 - 保形预测。通过实验证明,使用事后校准方法和较小的温度得到的预测集有改进校准,而事后校准方法和较大的温度得到的预测集有改进保形预测性能。论文提出了一种新的 $ extbf {保形温度缩放}$(ConfTS)方法,通过阈值和非规范得分之间的差距调整目标,使 ConfTS 的新目标朝向满足 $ extit {边际覆盖}$ 的最优集合优化温度值。实验表明我们的方法能够有效改进广泛使用的保形预测方法。
Feb, 2024
本研究利用信息论来将符合预测与其他不确定性概念相联系,并证明了三种不同的方法来上界内在不确定性,同时通过符合预测和信息论不等式的组合,实现了两种直接有用的应用:(i)更规范和有效的符合训练目标,从头开始实现机器学习模型的端到端训练,(ii)将旁路信息纳入符合预测的自然机制。我们在集中式和联邦学习环境中进行了实证验证,并证明了我们的理论结果能够转化为流行的符合预测方法的低效性(平均预测集大小)。
May, 2024
使用符合预测(conformal prediction)技术,此论文提出了一种用于解决图半监督学习中图神经网络(GNN)预测不确定性问题的方法,该方法还引入了一种新的损失函数来优化模型预测,并在标准图基准数据集上进行了验证。
May, 2024
本文探讨了后验温度的调整在贝叶斯神经网络中的作用以及先验的影响,研究发现,在高质量的分类数据集如 MNIST 或 CIFAR 中,经常使用的先验能够显著地高估标签的不确定性。研究在高斯过程回归中发现,任何正数的温度都对应于一个经过修改的先验下的有效后验,而调整后验温度直接类比于经验贝叶斯。当应用于分类任务时,调整先验并不直接等同于调整后验温度,但是降低后验温度可以得到更好地反映新增训练样本信息的模型。因此,虽然冷后验并不总是对应于精确的推理过程,但我们认为,它们可能更好地反映了我们真实的先验信念。
Jul, 2020
通过建立基础预测器的泛化性能与条件概率预测集成信息量之间的理论连接,本研究推导了一个上界,以便理解条件概率预测集的平均大小对校准数据量、目标可靠性和基础预测器的泛化性能的依赖关系。通过简单的数值回归和分类任务验证了理论洞察的有效性。
Jan, 2024