哪些模型天生就擅长不确定性估计?
本研究提出了一种基于模型历史快照的算法,用于在非贝叶斯深度神经分类中,有选择地估计高度自信点的不确定性,这解决了从已训练网络中提取不确定信号的已知方法所带来的偏差估计问题,研究表明所提出的算法比所有已知方法的不确定性估计结果更加准确。
May, 2018
提出三种方法以分析密集回归训练网络的输出方差,在推理过程中无需重新训练或调整模型,这些方法得出的不确定性估计结果与需要重新训练以及调整的最先进的方法相当甚至更好。
Sep, 2019
通过对神经网络的深度进行概率推理,我们能够只需一次前向传播,就能估计模型的不确定性。在真实的回归和图像分类任务中,我们验证了这一方法的效果,并证明它能提供不确定度校准、对数据集变化的鲁棒性和与计算成本更高的基线准确度相当的预测结果。
Jun, 2020
本文介绍了Uncertainty Baselines,这是一个包括19个方法在9个任务上的高质量实现,以提供对不同方法进行比较的立即出发点,每个基线都是一个自包含的实验流水线,易于重用和扩展,同时提供模型检查点、实验输出和排行榜以比较结果。
Jun, 2021
本文对神经网络不确定性估计进行了全面的概述和介绍,包括模型不确定性和数据不确定性,并介绍了通过确定性神经网络、贝叶斯神经网络、神经网络集合和测试时间数据增强方法来建模这些不确定性的方法。此外,还讨论了不确定性方面的实际应用中存在的挑战和限制,以及未来工作的展望。
Jul, 2021
本文研究了基于深度神经网络的不确定性估计算法的鲁棒性,并提出了一种敌对攻击方法,证明了这些算法对于出域数据的不确定性估计容易受到攻击。在各种基准图像数据集上进行的大量实验结果表明,最先进方法所估计的不确定性很容易被我们的攻击所破坏。
Oct, 2022
本文考察523个现有的深度图像分类器在选择性预测和不确定性估计性能方面的表现,发现蒸馏型训练方案普遍比其他训练方案具有更好的估计不确定性的能力,ViT模型在不确定性估计方面的表现超过其他模型。
Feb, 2023
该研究以深度神经网络模型为对象,研究了其在处理异常情况(如分布外或扰动数据)时的不确定性。研究通过实验证明,使用预训练模型进行分类对于异常图像表现良好,基于概率平均的集成模型能够进一步提高分类性能,而添加扰动会显著影响模型的鲁棒性,表明了人工智能模型的局限性。
Sep, 2023
该研究提出了一种新的数据不确定性估计方法,通过主动去噪处理观察数据,以更准确地近似实际数据不确定性。实验证明,与标准方法相比,我们提出的方法更接近实际数据不确定性。
Dec, 2023
通过综合运用各种技术,包括模型正则化、分类器和优化等,本研究改进了深度神经网络的不确定性估计技术,提高了其对图像分类任务的准确性,并通过与其他模型的对比实验证明了其在现实世界挑战中的稳健性。
Mar, 2024