523 个 Imagenet 分类器的选择性预测和不确定性估计性能有什么可学之处
探讨深度神经网络架构与训练机制与其相应的选择性预测和不确定性估计性能的关系,并在 484 个预训练的深度 Imagenet 分类器中进行了全面的选择性预测和不确定性估计性能研究,发现 ViT 架构在不确定性估计性能方面表现最优。
Jun, 2022
本研究针对神经网络预测的不确定性准确度进行研究,提出了针对不同使用场景下的新度量标准,探讨了模型复杂度与不确定度准确度之间的权衡关系,并通过实验验证了新度量标准的有效性和一些有趣的趋势。
Mar, 2019
部署深度神经网络用于风险敏感任务需要一个不确定性估计机制。本文介绍了分层选择分类,将选择分类扩展到分层环境中。我们的方法利用类别关系的固有结构,使模型在面临不确定性时减少其预测的特异性。本文首先形式化了分层风险和覆盖,并介绍了分层风险覆盖曲线。接下来,我们开发了针对分层选择分类的算法(也称为 “推理规则”),并提出了一种能够以高概率保证目标准确性约束的高效算法。最后,我们对一千多个 ImageNet 分类器进行了大量的实证研究,揭示了诸如 CLIP、ImageNet21k 预训练和知识蒸馏等训练制度提升了分层选择性能。
May, 2024
本研究提出了一种基于模型历史快照的算法,用于在非贝叶斯深度神经分类中,有选择地估计高度自信点的不确定性,这解决了从已训练网络中提取不确定信号的已知方法所带来的偏差估计问题,研究表明所提出的算法比所有已知方法的不确定性估计结果更加准确。
May, 2018
该论文提出了一种深度学习可扩展的确定性和不确定性评估框架,并对两种最先进的可扩展方法进行了比较,即集成和 MC-dropout,结果表明集成方法提供更可靠和实用的不确定性估计。
Jun, 2019
本研究提出了一种替代贝叶斯 NN 的简单实现方法,其能够产生高质量的预测不确定性估计,并在分类和回归数据集上进行了实验以证明这一点。此外,研究还评估了在已知和未知数据分布下的预测不确定性,并证明该方法能够在超出分布的样本上表现出更高的不确定性,同时在 ImageNet 上证明了该方法的可扩展性。
Dec, 2016
该研究以深度神经网络模型为对象,研究了其在处理异常情况(如分布外或扰动数据)时的不确定性。研究通过实验证明,使用预训练模型进行分类对于异常图像表现良好,基于概率平均的集成模型能够进一步提高分类性能,而添加扰动会显著影响模型的鲁棒性,表明了人工智能模型的局限性。
Sep, 2023
利用不同方法高效估计深度神经网络的预测不确定性和敏感性,并将其互动比较和对比,以应对可靠的不确定性感知模型在深度图像合成任务中产生信息丰富且质量多样的插图,进一步提高深度可视化模型的稳健性和可解释性,使其在以视觉分析为基础的各个科学领域得以实际应用和方便使用。
May, 2024
本篇研究提出了一种神经网络模型,该模型能够同时表达 aleatoric 和 epistemic 不确定性,区分特征空间的决策边界和 “out-of-distribution” 区域。在训练过程中,通过集成变分自编码器和生成对抗网络的方法生成了 “out-of-distribution” 样本。通过在多个数据集上进行实验,表明该方法提供了更好的不确定性估计,并且在识别对抗样本时表现出优异的表现。
Jun, 2020
通过在类概率上使用狄利克雷分布对主观逻辑进行建模并使用确定性神经网络从数据学习收集导致预测的证据的功能,我们提出一种与贝叶斯神经网络正交的方法,该方法可以直接推断出预测的不确定性。我们的方法在检测超出分布的查询和对抗性扰动方面取得了空前的成功。
Jun, 2018