深度神经网络中基于潜空间统计推断的不确定性量化

May, 2023

深度神经网络中基于潜空间统计推断的不确定性量化

Uncertainty Quantification in Deep Neural Networks through Statistical Inference on Latent Space

Luigi Sbailò, Luca M. Ghiringhelli

TL;DR本文提出了一种新的算法，通过利用深度神经网络分类器中数据点的潜在空间表示来评估其预测的准确性，该方法可以检测出分布之外的数据点被不正确地预测，从而有助于自动检测异常值。

Abstract

uncertainty-quantification methods are applied to estimate the confidence of deep-neural-networks classifiers over their predictions. However, most widely used methods are known to be overconfident. We address th

uncertainty-quantification deep-neural-networks latent-space representation overconfidence out-of-distribution data

发现论文，激发创造

神经状态空间模型：不确定性量化的实证评估

本研究应用 Bayesian 概率框架和近似推理技术，对神经状态空间模型进行不确定性量化，得出模型输出的可信区间和惊奇指数，以有效诊断模型在潜在危险的分布区域内的使用可能性。

Apr, 2023

深度学习的不确定性量化

提供了深度学习的完整且具有统计一致性的不确定性量化，包括源自（1）新的输入数据，（2）训练和测试数据，（3）神经网络的权重向量和（4）神经网络本身的不确定性。

May, 2024

科学机器学习中的不确定性量化：方法、指标和比较

本文介绍了一个包含不确定性建模、解法和评估的完整框架，用于量化神经网络中包括噪声、有限数据、超参数、过度参数化、优化和采样误差及模型错误等多源的误差和不确定性，特别关注向无限维函数空间中的偏微分方程和操作映射的学习，包括一个在原型问题上进行的广泛的比较研究。

Jan, 2022

稀疏深度学习的不确定性量化

本文探讨了深度学习中的不确定性矫正问题，提出并验证了在非参数回归任务中使用稀疏深度 ReLU 结构进行贝叶斯推断的理论模型，强调了其在统计推断方面的优势。

Feb, 2020

利用证据理论的深度学习进行分类不确定性量化

通过在类概率上使用狄利克雷分布对主观逻辑进行建模并使用确定性神经网络从数据学习收集导致预测的证据的功能，我们提出一种与贝叶斯神经网络正交的方法，该方法可以直接推断出预测的不确定性。我们的方法在检测超出分布的查询和对抗性扰动方面取得了空前的成功。

Jun, 2018

深度神经网络中的不确定性调查

本文对神经网络不确定性估计进行了全面的概述和介绍，包括模型不确定性和数据不确定性，并介绍了通过确定性神经网络、贝叶斯神经网络、神经网络集合和测试时间数据增强方法来建模这些不确定性的方法。此外，还讨论了不确定性方面的实际应用中存在的挑战和限制，以及未来工作的展望。

Jul, 2021

神经网络不确定性估计在分类问题中的质量比较

对深度学习的 UQ 方法进行了质量评估，比较了不同模型的不确定性估计质量。

Aug, 2023

深度神经分类器的偏差减少不确定性估计

本研究提出了一种基于模型历史快照的算法，用于在非贝叶斯深度神经分类中，有选择地估计高度自信点的不确定性，这解决了从已训练网络中提取不确定信号的已知方法所带来的偏差估计问题，研究表明所提出的算法比所有已知方法的不确定性估计结果更加准确。

May, 2018

时空数据的深度学习不确定性量化：挑战与机遇

通过深度学习对时空数据进行不确定性量化，可以解决在高风险决策应用中出现的预测错误问题，并为未来的研究方向提供了潜在的机会。

Nov, 2023

时空数据不确定性量化的共形方法综述

本文调查了最近的深度学习方面的不确定性量化的研究，特别关注了具有数学特性和广泛适用性的无分布符合预测方法，介绍了相关技术和在时空数据背景下提高校准和效率的方法，并讨论了不确定性量化在安全决策方面的作用。

Sep, 2022