研究了如何改进深度神经网络的不确定性量化能力，基于确定性表示将不确定性量化形式化为极小化 - 极大化学习问题，提出了一种名为 SNGP 的方法，通过两个简单的改变来提高现代 DNN 的距离感知能力，取得了较好的预测、校准和超领域检测性能。

May, 2022

SNGP 基于权重规范化和高斯过程，解决了深度神经网络中单模型在预测、校准和域外检测上的不确定性问题。

Jun, 2020

论文提出了一种通过单次前向传递来训练确定性深度模型的方法，该深度模型可以找到并拒绝分布外的数据点。此外，论文还提出了一种基于确定性不确定性量化（DUQ）的建议，并描述了一种新的损失函数和质心更新策略。通过引入梯度惩罚，我们能够可靠地检测分布外的数据，并且可以在大型数据集上缩放不确定性量化。最后，作者在一些难以检测的数据集上，如 FashionMNIST vs. MNIST 和 CIFAR-10 vs. SVHN，使用单个模型得出了比 Deep Ensembles 更好的结果。

Mar, 2020

本文提出了一种基于距离感知的先验分布校准方法 (DAP)，可用于纠正贝叶斯深度学习模型在域外过于自信的问题，该方法可以作为后处理步骤执行，并能够有效地用于多种分类和回归问题。

Jul, 2022

该研究介绍了一种名为 Discriminant Distance-Awareness Representation（DDAR）的新颖且高效的确定性不确定性评估方法，通过构建一个在潜在表示中包含一组原型的 DNN 模型来分析输入数据的有价值特征信息，通过松弛限制了决定性不确定性方法（DUMs）架构的利普希茨条件，从而克服了特征坍缩问题，实验结果表明 DDAR 是一种灵活且与架构无关的方法，在多个基准问题上优于现有的不确定性评估方法。

Feb, 2024

通过拟合互信息的规范化核格拉姆矩阵，我们提出了一种新的可微信息瓶颈方法 (DIB)，通过确定性和解析的方式有效地进行多视角聚类，实现了输入变量从不同视角的确定性压缩。

Mar, 2024

本文提出了一组新的方法，可以通过单次前向传递来估计深度神经网络中的认识不确定性，这些确定性不确定性方法在表示信息的前提下，在检测超出分布数据（OOD）方面表现出强大的性能，同时几乎不增加推理时间的计算成本。然而，DUMs 是否校准良好且是否可以无缝地扩展到实际应用仍不清楚。本文对 DUM 进行分类和评估，发现当前方法的实用性受到分布移位校准的限制。

Jul, 2021

使用深度高斯过程逼近（DGPA）方法，我们对萨帕腾中子源（SNS）加速器的错误光束预测（分类）进行了研究，并为费米国家加速器实验室（FNAL）助推器加速器复合物（回归）提供了一个具有不确定性感知的代理模型。

Sep, 2023

通过信息论角度分析，本文提出一种将训练好的神经网络转换为 ODD 检测器的方法，该方法使用少量梯度下降步骤，且在流行的图像数据集上准确性优于现有方法，并且减少了计算复杂度。

Feb, 2022

该论文提出了一种建立在离散瓶颈基础上的新方法来解决深度神经网络在连续学习中出现的灾难性遗忘问题，利用离散的键值对更加针对性地更新模型权重，实现有效减少灾难性遗忘。

Jul, 2022