本文提出了一种使用卷积神经网络实现的关于具有随机偏微分方程的不确定性建模的代理模型，该方法使用变分梯度下降算法对参数进行 “近似贝叶斯推断”，可以在处理不确定性时实现和其他方法相比具有最先进的预测精度和不确定性量化，即使训练数据量相对较小，也能获得非常好的性能。

Jan, 2018

介绍了一种轻量、快速、高性能的正则化方法用于 Mahalanobis 距离的不确定性预测，并需要对网络的架构进行最小的更改来推导有利于 Mahalanobis 距离计算的高斯潜在表示。通过在标准 OOD 基准测试上进行评估，证明了该方法在最小推理时间内实现了最先进的 OOD 检测结果，并且在预测概率校准方面非常有竞争力。

May, 2023

深度神经网络在过去几十年取得了重大成功，但它们没有很好的校准性，经常产生不可靠的预测。本文关注于不确定性量化在依赖节点级分类中的应用，并提出了改进的正则化方法来提高分类模型的可靠性。经过大量实验证明，在超过分布检测和误分类检测的应用场景中，提出的正则化方法优于目前的最新技术。

Nov, 2023

神经网络模型在科学机器学习任务中的应用近年来已大量增加。尤其是，在建模具有时空复杂性的过程方面，神经网络模型表现出色。然而，这些高度参数化的模型在产生与感兴趣的区域保持定量化误差界限方面引起了怀疑。因此，有必要寻找适用于神经网络的不确定性量化方法。本研究对神经网络对复杂时空过程进行了参数不确定性量化的比较，采用了哈密顿蒙特卡洛和 Stein 变分梯度下降及其投影变体。具体而言，我们将这些方法应用于用递归神经网络和神经常微分方程模型建模的发展系统的图卷积神经网络模型。我们展示了 Stein 变分推断是复杂神经网络模型的可行替代方法。对于我们的示例，与哈密顿蒙特卡洛相比，Stein 变分推断在时间上给出了类似的不确定性描述，尽管方差普遍更大。投影 Stein 变分梯度下降也产生了与非投影对应的类似的不确定性描述，但是在神经网络预测的稳定性和复杂的似然函数空间中卷积产生了活动权重空间的大幅减少与困扰。

Feb, 2024

本文旨在研究如何衡量深度神经网络中不同的不确定性因素，进一步探究利用这些因素更有效地解决不同决策问题的方法。其中，作者提出了一个一般学习框架来定量不同根本原因导致的多种不确定性，并发现在对于深度神经网络的分类及早期时间点的事件检测中，对于实现最佳效果的不确定性因素分别为矛盾和真空。此外，本文还提出了一个改进 SSL 算法的框架，以抵御 OOD 对象的重要影响。

Apr, 2023

本文提出了使用 GNN 的多源不确定性框架，反映了深度学习和信念 / 证据理论领域中各种类型的预测不确定性，以进行节点分类预测。该框架通过从训练节点给定标签收集证据，设计了基于图的核狄利克雷分布估计 (GKDE) 方法，准确预测节点级狄利克雷分布，并检测超出分布的节点，该模型在六个真实网络数据集上表现优于现有模型，并提供了理论证明解释此结果背后的原因。

Oct, 2020

提出了一种学习多模态分布的框架 —— 条件量子生成对抗网络（C-qGAN），该神经网络结构严格在量子电路内，因此显示出比当前方法更有效的状态准备程序。将这一方法应用于定价亚式期权衍生品，为进一步研究其他路径依赖期权打下了基础。

Apr, 2023

研究了如何改进深度神经网络的不确定性量化能力，基于确定性表示将不确定性量化形式化为极小化 - 极大化学习问题，提出了一种名为 SNGP 的方法，通过两个简单的改变来提高现代 DNN 的距离感知能力，取得了较好的预测、校准和超领域检测性能。

May, 2022

该研究提出了 “不确定性感知的专家混合”（uMoE）方法，该方法通过将不确定性直接集成到训练过程中来解决基于神经网络的预测模型中的 aleatoric 不确定性问题。结果表明，uMoE 在处理数据不确定性方面显著优于基线方法，并展示了其适应不同不确定性水平并提供最佳阈值参数的能力。该创新方法可在包括生物医学信号处理、自动驾驶和生产质量控制在内的各种数据驱动领域广泛应用。

Dec, 2023

SNGP 基于权重规范化和高斯过程，解决了深度神经网络中单模型在预测、校准和域外检测上的不确定性问题。

Jun, 2020