介绍了一种名为 BayesFormer 的基于 Bayesian theory 设计的 Transformer 模型，该模型利用变分推断中的 dropout 扩展到 Transformer-based architectures，通过多种实验在自然语言处理、机器翻译、长序列理解和主动学习等领域展现出了卓越的性能。

Jun, 2022

本文介绍了贝叶斯神经网络中的概率层、架构和训练方法，并探讨了其扩展传统深度学习的方法，给出了 Tensorflow 的编程实现示例。然而，深层架构的不确定性考虑会让训练成本很高，而混合贝叶斯神经网络的策略可以很好地解决这个问题。

Jun, 2021

我们提出了一种新的贝叶斯末层模型，用于处理异方差噪声下的多变量回归，并提出了一种参数学习的优化算法。贝叶斯末层模型将预测分布的贝叶斯建模与神经网络的参数化相结合，能够通过单次前向传递进行不确定性量化。该框架能够区分事件误差和认知误差，并可用于将经典训练的深度神经网络迁移到具有不确定性感知能力的新数据领域。

May, 2024

这篇研究论文探究了一种新型的贝叶斯深度学习，通过在网络结构上执行贝叶斯推断来加强深度网络的不确定性估计，并提出了一种有效的随机变分推断方法，以统一网络结构和权重的学习。

Nov, 2019

为了应用于深度学习的相关领域，评估深度神经网络的预测不确定性是至关重要的。本文提出了一种新的预测不确定性标准，它应该基于输入的经验密度，使得对于训练数据中不可能出现的输入提供更高的不确定性，对于更可能出现的输入提供较低的不确定性，并开发了一个用于随机神经网络的密度不确定性层，以确保满足这一标准，研究了具有密度不确定性层的神经网络在 CIFAR-10 和 CIFAR-100 不确定性基准上的性能

Jun, 2023

本文提出一种新颖的网络架构搜索 (NAS) 方法，用于优化 Bayesian 神经网络（BNN）的精度和不确定性，同时减少推理延迟。与传统的 NAS 不同，该方法使用来自内部和外部分布的数据搜索模型的不确定性性能，从而可以在网络中搜索贝叶斯层的正确位置，并且相对于流行的 BNN 基线，使用的运行时仅为其一小部分，将推理运行时成本分别与 MCDropout 和 deep ensemble 相比在 CIFAR10 数据集上分别降低了 2.98 倍和 2.92 倍。

Feb, 2022

本文研究贝叶斯神经网络和潜在变量的概率模型，使用信息论方法和风险敏感目标分别将预测不确定性分解为认知和概率性成分，以解决主动学习和安全强化学习等领域中的模型偏差问题。

Jun, 2017

本研究发展了一种新的理论框架，将深度神经网络的 dropout 训练视为深高斯过程中的近似贝叶斯推断。我们的理论框架使我们能够通过 dropout 神经网络建模不确定性，从而解决了在深度学习中表示不确定性的问题，而不会牺牲计算复杂性或测试精度。

Jun, 2015

该论文介绍了 Bayes by Hypernet，一种新的变分逼近方法，通过将超网络视为隐式分布来解决现代神经网络在未见过的、嘈杂的或标记错误的数据上过于自信，并且不能产生有意义的不确定性度量的短板，本文在 MNIST 和 CIFAR5 任务中表现优异且最具鲁棒性，同时满足复杂度、可扩展性和准确度的要求。

Nov, 2017

本文介绍了一种基于贝叶斯神经网络与潜变量的概率模型可用于对数据中的复杂噪声模式进行建模和决策，同时提出了一种通过不确定性分解策略辨识有信息量的数据点以及如何平衡预期成本、模型偏差与噪声厌恶的新型风险敏感标准用于强化学习。

Oct, 2017