该研究提出了一种名为 Prior Networks（PNs）的框架来模型化分类任务中的数据和分布不确定性，并在 MNIST 数据集上实现了对 OOD 样本的识别和误分类的检测，与之前的方法相比，PNs 具有更好的表现。
Feb, 2018
本文研究了如何使用先验网络来代替集成模型在分类、异常检测和对抗攻击检测任务上，并使用反向 KL 散度作为训练标准，提出了一种新的对抗训练方法。研究表明，在分类数据集上，使用先验网络相比于蒙特卡洛 dropout 等其他集成方法能够更好地检测出数据集之外的输入，但是对抗攻击会对其造成影响，需要进行更为复杂的对抗训练来提高其鲁棒性。
May, 2019
本文提出了一种新的使用 Prior Networks 的不确定性估计方法来检测对抗攻击的方法，相较于传统方法的蒙特卡洛 dropout 取样有着更优的表现，该方法可以在白盒和黑盒情况下检测到多种对抗攻击。
Dec, 2018
该论文提出了一种名为 EnD^2 的新方法，它使用 Prior Networks 对模型的输出分布进行建模，并使单个模型保留了集成模型减少计算成本和提高分类性能的同时，还能保留集合多样性的信息，用于估计不确定性。该方法不仅可适用于人工数据集，还取得了在 CIFAR-10、CIFAR-100 和 TinyImageNet 数据集上优于其他方法的成果。
Apr, 2019
本文提出了一种新的基于先验估计的风险的方法，该方法可以用于几乎最优的两层神经网络且误差率的变化与蒙特卡罗误差率的变化相同，特别适用于过度参数化的情况，同时也解释了为什么两层神经网络比相关的核方法更有效。
Oct, 2018
通过构建神经网络集成，可以更好地进行预测和不确定性估计，并将不确定性分解为数据不确定性和模型不确定性。本文提出了一种保持神经网络集成分解性质的蒸馏框架，其预测性能与标准蒸馏相当。
Feb, 2020
准确的降水预报在决策制定中具有很高的社会经济价值，我们提出了一种全球统计后处理方法来处理基于格点的降水集合预报，该方法基于 U-Net 实现分布回归来预测参数分布，与现有的后处理方法相比，分布回归 U-Net 在连续分级概率评分方面取得了可比的性能，但在高气候降水区域无法提供校准的预报，而在强降水事件的预测能力方面，它们优于分位数回归森林和带有超尾扩展的半参数分位数回归森林。
Jul, 2024
该研究论文探讨了先验数据拟合网络（PFN）的理论基础，以及控制其行为的统计机制。虽然 PFN 是受贝叶斯思想启发的，但其行为可以纯粹地以预调整但未经训练的预测器来解释。
May, 2023
本文介绍了一种基于贝叶斯方法的神经网络先验分布，该分布使用潜在变量来表示网络中的单元，并以这些变量的值为条件抽取单元之间的权重。这种先验分布具有强大的相关性，可以作为一个基于函数的先验分布，有助于实现 Bayesian 正则化以实现简单结构的网络模型。
本研究探讨一种简单的正则化方法，用于将多个机器学习模型的集成逐一蒸馏到一个神经网络中，以达到保持多样性，精度和不确定性估计特性的目的。
May, 2022