本文讨论贝叶斯神经网络在图片分类上的应用，发现此类应用使用的是错误的似然度。作者开发了一个描述 “筛选” 过程的生成模型，并与之前使用的调整后的后验概率似然度进行了基于贝叶斯思想的对比。

Aug, 2020

研究表明 Bayesian 深度学习中的冷链效应是一个多因素的问题，直接利用温度参数、数据增强或先验偏差可能并不能解决该问题。

Jun, 2021

本研究提出了一种无需先前知识直接学习数据扩增策略的方法，并使用 Kullback-Leibler regularization 和连续分布参数化解决了双层优化问题和搜索空间更大的问题，最终在标准基准测试上取得了有竞争力的结果。

Jun, 2023

提出了一种基于贝叶斯公式，利用广义蒙特卡洛期望最大化算法和生成对抗网络的方法，能更好地生成新的标注训练样本，并在 MNIST，CIFAR-10 和 CIFAR-100 的数据集中取得了优于现有数据增强方法和 GAN 模型的分类结果。

Oct, 2017

本研究表明，显式地考虑 aleatoric uncertainty 可显著改善贝叶斯神经网络的性能，其中使用 Dirichlet observation model 可以匹配或超过 posterior tempering 的性能，无需 tempering。

Mar, 2022

本文探讨了后验温度的调整在贝叶斯神经网络中的作用以及先验的影响，研究发现，在高质量的分类数据集如 MNIST 或 CIFAR 中，经常使用的先验能够显著地高估标签的不确定性。研究在高斯过程回归中发现，任何正数的温度都对应于一个经过修改的先验下的有效后验，而调整后验温度直接类比于经验贝叶斯。当应用于分类任务时，调整先验并不直接等同于调整后验温度，但是降低后验温度可以得到更好地反映新增训练样本信息的模型。因此，虽然冷后验并不总是对应于精确的推理过程，但我们认为，它们可能更好地反映了我们真实的先验信念。

Jul, 2020

本研究通过设计自定义的优化程序，提出一种新的较低的边缘似然下限，部分成功地在标准基准测试、低数据范围和医学图像数据集上进行了推理，但在 CIFAR10 数据集上表现出失败模式，该研究表明，当更复杂的逼近方法可用时，边缘似然是神经网络中不变性学习的有前途的方法之一。

Jun, 2021

图像分类中使用的基准数据集往往具有非常低的标签噪声。当贝叶斯神经网络在这些数据集上进行训练时，它们往往会欠拟合，错误地表示数据的不确定性。一种常见的解决方法是通过冷却后验，这提高了对训练数据的拟合，但从贝叶斯的角度来解释具有挑战性。我们探讨了是否可以通过具有信心诱导的先验分布来替代后验调温。首先，我们介绍了一种实际可采样且几乎与冷后验性能相匹配的 “DirClip” 先验。其次，我们介绍了一种直接在温度趋近于零时近似冷似然函数但难以采样的 “信心先验”。最后，我们提供了关于信心诱导先验的几个一般性见解，例如它们何时可能发散以及如何通过微调来减轻数值不稳定性。

Mar, 2024

通过 PAC-Bayes 泛化界限的视角研究了冷后效应，发现在非渐进情况下，当训练样本数量相对较少时，应该考虑到近似贝叶斯推断对超样本数据性能的保证，并指出对于回归和分类任务，利用 PAC-Bayes 解释温度参数可以解释冷后效应。

Jun, 2022

该研究提出了一种基于贝叶斯模型选择的方便的、基于梯度的方法，用于选择数据增强，该方法被成功应用于图像数据集，以提高深度神经网络的泛化能力和数据效率。

Feb, 2022