贝叶斯深度学习的案例
使用贝叶斯较量的关键是无脊柱化,这可以提高现代深度神经网络的准确性和校准性,因为这些网络通常被数据欠规范,可以表示许多引人入胜但不同的解决方案。我们展示了深度集合提供了一个近似贝叶斯无脊柱化的有效机制,并提出了一种相关方法,通过在吸引盆地内进行无脊柱化来进一步提高预测分布,而不需要显着的开销。同时,我们还研究了模糊神经网络权重分布所隐含的函数先验,从概率的角度解释了这些模型的泛化性质。最后,我们提供了一个贝叶斯的视角来温和地校准预测分布。
Feb, 2020
本文介绍了贝叶斯神经网络中的概率层、架构和训练方法,并探讨了其扩展传统深度学习的方法,给出了 Tensorflow 的编程实现示例。然而,深层架构的不确定性考虑会让训练成本很高,而混合贝叶斯神经网络的策略可以很好地解决这个问题。
Jun, 2021
本文研究贝叶斯神经网络中后验概率的真实性及精度,通过 MCMC 抽样实验发现使用贝叶斯后验的预测性能显著不如基于 SGD 的点估计方法,并提出了一种 “冷后验” 的新方法,解释其使用背景及理论基础。本工作挑战了贝叶斯深度学习中关于精度估算的目标,提出从理解和探究 “冷后验” 方法优化神经网络性能入手。
Feb, 2020
这项研究探索了贝叶斯神经网络的概念,并提出了一种新颖的架构来显著减少网络的存储空间复杂性。此外,我们介绍了一种能够高效处理不确定性的算法,确保强健的收敛值而不会陷入局部极小值的问题,特别是在目标函数缺乏完美凸性的情况下。
Mar, 2024
本研究提出了一种新的技术方法,将贝叶斯非参数回归混合模型与多个弹性网络相结合,从而提取目标模型的可推广见解。通过在图像识别的上下文中对不同的机器学习模型进行评估,实验结果表明,我们提出的方法不仅在解释个别决策方面优于现有技术,而且为用户提供了发现目标机器学习模型漏洞的能力。
Nov, 2018
这篇研究论文探讨了边缘似然估计在学习约束和假设检验方面的吸引力特性,以及在深度神经网络中超参数学习、神经结构搜索等方面的一些挑战,提出了条件边缘似然作为一种较为实用的修正方法,以更好地反应泛化能力。
Feb, 2022
本文探讨了应用于深度神经网络中的贝叶斯参数估计问题,提出了一种压缩 Monte Carlo 近似方法的新算法,与贝叶斯神经网络中的其他两种方法作了对比,证明了该算法不仅表现更优,而且更简单易于实现且测试所需运算资源更少。
Jun, 2015