Apr, 2023

使用 MCMC 进行贝叶斯神经网络建模：基于 Python 的教程

PDF
TL;DR本文介绍了如何通过编程实现 MCMC 方法以进行参数估计和不确定性量化，并探讨了在机器学习和深度学习等大规模模型中应用 MCMC 方法的挑战，主要通过使用 Python 语言示例代码实现贝叶斯概率模型的应用。
bayesian inferencemcmc methodsmachine learningdeep learningneural networks
发现论文，激发创造
  • 大规模图像分类的贝叶斯推断

    ATMC 是一种自适应噪声 MCMC 算法，可用于从神经网络的后验中估计和采样，它能够在大规模深度学习任务中得到更好的分类精度和测试对数似然，并提供更好的不确定性度量。

    Aug, 2019

  • 变分贝叶斯蒙特卡罗

    本文介绍了一种新型的高效样本推断框架，变分贝叶斯蒙特卡罗（VBMC），可用于难以处理的黑盒似然的后验分布和模型评估。该方法结合了变分推断和基于高斯过程的主动采样贝叶斯积分，并在合成和实际数据的测试中表现出很好的性能。

    Oct, 2018

  • 机器学习与贝叶斯计算的未来

    概述：本文使用贝叶斯模型解决了复杂数据的建模问题，提出了通过机器学习的方法来改善后验计算的潜力，并探讨了正则化流、贝叶斯核平衡、分布式贝叶斯推理和变分推理等未来的具体发展方向。

    Apr, 2023

  • 利用贝叶斯神经网络进行面部图像分析的知情 MCMC

    本文研究了利用贝叶斯神经网络提高计算机视觉中后验分布采样的效率，从而减少进行面部图像分析所需样本数量。

    Nov, 2018

  • 利用对称性在贝叶斯神经网络中实现有效的 MCMC 采样

    本研究旨在推广利用深度神经网络中的对称性，在保证不影响功能输出的前提下优化贝叶斯推断过程，并进一步给出适当的蒙特卡罗采样次数的上限来捕捉功能多样性，最终成功实现高效的贝叶斯不确定性量化。

    Apr, 2023

  • 变分 MCMC

    介绍一种新型学习算法，该算法结合了变分逼近和马尔可夫链蒙特卡罗（MCMC）模拟，它的目的是更好地估计高阶时刻，如协方差，并用于逻辑信念网络的贝叶斯参数估计问题。

    Jan, 2013

  • 贝叶斯神经网络的后验分布是什么样子的？

    研究表明， 使用全批处理的哈密顿蒙特卡罗方法可以提高贝叶斯神经网络的性能，并证明模型中选择的先验分布对性能的影响较小，但相比于深度集成、SGLD 等计算代价较小的方法，HMC 呈现出更接近于精确后验分布的预测分布；同时，研究发现贝叶斯神经网络在领域转移方面表现较差。

    Apr, 2021

  • 参数稀疏性对于贝叶斯深度学习中随机梯度 MCMC 方法的影响

    本文探讨使用随机梯度马尔科夫链蒙特卡罗方法作为 Bayesian 推理的核心方法，考虑各种选择稀疏网络结构的方法，以灵活地权衡模型存储成本和推理运行时间与预测性能和不确定性量化能力之间的潜力。实验结果表明，某些随机选择的子结构可以像从最先进的迭代剪枝方法中获得的子结构一样表现得很好，同时大大缩短模型训练时间。

    Feb, 2022

  • 贝叶斯神经网络实践 -- 适用于深度学习用户的教程

    该研究论文介绍了深度学习和贝叶斯统计的结合，使用贝叶斯神经网络进行训练和评估以及解决拟合不足的问题。

    Jul, 2020

  • MCMC 驱动学习

    该论文旨在统一马尔科夫链蒙特卡洛（MCMC）与机器学习的各种问题，包括黑箱变分推断、自适应 MCMC、理论流构建和辅助传输 MCMC、代理似然 MCMC，并通过一个共同的框架进行泛化与翻译。

    Feb, 2024