本文研究采用高阶积分器的随机梯度 MCMC 算法的有限时间收敛性和渐近不变测度，结果表明采用 2 阶积分器的 SGHMC 在 $L$ 次迭代后，其后验平均的均方误差（MSE）达到 $L^{-4/5}$ 的最佳收敛速度。同时，我们还开发出一种能够在固定或特定递减步长下实现该收敛速度的收敛方法，并在实验中验证了其在大规模应用中的优越性。
Oct, 2016
本文探讨了随机梯度马尔可夫链蒙特卡罗算法与随机优化算法之间的关系，并通过应用模拟退火算法对 SGMCMC 算法进行了扩展，提出了一种具有自适应元素动量权重的新型随机优化方法，并针对多个深度神经网络模型进行试验，得到与相关随机优化算法相比最先进的结果。
Dec, 2015
开发基于随机梯度 MCMC 算法的隐马尔可夫模型参数学习方法，通过利用内在的记忆衰减特性以应对离散状态与小批量数据带来的挑战，进而在合成实验和电离子通道记录数据上展示该算法的有效性和性能优势。
Jun, 2017
本论文利用循环随机梯度 MCMC 算法对神经网络权重后验分布进行高效探索，证明了算法的确切收敛性，拓展了算法在复杂多模态分布下的应用性能，尤其是用于深度神经网络的贝叶斯推断。
Feb, 2019
本文提出了第一个元学习算法，可以自动设计 SG-MCMC 采样器的连续动力学，学习的采样器泛化了 Hamiltonian 动力学，并且在贝叶斯全连接神经网络和贝叶斯循环神经网络任务上进行了验证，表明学习采样器优于通用手动设计的 SG-MCMC 算法，并且可以推广到不同的数据集和更大的架构。
Jun, 2018
本文介绍了倍增随机梯度 MCMC 这一简单通用的方法，用于在折叠的连续参数空间中对深度生成模型进行（近似）贝叶斯推理。我们的方法不仅适用于密度估计和数据生成的任务，还可以用于缺失数据的填充，且在性能方面优于许多现有的竞争对手。
Jun, 2015
此研究介绍了随机梯度贝克动力学（SGBD）算法，通过扩展最近开发的贝克马尔科夫链蒙特卡洛（MCMC）方案为随机梯度框架，实现了在大数据集下对贝叶斯采样的鲁棒性。研究表明，相比流行的随机梯度 Langevin 动力学算法，SGBD 在超参数调整和目标梯度的不规则行为方面表现更为稳健。
May, 2024
本文介绍了一种名为随机梯度马尔可夫链蒙特卡罗（SGMCMC）的可扩展蒙特卡罗算法，其利用数据子抽样技术降低了 MCMC 的迭代成本，并比较了其效率与 MCMC 在基准示例上的异同。
Jul, 2019
在 SG-MCMC 中使用过期参数进行随机梯度计算在收敛性方面影响未知，但我们的理论表明，这仅影响偏差和均方误差，而估计方差与流逝度无关，在分布式系统中有一定的可扩展性和线性加速减少方差。
本文提出了利用 Hamiltonian Monte Carlo 方法的广义运动函数来改进随机梯度马尔可夫蒙特卡罗采样的效率，并讨论了克服这种泛化所引入的实际问题的技术。实验证明，该方法在探索复杂的多峰后验分布方面表现优秀。