通过计算关键批次的接受概率，我们展示了在一些应用中通过简单的修正可以避免随机 Metropolis-Hastings 步骤降低有效样本量的障碍。我们在非参数回归背景下运用修正的随机 Metropolis-Hastings 方法，研究了链的稳定分布的统计性质，并通过证明 PAC-Bayes 学习器不等式来获得最优收缩速率，分析了置信集的直径和高覆盖概率。通过高维参数空间中的数值例子，我们展示了随机 Metropolis-Hastings 算法得到的置信集和收缩速率与经典的 Metropolis-adjusted Langevin 算法结果的相似性。

Oct, 2023

本研究旨在提高在处理大数据集时的贝叶斯后验 MCMC 采样的效率，通过引入基于连续假设检验的近似 MH 规则，根据部分数据即可高置信度地接受或拒绝样本，从而减少计算代价，同时控制引入的渐近偏差使方差下降得以更快。

Apr, 2013

本文提出了一种新的精确小批量 MH 方法 TunaMH，通过调节批大小与收敛速度之间的权衡来提高效率，并在鲁棒线性回归、截尾高斯混合以及逻辑回归中验证了 TunaMH 的优越性。

Jun, 2020

本文综述了最近在机器学习和计算统计学领域提出的两类解决元数据分析中基于独立假设的马尔科夫链蒙特卡罗方法的方法：分而治之的方法和基于子采样的算法，并提出了一种新颖的基于子采样的方法，并在某些统计模型的有利情况下，每次迭代可以要求少于 $O (n)$ 数量级的数据点似然性评估，然而，在目标后验分布的 Bernstein-von Mises 逼近存在缺陷的情况下，我们目前只能提出能在基于子采样的方法中表现良好的方法，而在其他情况下这仍然是一个未解决的挑战。

May, 2015

能量基语言建模与 Metropolis-Hastings 抽样器相结合可实现更高效和准确的文本生成，通过迭代提示大型语言模型，允许在每个步骤中对整个序列进行重写，从而确定生成长度和提高下游性能。

Dec, 2023

本文旨在通过研究马尔可夫链蒙特卡罗采样算法中的调整参数鲁棒性问题，提出一种新的、简单的基于梯度的 MCMC 算法，该算法具有简单算法的鲁棒性和基于梯度的算法的高效性。实验结果表明，该算法在适应性 MCMC 的情境下具有很好的性能。

Aug, 2019

本文提出了一种用于无偏区别 Metropolis-Hastings 采样器的方法，使得我们能够通过概率推理进行不可行目标密度的优化，该方法通过融合随机区分的最新进展和马尔可夫链耦合方案，可以使该过程无偏、低方差和自动化，然后将其应用于期望为不可行目标密度的优化中。在文中所提出的方法中，分别应用到高斯混合模型中找到不明显的观察和 Ising 模型中的特定热容的最大化。

Jun, 2023

研究了随机梯度 HMC，提出了一种使用带有摩擦项的二阶 Langevin 动力学的变体，以消除噪声梯度的影响，并使用该方法在神经网络和在线贝叶斯矩阵分解任务中验证了其有效性。

Feb, 2014

通过对潜在噪声变量而非潜在状态变量进行重新表述的方法，我们研究了没有闭合形式转移的非线性状态空间模型。研究发现，这种转化实现了可计算的噪声密度以代替不可计算的转移密度，可作为辅助粒子滤波器等重要性抽样方法中的重要权重计算。通过两个多元海洋生物地球化学模型的实例探讨粒子边缘 Metropolis-Hastings 采样器的状态和参数估计问题。结果表明，对于快速混合过程模型来说，重新表述噪声变量的模型非常有用。

Feb, 2012

通过基于典型性采样的批次选择方法，构建更有效率的批次选择策略来降低传统 Mini-batch SGD 中梯度估计误差，提高收敛速度及效果。

Mar, 2019