Apr, 2018

加速 MCMC 算法

PDF
TL;DR本研究使用 Markov chain Monte Carlo 算法通过局部探索复杂的统计分布进行模拟，加速收敛的技术包括 tempering 和 Hamiltonian Monte Carlo 等方法。
markov chain monte carlolocal explorationaccelerating convergencetemperinghamiltonian monte carlo
发现论文，激发创造
  • 自适应和交互式马尔可夫链蒙特卡罗算法的收敛

    本文介绍一种基于 Markov chain Monte Carlo 算法的新型模拟算法，具有高效采样复杂分布的性能，并介绍一种方法学和理论框架，证明了边际分布的收敛性和大数定律成立的条件， 并且具有一定的泛化性，适用于目标分布为非平稳分布的情况。

    Mar, 2012

  • 随机梯度马尔可夫链蒙特卡洛

    本文介绍了一种名为随机梯度马尔可夫链蒙特卡罗（SGMCMC）的可扩展蒙特卡罗算法，其利用数据子抽样技术降低了 MCMC 的迭代成本，并比较了其效率与 MCMC 在基准示例上的异同。

    Jul, 2019

  • 加速贝叶斯决策树的并行方法

    本文提出两种应用并行处理的方法以替代传统的 Markov Chain Monte Carlo (MCMC)，即采用 Sequential Monte Carlo (SMC) 取样器或数据分区，并通过实验测试发现在多核处理器中使用 SMC 比传统串行实现的 MCMC 运行时间快至少 343 倍。

    Jan, 2023

  • 变分 MCMC

    介绍一种新型学习算法，该算法结合了变分逼近和马尔可夫链蒙特卡罗（MCMC）模拟，它的目的是更好地估计高阶时刻，如协方差，并用于逻辑信念网络的贝叶斯参数估计问题。

    Jan, 2013

  • 利用机器学习模型加速多层级马尔可夫链蒙特卡洛

    利用多层次马尔可夫链蒙特卡洛 (MCMC) 抽样算法的低保真机器学习模型，本文提出了一种有效的方法来加速大规模问题的抽样。通过在层次结构框架中将高保真模型与低保真模型相结合，我们的方法提供了一种计算高效的替代方案，以改善样本的接受率。我们的技术在地下水流问题中获得了相似的准确性，同时将多层抽样加速了两倍。

    May, 2024

  • 蒙特卡罗方法的量子加速

    本文提出了一种量子算法，在估算所有具有有界方差的任意随机或量子子程序的期望输出值方面实现了接近二次的加速，并且通过结合量子步行的使用，为计算分区函数的最快已知经典算法提供了量子加速，同时也能有效地估计概率分布之间的总变差距离。所提出的量子算法具有严格的性能边界。

    Apr, 2015

  • 加权 Riesz 粒子

    马尔可夫链蒙特卡洛 (MCMC) 方法通过对复杂统计分布进行局部探索来模拟，尽管避免了对目标的具体分析表达式的繁琐要求，但这种对不确定参数空间的随机探索需要大量样本，而且随着参数维度的增加而增加计算复杂性。我们将目标分布视为一个映射，其中参数的无限维空间包含一些确定性子流形，并提出了一种广义能量度量，称为加权 Riesz 能量，通过成对交互生成一些点以离散化这些测地子流形。我们研究了这些点的属性，称之为 Riesz 粒子，并将其嵌入到顺序 MCMC 中，发现更少的评估可以实现更高的接受率，我们通过针对具有合成数据的线性高斯状态空间模型和现实世界数据的非线性随机波动模型的实验比较分析进行了验证。

    Dec, 2023

  • 使用哈密尔顿动力学的 MCMC

    本文介绍了 Hamiltonian Monte Carlo 算法的理论和实践方面，并提出了一些改进，包括使用状态窗口来决定接受或拒绝、使用快速逼近计算轨迹、在轨迹过程中进行调温处理以处理孤立模式和防止无用轨迹占用大量计算时间的快捷方法。

    Jun, 2012

  • 用于双重难以计算分布的 MCMC

    本文介绍了 Moeller 等人（2004）的辅助变量方案，该方案用于从具有难以处理的归一化常数的分布中进行准确的抽样，并提出了一种新的 MCMC 算法，提高提议分布的接受概率，并在采样之前消除模型参数估计的需求。

    Jun, 2012

  • 含哈密顿蒙特卡罗的变分推断

    本研究提出了一种使用 Hamiltonian Monte Carlo 算法中的 MCMC 步骤来改善后验分布逼近的方法，并通过实验结果证明了这种方法的理论优势和性能改进。

    Sep, 2016