Jul, 2015

使用投影 Langevin 蒙特卡洛采样对数凹分布

PDF
TL;DR通过投影步骤（与投影随机梯度下降类似），我们将 Langevin Monte Carlo（LMC）算法扩展到紧支持测度。我们的主要结果特别表明，当目标分布是均匀分布时，LMC 在 $\tilde {O}(n^7)$ 步内混合。我们还提供初步的实验证据表明，LMC 的表现至少与 hit-and-run 相当，而 Lov {\'a} sz 和 Vempala 证明了更好的混合时间为 $\tilde {O}(n^4)$。
langevin monte carlolog-concave distributionpolynomial timemarkov chainmixing time
发现论文，激发创造
  • 使用远离 Langevin 蒙特卡罗算法从具有紧支撑的对数凹分布中抽样

    本文对应用于限制在凸体上的对数凸概率分布的 Langevin Monte Carlo 采样算法进行了详细的理论分析，该方法依赖于涉及与 K 相关的指示函数的 Moreau-Yosida 包络的正则化过程，建立了总变差范数和一阶 Wasserstein 距离的显式收敛界限，并且给出了有限状态空间维数的算法复杂度是多项式级别的证明。最后，我们提供了一些数值实验，与文献中的竞争 MCMC 方法进行比较。

    May, 2017

  • 非光滑 Langevin Monte Carlo

    本文提出了一种基于 Langevin Monte Carlo 算法的分布采样方法，它可以在非光滑的对数凹分布下提供多项式时间收敛保证，并通过控制高斯扰动的偏差和方差来实现。

    May, 2019

  • Langevin Monte Carlo 与不准确梯度的用户友好保证

    本文研究了从已知平滑和强对数凹概率密度函数中采样的方法， 分析了基于过渡态随机游走的近似采样方法，并提出了几种保证误差的方法， 包括第一阶 Langevin Monte Carlo 算法的误差上界、误差上界和梯度评估不准确的情况， 以及二阶 Langevin Monte Carlo 算法利用 log 密度的海森矩阵的保证。

    Sep, 2017

  • 非对数凹和非光滑采样的 Langevin Monte Carlo 算法

    该论文研究了近似采样的问题，特别是非对数凹分布的问题，提出了基于 Langevin Monte Carlo 算法的马尔可夫链蒙特卡洛方法，并在两种非光滑分布的情况下进行了数字模拟来比较算法的性能。

    May, 2023

  • 随机中点法用于对数凹采样

    本研究提出了一种基于欠阻尼 Langevin 扩散的 MCMC 算法来解决从对数凹分布中采样问题，并设计了一种新的模拟随机微分方程的框架，该框架不仅可以解决对数凹采样问题，还可以应用于任何涉及模拟（随机）微分方程的问题。

    Sep, 2019

  • 超越对数凹性：使用模拟淬火 Langevin Monte Carlo 取样多峰分布的可证明保障

    研究重点在于使用 Langevin 扩散和模拟退火方法构建一种 Markov 链，能够在考虑温度的情况下从多种形式的分布中进行快速采样。

    Oct, 2017

  • 对数凹马尔可夫链链

    本文介绍一种采用各向同性高斯平滑处理的框架来解决高维 Markov 链蒙特卡罗采样中存在的难题，通过对具有对数凹的密度下的条件密度进行采样来实现，同时以最小历史方式保持跟踪样本历史， 将采样算法推广到了步行跳跃采样，并通过与其他 Langevin MCMC 算法的比较量化了本文提出的算法的优越性以及其在分布模态之间的 “隧道” 传输能力。

    May, 2023

  • 通过凸优化分析 Langevin Monte Carlo

    该论文提出了新的调整 Langevin 算法的洞见，并表明该方法可以被公式化为定义在阶为 2 的 Wasserstein 空间上的目标函数的一阶优化算法。

    Feb, 2018

  • 紧支持上的对数凹采样：一个通用的近端框架

    提出了一个支持各种投影选项的通用近端框架，基于凸紧致支撑体上定义的强对数凹分布进行采样，并与多种采样方法无缝集成，主要研究集中在约束采样的 Langevin 型采样算法，提供了 W1 和 W2 误差的非渐进上界，详细比较了这些方法在约束采样中的性能。

    May, 2024

  • 使用运动朗之万扩散从对数凹密度中采样

    使用 Langevin 扩散过程进行离散化的蒙特卡洛算法可用于对光滑且强对数凹密度进行采样，本文主要研究了这个框架，并证明了基于 kinetic Langevin 扩散的 Monte Carlo 算法的混合性质和采样质量，进一步证明了 Hessian 矩阵 Lipschitz 连续的情况下，使用新的离散化方法可以显著提高采样误差的上界。

    Jul, 2018