Aug, 2016

强 Rayleigh 度量、DPP 和约束抽样的快速混合马尔可夫链

PDF
TL;DR通过开发快速 Markov 链采样器，研究了受限制约束下的概率测度，包括强瑞利测度、确定性点过程，从而发展了适用于这些概率模型的 MCMC 采样器，并且通过实验证明了实现理论界限的关键因素对混合时间的依赖关系。
probability measuresset functionssamplingmarkov chainhard constraints
发现论文，激发创造
  • 应用于行列式点过程的强 Rayleigh 测度快速采样

    本研究考虑了非齐次强雷利概率测度的抽样，通过重要的推论，我们得到了一个快速混合的马尔可夫链采样器，用于确定性点过程。

    Jul, 2016

  • 蒙特卡罗马尔科夫链算法对强雷利分布和行列式点过程的采样

    强瑞利分布是概率分布的自然推广，在其均匀形式的支持下，“自然的” Monte Carlo Markov Chain 快速混合；此外，该证明还暗示 Markov Chains 可以有效地生成 $k$ 确定性点过程的近似样本，这回答了 Deshpande 和 Rademacher 提出的一个开放性问题。

    Feb, 2016

  • 离散点过程的快速混合

    本文研究用于离散点过程的快速混合马尔可夫链蒙特卡罗采样的系统设计机制，探究了设置条件和误差限制的方法，提出了如何使用 Hessian 量来控制分解信息量，指出如果使用自然的相关性衰减概念，可以使用快速混合的 MCMC 方法导出较小的误差上限。

    Jun, 2015

  • 在强对数凹分布上快速混合的哈密尔顿蒙特卡罗算法

    本文研究了 Hamiltonian Monte Carlo 算法在强对数凹目标分布上的混合性能，并得出了基于维度的混合度量和用于从 π 中采样的 HMC 跳跃步的梯度评估相关定理。

    Aug, 2017

  • 使用软分解的顺序蒙特卡洛算法收敛界限

    证明了在顺序蒙特卡洛（SMC）算法生成的样本的经验测度下，函数 f 的方差的界限，其时间复杂度取决于局部而非全局马尔可夫链混合动力学。SMC 是一种马尔可夫链蒙特卡洛（MCMC）方法，从已知分布中抽取 N 个粒子，然后通过一系列分布重新加权和重新采样粒子，每个实例中应用一次用于平滑的马尔可夫链。SMC 的原理是试图减轻多模性问题。然而，对于 SMC 的大多数理论保证是通过假设全局混合时间界限来获得的，这在单模态设置中才有效率。我们证明，可以在真正的多模态设置中获得界限，其混合时间仅取决于局部 MCMC 动力学。

    May, 2024

  • 标准随机测度混合模型的 MCMC 方法

    本文提出了一种基于 Markov chain Monte Carlo 方法的贝叶斯非参数混合模型的后验抽样方法，该方法采用归一化随机测度先验，并利用一些最近的后验特征进行修改，提高了 Neal 的 Dirichlet 过程混合模型 8 号算法的效率，并为其构建了一种相关算法。在应用实例方面，我们考虑了具有潜在归一化广义 Gamma 过程先验的混合模型，并描述了比较性的模拟结果证明了所提方法的有效性。

    Oct, 2013

  • 一种 $σ$ 稳定的 Poisson-Kingman 混合模型的边缘采样器

    本文主要研究在贝叶斯非参数混合建模中，采用一类具有稳定性的斯克林泊松 - 金曼随机概率测度。通过利用这类测度的采样特性和边缘特征，设计了一种高效的马尔科夫链蒙特卡罗采样算法，并在一维和多维数据集上应用于密度估计和聚类任务中，与其他的采样方法进行了对比分析。

    Jul, 2014

  • 非对数凹分布的 MCMC 算法快速条件混合

    本文研究 MCMC 算法的 mixing rate 问题，并根据 Poincaré inequality 定理，展示 MCMC 算法在 state space 的 subset 上的条件概率分布上快速逼近真实条件分布的能力，进而探讨该理论在高斯混合模型采样和 Gibbs 采样中的应用。

    Jun, 2023

  • 马尔可夫链的马尔顿耦合和谱方法的集中不等式

    本文证明了 McDiarmid 不等式的一个版本适用于马尔可夫链，常数与链的混合时间成比例。我们还展示了马尔可夫链经验平均值的方差边界和伯恩斯坦型不等式。对于不可逆链，我们引入了一个名为 “伪谱间隙” 的新量，并显示它在不可逆链中发挥类似于谱间隙在可逆链中发挥的作用。我们用 Katalin Marton 的耦合构造和 Pascal Lezaud 的谱技术证明了这些结果。伪谱间隙推广了 Jim Fill 的乘法可逆化方法。

    Dec, 2012

  • ClusterCluster：针对狄利克雷过程混合模型的并行马尔科夫链蒙特卡罗算法

    本文介绍一种新型的 DP 重新参数化方法，该方法在聚类分析中广泛使用，能够实现 DP 的并行学习，从而提高了学习速度和效率，同时该方法不需要改变模型并且能够保持标准后验分布不变。

    Apr, 2013