May, 2024

入出之间：用于凸体采样的算法扩散

PDF
TL;DR提出了一种新的随机行走方法，用于均匀采样高维凸体；它在输出方面具有比之前已知的方法更强的保证，特别是在 Rényi 散度方面。证明与现有的问题的多项式时间算法方法不同，我们利用了随机扩散的视角，通过收敛性的速率与平稳密度的功能等周常数来显示到目标分布的收缩。
random walkhigh-dimensional convex bodiesruntime complexityrényi divergencestochastic diffusion perspective
发现论文，激发创造
  • 随机龙格 - 库塔加速 Langevin Monte Carlo 等算法

    本文研究了基于分 discretizing 类 - Wasserstein 倍数收缩的平滑随机微分取样算法，着重研究了用随机 Runge-Kutta 方法离散过度阻尼 Langevin 方程的取样算法，并表明其迭代次数可达到目标分布的 $2$-Wasserstein 距离，并将分析扩展到具有可能非凸势能的一般扩散过程。

    Jun, 2019

  • 基于随机中点的更快扩散采样：连续和并行

    近年来，在扩散模型的离散化界限方面出现了浓厚的兴趣，本文提出了一种新的受 Shen 和 Lee 随机中点方法启发的扩散模型离散化方案，证明了该方法在从任意平滑分布中进行采样的维度依赖方面达到了已知最佳结果，同时还展示了可以将算法并行化以实现更快速的采样。

    Jun, 2024

  • 随机采样：台球漫步算法

    本文介绍了基于撞球轨迹的新型随机游走算法，与 Hit-and-Run 随机采样算法相比，本算法在实践中需要的步骤数更少，能更快地达到均匀分布。

    Nov, 2012

  • 镜像 Langevin 算法实现高效约束采样

    我们提出了一种新的镜像随机 Langevin 扩散离散化方法，并给出了其收敛性的确定证明。

    Oct, 2020

  • 离散时间扩散模型的非渐近收敛：新方法和改进速率

    去噪扩散模型是一种将噪声转换为数据的强大生成技术，本论文研究了离散时间扩散模型在更大范围的分布上的收敛性保证，并提出了一种加速采样器来提高收敛速度和维度依赖性。

    Feb, 2024

  • 关于用于分摊推断的扩散模型：基准测试和改进的随机控制和采样

    训练扩散模型以从具有给定未归一化密度或能量函数的分布中进行采样问题的研究，对于模拟为基础的变分方法和连续生成流网络等离散结构的推理方法进行基准测试，结果揭示了现有算法的相对优势，并对过去的研究提出了质疑。我们还提出了一种新颖的基于局部搜索和重放缓冲区在目标空间进行离线方法的探索策略，证明它改善了多个目标分布上样本的质量。我们为研究的采样方法和基准测试公开了代码，作为未来基于扩散模型进行分摊推理工作的基础。

    Feb, 2024

  • Langevin MCMC 在 KL 散度下的收敛性

    研究 Langevin 扩散在采样、KL - 散度、强凸性、收敛速率等方面的应用，证明在目标密度是 L 光滑且 m 强凸的情况下，该扩散可以在几步内收敛于目标分布，同时揭示了在强凸性假设缺失时的收敛速率。

    May, 2017

  • 坐标 Hit-and-Run 的混合时间

    研究了 $n$ 维凸体上的随机游走的混合时间，得到了一个多项式上界，并得出该问题一直存在的疑问，即坐标 Hit-and-Run 是否具有多项式混合时间。

    Sep, 2020

  • 使用运动朗之万扩散从对数凹密度中采样

    使用 Langevin 扩散过程进行离散化的蒙特卡洛算法可用于对光滑且强对数凹密度进行采样，本文主要研究了这个框架，并证明了基于 kinetic Langevin 扩散的 Monte Carlo 算法的混合性质和采样质量，进一步证明了 Hessian 矩阵 Lipschitz 连续的情况下，使用新的离散化方法可以显著提高采样误差的上界。

    Jul, 2018

  • 高阶 Langevin 拓扑在 Markov Chain Monte Carlo 算法中的加速

    提出使用三阶 Langevin 动力学的马尔科夫链蒙特卡罗算法，用于采样具有对数凹和平滑密度函数的分布，并在广义线性模型下证明其结果仅需满足梯度的 Lipschitz 条件

    Aug, 2019