高效核指数族无梯度哈密尔顿蒙特卡罗

Jun, 2015

高效核指数族无梯度哈密尔顿蒙特卡罗

Gradient-free Hamiltonian Monte Carlo with Efficient Kernel Exponential Families

Heiko Strathmann, Dino Sejdinovic, Samuel Livingstone, Zoltan Szabo, Arthur Gretton

TL;DR本研究提出了核哈密顿蒙特卡罗算法（KMC）, 一种基于哈密顿蒙特卡罗的无梯度自适应 MCMC 算法。在目标密度函数不可求梯度时，KMC 通过拟合重现核希尔伯特空间中的指数族模型，自适应地学习目标的梯度结构。其具有收敛到精确解的能力，且在采样效率上与 HMC 相当并且具有极大的混合改进，通过玩具和现实应用的实验研究来支持我们的结论，包括近似贝叶斯计算和精确 - 近似 MCMC。

Abstract

We propose kernel hamiltonian monte carlo (KMC), a gradient-free adaptive MCMC algorithm based on Hamiltonian Monte Carlo (HMC). On target densities where classical HMC is not an option due to intractable gradien

kernel hamiltonian monte carlo gradient-free adaptive mcmc algorithm exponential family model substantial mixing improvements

发现论文，激发创造

随机梯度单项式 Gamma 采样器

本文提出了利用 Hamiltonian Monte Carlo 方法的广义运动函数来改进随机梯度马尔可夫蒙特卡罗采样的效率，并讨论了克服这种泛化所引入的实际问题的技术。实验证明，该方法在探索复杂的多峰后验分布方面表现优秀。

Jun, 2017

基于熵的自适应 Hamiltonian Monte Carlo

本文提出了一种基于梯度的算法，允许通过鼓励 Leapfrog 积分器具有高接受率的方式来适应质量矩阵，最大化建议熵的近似值，实验证明该自适应方法可以通过调整质量矩阵来提高 HMC 的性能。

Oct, 2021

核条件指数族

本文提出了一个非参数条件分布族，使用适当的 RKHS 中的函数参数来推广条件指数族；给出了一个学习广义自然参数的算法，并在特定情况下建立了估计的一致性。在实验中，新方法通常优于具有一致性保证的竞争方法，并在表现突变和异方差性的数据集上与深度条件密度模型具有竞争力。

Nov, 2017

随机梯度哈密尔顿蒙特卡罗

研究了随机梯度 HMC，提出了一种使用带有摩擦项的二阶 Langevin 动力学的变体，以消除噪声梯度的影响，并使用该方法在神经网络和在线贝叶斯矩阵分解任务中验证了其有效性。

Feb, 2014

相对论蒙特卡罗

提出了基于相对论动力学的哈密顿蒙特卡罗方法，通过引入粒子的最大速度解决哈密顿蒙特卡罗在大时间离散化和空间几何不匹配时的性能问题，并开发了基于此的相对论随机梯度下降算法，与深度学习中的优化方法如梯度截断、RMSprop、Adagrad 和 Adam 有趣的关系，实验表明这种算法比经典牛顿变体和 Adam 表现更好。

Sep, 2016

核自适应 Metropolis-Hastings

介绍了一种核自适应 Metropolis-Hastings 算法，用于从具有强非线性支持的目标分布中进行采样，该算法将马尔科夫链的轨迹嵌入到再生核希尔伯特空间（RKHS）中，使样本的特征空间协方差影响提案的选择。

Jul, 2013

基于对抗动力学嵌入的指数族估计

提出了一种有效的用于指数族模型最大似然估计的算法，包括神经网络模型的一般能量函数参数化。通过运用动力学嵌入的神经架构，利用动力学扩展模型获取与对抗性双重取样器相关的估计，我们继承 HMC 的灵活性，同时为增广模型提供了可处理的熵估计。通过同时学习双重取样器和原始模型，并共用它们之间的参数，我们避免了需要在模型训练后设计单独的采样过程的要求，从而实现更有效的学习。

Apr, 2019

随机方差减少的哈密顿蒙特卡洛方法

本文提出了一种快速的随机 Hamilton Monte Carlo 方法，用于从一个光滑而强烈对数凹的分布中进行采样。通过梯度复杂度来衡量算法的性能，实验结果表明，该算法在采样效率上跑赢了现有的 HMC 和 Stochastic Gradient HMC 方法。

Feb, 2018

随机梯度 MCMC 的完整配方

本文提供了一种基于连续马尔可夫过程的通用配方，用于构建包括随机梯度版本的 MCMC 采样器，并提出了一种新的状态自适应采样器：随机梯度 Riemann Hamiltonian Monte Carlo (SGRHMC)。通过实验证明，该算法继承了 Riemann HMC 的优点，并具有可扩展性。

Jun, 2015

通过双重对偶嵌入估计核指数族

本文提出一种基于罚函数的最大对数似然估计方法，针对自变量在再生核 Hilbert 空间中的指数族分布进行研究，通过 “双重对偶嵌入” 技术避免了划分函数的计算，同时还提出灵活的采样策略以节约推理阶段的蒙特卡罗采样成本，并将该估计器推广到核条件指数族中。我们还将核指数族估计方法和 MMD-GANs 相联系，揭示了理解 GAN 的新视角，该方法在时间和内存效率上优于基于分数匹配的估计器，且在统计收敛率上表现更强。实验结果表明，该估计器在性能上优于现有的最先进技术。

Nov, 2018