Nov, 2018
随机梯度Repulsive力量MCMC
Stochastic Gradient MCMC with Repulsive Forces
TL;DR本文提出Bayesian inference的两种不同算法的统一视图，即Stochastic Gradient Markov Chain Monte Carlo （SG-MCMC）和Stein Variational Gradient Descent（SVGD），提出一种新的改进和高效的采样方法，将SVGD与噪声结合，构成多链SG-MCMC方法，实现粒子之间斥力的作用，避免了崩溃并促进了更好的参数空间探索，并证明了这种添加噪声项是获得有效SG-MCMC采样器的必要条件。实验表明了所提出方案的益处。