Apr, 2017

采样和优化之间更深入更强的类比: Langevin Monte Carlo 和梯度下降

TL;DR本文通过对 Langevin Monte Carlo 采样算法的理论背景进行分析和实验,提出了一种新的计算密度函数收敛性的 Wasserstein 距离度量方法,并进一步研究了该采样算法与梯度下降优化算法之间的关系,同时还证明了一种基于噪声梯度评估的改进算法的收敛性.