Feb, 2019

MCMC 是否存在 Nesterov 加速的类比?

TL;DR本研究针对梯度采样在概率测度视角下的优化问题,以 KL 散度作为目标函数,通过低阻尼 Langevin 算法加速梯度下降,并利用 Hypocoercivity 构建李雅普诺夫函数来表征算法的收敛性,以 Langevin 算法的优化结果呈现了一类非凸函数的加速率。