Jul, 2024

Langevin 动力学:通过李雅普诺夫势函数统一优化的视角

TL;DR我们研究了使用随机梯度朗之万动力学(SGLD)进行非凸优化的问题。我们采用了一种基于李雅普诺夫势函数和优化的新策略来分析 SGLD 收敛到全局最小值的情况,将以前关于 SGLD 的轻微条件转化为基于李雅普诺夫势函数的几何属性。我们提供了在以前研究 SGLD 进行优化的设置中的改进速度,SGLD 的第一个有界梯度复杂性保证以及连续时间朗之万动力学在满足一些适度正则性假设时,离散时间 SGLD 也能成功的证明。