May, 2017

通过积分二次约束分析优化算法:非强凸问题

TL;DR本文提出了一个统一的框架,能够证明广泛使用的迭代一阶优化算法的指数收敛和次指数收敛速率,并展示了该框架对梯度法、近端算法及其加速变体的实用性,同时开发了连续时间对应物,能够分析梯度流和 Nesterov 加速法的连续时间极限。