TL;DR本文提出相对平滑性和相对强凸性的概念,并相应地将标准算法扩展到新的设置中,应用于发展新的一阶方法来解决 D - 优化设计问题并进行计算复杂度分析。
Abstract
The usual approach to developing and analyzing first-order methods for smooth
convex optimization assumes that the gradient of the objective function is
uniformly smooth with some Lipschitz constant $L$. However, in many settings
the differentiable convex function $f(\cdot)$ is not uni
本文提出了新的计算方法和相关计算保证,利用一阶方法来解决凸优化问题,并且引入了增长常数 G 用作计算复杂度分析。特别地,当函数 f (・) 为非光滑函数时,提供了 Subgradient Descent Method 和平滑方法的新的计算保证。当 f (・) 是光滑函数时,对重新启动加速梯度方法的方案进行了阐述。