本文研究了具有 quasar 凸性的函数的最优解算法，提出了一种可以实现加速线性收敛的算法，在广义线性模型方面有广泛的应用。

Feb, 2023

本文提出了近乎最优的加速一阶方法，以最小化一类广泛的平滑非凸函数，这些函数在经过极小值点的所有线上都是严格单峰的，并给出了相应的理论分析。

Jun, 2019

利用可适应性光滑函数的概念和 Bregman 基础的近端梯度方法，在解决具有复杂目标函数的非凸、非光滑最小化问题时，实现全局收敛。

Jun, 2017

本文介绍了基于随机梯度信息的非凸随机优化的随机拟牛顿方法，分别从框架、随机化和具体方法方面进行了研究，并提供了数值结果证明其高效性。

Dec, 2014

该研究提出了一种称为测地凸性的新概念，将向量空间凸性推广到非线性度量空间，并在 Hadamard 流形上开发了迭代复杂度分析，为一些一阶算法提供了全局复杂度上限。研究结果还揭示了流形几何，尤其是分段曲率如何影响收敛速度。这是第一篇为一般 g - 凸优化的一阶算法提供全局复杂度分析的工作。

Feb, 2016

本文研究了解决光滑的非强凸约束优化问题的一些一阶方法的收敛率，提供了一些松弛的强凸条件并证明了它们对于多种一阶方法的线性收敛是足够的，最后证明了所提出的松弛强凸条件涵盖了求解线性系统、线性规划和线性约束凸问题的重要应用。

Apr, 2015

本文提出了一种快速的随机拟牛顿方法，针对平滑性不均匀的情况，通过梯度剪切和方差减小，实现了最优的 O (ε^(-3)) 样本复杂度，并通过简单的超参数调节实现了收敛加速，数值实验证明了该算法优于现有方法。

Mar, 2024

本文介绍了一种新的非均匀光滑条件下的优化方法，并开发出一种简单但有效的分析技术来限制沿轨迹的梯度，从而获得更强的凸优化和非凸优化问题的结果。我们通过这种新方法证明了（随机）梯度下降和 Nesterov 加速梯度法在这种一般的光滑条件下的收敛率，而不需要梯度剪裁，并允许在随机场景中的有界方差的重尾噪声。

Jun, 2023

本论文提出了 Constraint Extrapolation 和 proximal point method 两种方法来解决 functional constrained optimization 问题，分别针对 convex 和 nonconvex problems，通过 mathematical analysis 得到具体的收敛率和收敛条件。

Aug, 2019

通过非统一的平滑性和非统一的 Lojasiewicz 不等式，提出了一些新的方法，用于更快地达到全局最优点，在强化学习和监督学习中表现出了广泛的适用性及实验效果。

May, 2021