采用基于哈密顿视角的方法，将 Nesterov 加速梯度下降法和 Polyak 重球方法泛化为广泛的动量方法，得到了无限制约束的最小化问题的一般性和统一性收敛分析，具有直观的时间变化哈密顿量和守恒量。

Jun, 2019

本文研究了解决光滑的非强凸约束优化问题的一些一阶方法的收敛率，提供了一些松弛的强凸条件并证明了它们对于多种一阶方法的线性收敛是足够的，最后证明了所提出的松弛强凸条件涵盖了求解线性系统、线性规划和线性约束凸问题的重要应用。

Apr, 2015

本文探讨次梯度法在极值点问题（特别是带有 Hölder 增长 ）中，固定和衰减步长下的收敛性及误差，并介绍了一种名为 “下降楼梯” 的步长方式，最终提出了一种自适应变体方法以实现更快的收敛速度。

Apr, 2017

本文介绍了一种新的非均匀光滑条件下的优化方法，并开发出一种简单但有效的分析技术来限制沿轨迹的梯度，从而获得更强的凸优化和非凸优化问题的结果。我们通过这种新方法证明了（随机）梯度下降和 Nesterov 加速梯度法在这种一般的光滑条件下的收敛率，而不需要梯度剪裁，并允许在随机场景中的有界方差的重尾噪声。

Jun, 2023

本文探讨了凸优化中梯度方法的加速现象，并将高阶梯度方法与拉格朗日泛函等价地联系起来，同时得出拉格朗日量具有时空不变性的结论。

Sep, 2015

利用可适应性光滑函数的概念和 Bregman 基础的近端梯度方法，在解决具有复杂目标函数的非凸、非光滑最小化问题时，实现全局收敛。

Jun, 2017

通过使用只需要计算梯度的加速梯度方法，该论文提出了一种快速求解具有 Lipschitz 连续的一阶和二阶导数的非凸优化问题的算法，该方法相较于梯度下降算法在复杂度和精度上都表现更优。

Nov, 2016

本文研究了随机哈密尔顿方法在一类随机光滑博弈上的应用，提出了一种新的无偏估计方法，证明了该方法具有收敛性和全局最优解保证性，并在随机双线性和足够双线性博弈上进行了实验。

Jul, 2020

通过带约束的极小化问题，研究以 Legendre 型的凸函数诱导的 Hessian 黎曼度量的梯度流。通过一系列引理得到了 Hessian 黎曼结构与变分不等式具有特定的积分性质的凸集的积分值，给出了 Bregman 类型距离的新动机。接着，引入了一般演变问题，并给出了微分包含的修正。在拟凸条件下，证明了一般存在和全局收敛性，对于凸最小化问题，有一些有趣的细节。讨论了一些这些梯度流的显式例子。鉴定了双轨迹，并考虑了带有正性和等式约束的凸程序的双重收敛的充分条件。建立了一些收敛速率结果。

Nov, 2018

对于非凸、非光滑函数的关键点寻找问题，本文研究了三种基于梯度的方法 (梯度下降、近端更新、弗兰克 - 沃尔夫更新) 的行为，并证明了这些算法的收敛速率，同时也为连续亚解析函数证明了更快的收敛速率，优化后的算法具有更低的迭代成本，并通过应用于最佳子集选择、鲁棒估计、混合密度估计和形状阴影重建等问题，展示了方法和理论的实际效果。

Apr, 2018