本文研究了机器学习中基于不光滑正则化的各种优化问题，并提出了三种不精确的近端梯度算法，包括基本版本和 Nesterov 加速版本。理论分析表明，我们的不精确近端梯度算法可以在非凸情况下具有和精确近端梯度算法相同的收敛速度。实验结果证实了新算法在三个代表性非凸学习问题上的优越性。

Dec, 2016

本文探讨了使用近端梯度法优化平滑凸函数和非平滑凸函数的和时，如果在计算平滑项的梯度或非平滑项的邻近算子时存在误差，基本的近端梯度法和加速近端梯度法可以实现与没有错误的情况下相同的收敛率，前提是错误以适当的速度减小。使用这些速度，在一组结构稀疏性问题上，我们的表现与精心选择的固定误差级别相当或更好。

Sep, 2011

本文介绍了一种利用步长乘以线性误差边界的方法来实现凸函数最小化的近端梯度算法；通过证明将误差边界与一种自然二次生长条件的等价性，直观地解释了观察到的线性收敛现象；我们的方法将推广到用于最小化由光滑映射组成的非光滑函数的近端方法，同时观察到算法中的短步长暗示了接近稳定状态，建议作为可靠的终止准则。

Feb, 2016

本文介绍了通过应用已知算法到原问题的复合平滑近似，获得无约束或线性约束的复合非凸凹、极小极大（因而是非光滑的）问题的近似稳定点的平滑方案。具体而言，在无约束（resp. 有约束）的情况下，通过应用作者先前提出的加速不精确近端点算法（resp. 二次罚项）到其复合平滑近似，获得原问题的近似稳态点。同时，还建立了两个平滑方案的迭代复杂度界。最后，给出了数值结果，以展示无约束平滑方案的效率。

May, 2019

本文研究了求解由平滑强凸函数和可得到其 Proximal 算子的非光滑凸函数组成的函数和的最优收敛速度，并利用半定规划等工具，建立了 Proximal 梯度算法的准确最坏情况收敛速度，同时提出可将强凸性等条件放宽以保证相应的收敛速度，得到了三种性能度量的同一步长最优的证明。

May, 2017

通过使用可计算的接近算子和自共轭障碍的凸约束集，提出了一种新的关于近端和自共轭障碍概念的混合处理方法，并提出了一种非精确路径跟踪算法框架，可以有效地解决非光滑凸最小化问题，同时可以以无调谐自由的方式获得自共轭目标正则化问题的 Pareto 前沿点。

Nov, 2013

本文提出了一种高效的近端梯度算法，每个迭代只需要一个不精确（因此更便宜）的近端步骤，收敛于非凸问题的临界点并具有 O (1/k) 的收敛速度，比一阶方法中非凸问题的最佳速度还要快。

Dec, 2016

提出了两个针对非凸情况的数值算法，用于快速解决优化问题。该算法基于可变度量介绍了近端项，这使得我们能够针对非凸结构优化问题构建新的近端分裂算法。在变量度量序列条件温和并且假设相关增广拉格朗日函数具有 Kurdyka-Lojasiewicz 性质的情况下，证明了该算法迭代可以收敛到 KKT 点，并获得了增广拉格朗日函数和迭代的收敛速度。

Jan, 2018

该研究广义化了牛顿型方法以处理光滑函数的最小化，特别是一个包含简单近端映射的凸函数和一个非光滑函数的总和，在此基础上提出了近端牛顿型方法。研究表明，该方法即使在计算搜索方向不精确时，也能继承用于最小化光滑函数的牛顿型方法的理想收敛性质。该方法是许多针对生物信息学、信号处理和统计学习等问题量身定制的流行方法的特例，并且分析结果为其中一些方法提供了新的收敛结果。

Jun, 2012

利用可适应性光滑函数的概念和 Bregman 基础的近端梯度方法，在解决具有复杂目标函数的非凸、非光滑最小化问题时，实现全局收敛。

Jun, 2017