提出快速近端改进增广拉格朗日方法 Fast PALM 和快速近端交替方向乘子方法 Fast PL-ADMM-PS 用于解决凸规划问题，成果表明与传统方法相比，算法具有更好的收敛速度和迭代复杂度.

Nov, 2015

给出了一种用于解决具有弱凸目标和凸线性 / 非线性约束问题的阻尼近端增广 Lagrange 方法（DPALM）。通过采用阻尼对偶步长而不是全步长，确保对偶迭代的有界性。如果每个 DPALM 子问题解到适当的精度，则 DPALM 可以在 O (ε^{-2}) 的外部迭代中产生一个近似 ε-KKT 点。此外，我们在目标函数为正则化平滑函数或正则化构成形式的情况下建立了 DPALM 的整体迭代复杂性。对于前一种情况，通过将加速近端梯度（APG）方法应用于每个 DPALM 子问题，DPALM 实现了复杂度为 Τ(ε^{-2.5})，从而产生一个 ε-KKT 点。对于后一种情况，通过使用 APG 来解决每个子问题的 Moreau 包络平滑版本，DPALM 的复杂度为 O (~ε^{-3})，从而得到一个近似 ε-KKT 点。我们的外部迭代复杂性和整体复杂性要么推广了现有的无约束或线性约束问题的最佳结果到凸约束问题，要么改进了解决相同结构问题的已知最佳结果。此外，通过在线性 / 二次约束的非凸二次规划和线性约束的鲁棒非线性最小二乘上进行数值实验，展示了所提出的 DPALM 方法在效率上超过了几种最先进的方法。

Nov, 2023

本研究提出了一种基于 ProxASAGA 算法的并行异步稀疏方法，用于解决多核架构下大规模优化问题中的非光滑目标，并在实验中取得了多项实际加速。

Jul, 2017

该研究提出了一种新的算法 SPLA 用于从对数凸分布中采样，该算法是 Langevin 算法的推广，能够实现平滑项和非平滑项的随机操作，并在光滑项凸性和强凸性下建立非渐近次线性和线性收敛率，从而提高了贝叶斯学习任务的效率。

May, 2019

本文提出和建立了一种非精确的近端加速增广 Lagrange (IPAAL) 方法，用于解决线性约束平滑非凸复合优化问题的迭代复杂度，并证明了 IPAAL 方法在大多数 ACG 迭代中产生一个近似稳定解决方案。

Jun, 2020

我们提出了一种加速的块近端线性框架与适应性动量 (ABPL$^+$) 用于非凸和非光滑优化。

Aug, 2023

本文探讨了非凸优化中加速近端梯度法及其变体的收敛性，并提出了一种新的变体利用自适应动量和块坐标更新来进一步改进广泛类别的非凸问题中的性能，在稀疏线性回归和正则化中表现出可证明的局部线性收敛性。

Oct, 2017

本研究开发了一种适用于分布式和共享内存的异步并行随机 L-BFGS 算法，它利用了随机梯度马尔科夫链蒙特卡罗技术的优势，在非凸优化问题中提供了可行性和收敛性的证明，并在多个实验中验证了该算法的优越性能。

Jun, 2018

在大规模机器学习应用中，我们提出了利用部分异步通信协议实现的灵活的近端梯度下降算法 m-PAPG，该算法具有容错性、通信效率和多功能性，并表征了其各种收敛特性。

Apr, 2017

本文针对图像科学中广泛使用的一类优化问题，基于 ADMM 算法，通过使用通用的双重步长方法、构建特殊的潜函数以及采用简单的初始化策略实现了非凸优化问题全局收敛和解决，并在实际应用中进行了比较实验，表明最优化效果良好。

Jun, 2015