本文提出了一种基于坐标平滑梯度估计器的快速零阶随机 ADMM 方法（即 ZO-SVRG-ADMM 和 ZO-SAGA-ADMM），用于解决具有多个非光滑惩罚的非凸问题，证明了这两种方法的收敛速率为 $O（1 / T）$，可以有效地解决许多复杂的机器学习问题。

May, 2019

本文提出一种新的随机交替方向乘子法（ADMM）算法，其在线性化 ADMM 公式上逐步逼近全梯度。实验证明，该算法在凸优化问题上的收敛速度得到提高，速度显著快于现有的随机和批量 ADMM 算法。

Aug, 2013

该研究提出了一种名为 ZO-AdaMM 的零阶梯度黑盒优化方法，它将 AdaMM 通用于无梯度形式的场景，并阐述了它的收敛率问题以及在非凸约束优化问题中的适用性，最终通过 ImageNet 数据的两个实验应用证明了 ZO-AdaMM 的高精确度和快速收敛能力。

Oct, 2019

提出一种新颖的框架 AADMM，用于加速线性化交替方向乘子法 (ADMM)，对于一类具有线性约束的凸复合优化问题，AADMM 的收敛速度比线性化 ADMM 更快，而且当相应的鞍点问题有解时，AADMM 能够处理无边界的可行域，并提出了一种回溯算法来提高实际性能。

Jan, 2014

本文提出了一种名为 DQM 的去中心化二次逼近方法，旨在减少 DADMM 求解优化子问题所需的计算时间，其以线性速率收敛于最优解，并且其线性收敛系数随时间呈线性趋势，数值结果也证明了 DQM 的有效性。

Oct, 2015

本文提出了一类新的随机异步分布式优化方法，将标准的交替方向乘子法推广到异步设置中，其中随机的高斯 - 塞德尔迭代用于找到两个单调算子求和的零点，最终收敛性在连接性条件下得到保证，数值结果证明了我们的理论。

Mar, 2013

本文针对图像科学中广泛使用的一类优化问题，基于 ADMM 算法，通过使用通用的双重步长方法、构建特殊的潜函数以及采用简单的初始化策略实现了非凸优化问题全局收敛和解决，并在实际应用中进行了比较实验，表明最优化效果良好。

Jun, 2015

本文提出了一种分散式的求解全局目标函数最小化问题的算法 —— 分散式二次逼近交替方向乘子法（DQM），通过在每次迭代中最小化 DADMM 最小化目标函数的二次逼近，可以减少计算成本并仍然保持收敛速度达到 DADMM 的线性收敛率常数，并在逻辑回归问题中展示了 DQM 相对于 DADMM 和其他替代算法的优势。

Aug, 2015

本文旨在通过寻找最优算法参数，最小化 ADMM 迭代的收敛因子，来定量表征算法参数对于优化收敛时间的影响。我们在 L2 正则化最小化和约束二次规划的背景下，得出最优参数选择规则，并通过数值实验表明，这些规则显著优于现有文献中的替代方案。

Jun, 2013

本文提出了一种新的针对大规模优化和学习问题的方法，称为可扩展随机 ADMM (SCAS-ADMM)，可以在不需要存储历史梯度的情况下，在一般凸问题上达到与最佳随机方法 SA-ADMM 和批处理 ADMM 相同的收敛速度。实验结果表明，SCAS-ADMM 能够在实际应用中达到最先进的性能。

Feb, 2015