预处理和简单子问题程序加速原始 - 对偶方法
本文提出了一种新的 proximal ADMM 算法,使用平滑后的原始迭代的序列并在每次迭代时向增广拉格朗日函数中引入一个二次近似项。该算法的迭代收敛到这个问题的一个站点,特别是当目标函数是二次函数时,证明算法的线性收敛性。
Dec, 2018
本文提出了一种名为 “Parallel Direction Method of Multipliers(PDMM)” 的随机块坐标方法,以解决带有多块线性约束的优化问题,并表明 PDMM 在两个应用程序中均优于现有技术方法,在全局收敛和迭代复杂度方面进行了详细说明
Jun, 2014
提出了 Gauss-Seidel ADMMs 和 Jacobian ADMMs 框架及其收敛分析。我们展示了这些框架可以通过最小化可分离 majorant 替代加强本来只可以解决可分离问题的 ADMMs。我们还介绍了几种提高 ADMM 效率的技术,特别地,我们提出了 M-ADMM,它通过吸收 Gauss-Seidel ADMMs 的特点来缓解 Jacobian ADMMs 的缓慢收敛问题。在理论保证和数值实验方面,我们的新 ADMMs 表现优越。此外,我们还发布了一个工具箱,其中包含了很多压缩感知问题的高效 ADMMs 的实现。
Jul, 2016
提出快速近端改进增广拉格朗日方法 Fast PALM 和快速近端交替方向乘子方法 Fast PL-ADMM-PS 用于解决凸规划问题,成果表明与传统方法相比,算法具有更好的收敛速度和迭代复杂度.
Nov, 2015
本文提出一种新的加速梯度下降的变种,该方法不需要任何有关目标函数的信息,使用精确线性搜索进行实际加速收敛,可以根据已知的凸和非凸目标函数的下界进行收敛,具有原始对偶属性,并可在非欧几里得设置中应用。同时,我们还提出了一种适用于非平滑问题的通用方法。
Sep, 2018
本文探讨使用交替方向乘子法(ADMM)来解决多块可分凸优化问题。提出了一种将多块问题转化为等价的二块问题来解决的策略,并分别从理论和实验结果两方面证明了其收敛性和数值效率优势。
Aug, 2013
我们证明了 Alternating Direction Method of Multipliers (ADMM) 收敛到最优的原始对偶解,假设成本函数 f (x)+g (y) 被限制在对点集 X 和 Y 上。
Dec, 2011
本文针对图像科学中广泛使用的一类优化问题,基于 ADMM 算法,通过使用通用的双重步长方法、构建特殊的潜函数以及采用简单的初始化策略实现了非凸优化问题全局收敛和解决,并在实际应用中进行了比较实验,表明最优化效果良好。
Jun, 2015
本文提出了一种用于解决多块凸优化问题的随机 Primal-Dual 近端块坐标更新框架,并使用其达到 $O (1/t)$ 的收敛速度,且包含现有算法的特例,以及推广至解决随机编程的问题。
May, 2016
本论文考虑了一类具有偏微分方程约束条件的非光滑最优控制问题,采用了原始 - 对偶方法,并结合较大的步长或算子学习技术进行加速,其中加速的有效性经过了初步的数值结果验证。
Jul, 2023