Jun, 2015

分布式优化自适应惩罚快速 ADMM 算法

PDF
TL;DR本文提出了一种新的方法来加速 ADMM 的收敛速度，通过自动决定每次迭代中需要的约束惩罚来加速收敛速度，并且还提出了一种方法，可以自适应地确定更新惩罚所需的最大迭代次数。这种方法可以有效地引导分布式优化的自适应动态网络拓扑，其在合成和真实数据，以及计算机视觉的应用方面得到了证明。
admmoptimizationdistributed learningconvergencepenalty update
发现论文，激发创造
  • 自适应一致性 ADMM 分布式优化

    本文研究了分布式交替方向乘子法，提出了使用不同的优化参数来提高算法性能的方法，并引入了自适应一致性交替方向乘子法来自动调节期权参数，最终获得了 O（1 /k）的收敛速度。

    Jun, 2017

  • 自适应 ADMM 算法中的谱惩罚参数选择

    本研究提出了一种自适应调节罚项参数的方法，使得交替方向乘子法 (ADMM) 得以快速收敛，从而提高了其可靠性和自动化水平。结果表明，这种自适应 ADMM (AADMM) 算法可以相对缓解 ADMM 算法在惩罚因子调节方面存在的问题，并同时保持收敛速度较快。

    May, 2016

  • 基于不精确共识 ADMM 的多智能体分布式优化

    本文探讨了在信号处理等领域中出现的多智能体分布式共识优化问题，并提出了与经典共识子梯度方法相比，收敛速度更快但计算复杂度更高的 ADMM 算法。同时，通过引入一步不精确计算的方法，降低了 ADMM 的计算复杂度，并证明了该算法具有良好的收敛性能。

    Feb, 2014

  • 大规模优化的异步分布式 ADMM 算法与收敛分析 - 第一部分

    本文研究了基于 ADMM 的分布式优化方法，提出了一种异步 ADMM 算法，可以有效提高分布式计算的时间效率，同时通过对算法参数的适当选择，可以保证算法收敛到 Karush-Kuhn-Tucker（KKT）点集。

    Sep, 2015

  • 网络分布式 ADMM 的收敛速率

    本研究提出了基于 ADMM 算法的分布式算法，用于通过网络通信最小化局部已知的凸函数之和，研究表明，在函数为凸函数时，目标函数值和可行性冲突都会收敛，当函数是强凸函数且有 Lipschitz 连续梯度时，该算法生成的序列会线性收敛到最优解。此外，我们的分析还通过节点的最大和最小度以及网络的代数连通度凸显了网络结构对收敛速度的影响。

    Jan, 2016

  • 基于 ADMM 的分布式算法的隐私和精度改进

    为了解决分布式计算过程中数据隐私泄露的问题，提出了一种基于改进的 ADMM 算法的扰动方法，可同时提高实用性和隐私性，并得到收敛性条件和收敛速率下界。

    Jun, 2018

  • D-ADMM: 可高效通信的可分离优化分布式算法

    提出了一种分布式算法 - 分布式交替方向乘子法 (D-ADMM)，可解决相互连接节点或代理的分离优化问题，该算法已被证明在网络为二分图或所有函数都是强凸时收敛，用于解决信号处理和控制问题时，相较于现有算法将通信频率大幅降低。

    Feb, 2012

  • 快速随机交替方向乘子法

    本文提出一种新的随机交替方向乘子法（ADMM）算法，其在线性化 ADMM 公式上逐步逼近全梯度。实验证明，该算法在凸优化问题上的收敛速度得到提高，速度显著快于现有的随机和批量 ADMM 算法。

    Aug, 2013

  • ADMM 在非凸问题中的实证研究

    本文为非凸优化问题提供一种广泛适用的解决方法，即交替方向乘子法（ADMM），并研究了其在不同领域的实用性，包括线性回归、图像降噪、相位恢复及特征向量计算， 最近从提出的自适应 ADMM 方法可以通过自动调整惩罚参数来提高算法效率和解决质量 compared to ADMM with a non-tuned penalty。

    Dec, 2016

  • 分布式二次规划的 ADMM 算法的最优缩放

    本文提出了一种优化交替方向乘子法 (ADMM) 算法的最优缩放方法，针对一类分布式二次规划问题，通过优化 ADMM 步长、松弛参数以及通信图中的边权重，得到算法最小收敛因子。推导出步长、松弛参数和相应的收敛因子的显式表达式，通过数值模拟验证了我们的结果，并强调了优化缩放 ADMM 算法的好处。

    Mar, 2013