Feb, 2012

D-ADMM: 可高效通信的可分离优化分布式算法

PDF
TL;DR提出了一种分布式算法 - 分布式交替方向乘子法 (D-ADMM)，可解决相互连接节点或代理的分离优化问题，该算法已被证明在网络为二分图或所有函数都是强凸时收敛，用于解决信号处理和控制问题时，相较于现有算法将通信频率大幅降低。
distributed alternating direction method of multipliersseparable optimization problemsnetworksconvergencelow communication requirements
发现论文，激发创造
  • 基于不精确共识 ADMM 的多智能体分布式优化

    本文探讨了在信号处理等领域中出现的多智能体分布式共识优化问题，并提出了与经典共识子梯度方法相比，收敛速度更快但计算复杂度更高的 ADMM 算法。同时，通过引入一步不精确计算的方法，降低了 ADMM 的计算复杂度，并证明了该算法具有良好的收敛性能。

    Feb, 2014

  • 自适应一致性 ADMM 分布式优化

    本文研究了分布式交替方向乘子法，提出了使用不同的优化参数来提高算法性能的方法，并引入了自适应一致性交替方向乘子法来自动调节期权参数，最终获得了 O（1 /k）的收敛速度。

    Jun, 2017

  • 大规模优化的异步分布式 ADMM 算法与收敛分析 - 第一部分

    本文研究了基于 ADMM 的分布式优化方法，提出了一种异步 ADMM 算法，可以有效提高分布式计算的时间效率，同时通过对算法参数的适当选择，可以保证算法收敛到 Karush-Kuhn-Tucker（KKT）点集。

    Sep, 2015

  • 随机交替方向乘子法异步分布式优化

    本文提出了一类新的随机异步分布式优化方法，将标准的交替方向乘子法推广到异步设置中，其中随机的高斯 - 塞德尔迭代用于找到两个单调算子求和的零点，最终收敛性在连接性条件下得到保证，数值结果证明了我们的理论。

    Mar, 2013

  • 网络分布式 ADMM 的收敛速率

    本研究提出了基于 ADMM 算法的分布式算法，用于通过网络通信最小化局部已知的凸函数之和，研究表明，在函数为凸函数时，目标函数值和可行性冲突都会收敛，当函数是强凸函数且有 Lipschitz 连续梯度时，该算法生成的序列会线性收敛到最优解。此外，我们的分析还通过节点的最大和最小度以及网络的代数连通度凸显了网络结构对收敛速度的影响。

    Jan, 2016

  • 完全分散化环境下，基于有序 ADMM 的通信高效联邦学习

    本文提出了一种名为基于排序的交替方向乘法方法（OADMM）的通信高效算法，它能够在分布式网络中实现优化和控制，相比传统的 ADMM 算法，在保持精度的情况下显著降低通信开销，并同时引入了建立在 OADMM 之上的 SOADMM 方法加快了收敛速度。

    Feb, 2022

  • 量化一致性 ADMM 用于多智能体分布式优化

    研究了基于交替方向乘法方法的量化分布式算法，用于解决多代理分布式优化问题，该算法适用于包括 LASSO 在内的更一般目标函数（可能是非平滑的）在有限容量和其他实际约束下进行通信。

    Oct, 2015

  • DP-ADMM: 基于 ADMM 的差分隐私分布式学习

    本文提供了 DP-ADMM 算法，它结合了近似增广拉格朗日函数和时间变化的高斯噪声添加，以在相同的不同隐私保证下，实现更高效的一般目标函数的分布式学习，同时应用矩 accountant 方法来限制端到端的隐私损失。DP-ADMM 算法可以用于更广泛的分布式学习问题，具有可证明的收敛性和明确的效用 - 隐私权衡，并且可以实现高的收敛性和模型精度。

    Aug, 2018

  • DOPE: 用于成对能量的分布式优化

    本研究提出了一种交替方向乘子法（ADMM），该方法可以解决优化成对函数的非凸问题，适用于图像分割等领域，可以将问题分解为多个小的子问题，并通过一个新的约束条件保证了子问题的一致性，通过迭代求解子问题和更新一致性变量来加速收敛。

    Apr, 2017

  • 通过深度展开的分布式 ADMM 实现有限通信的分布式优化

    通过采用深度展开方法，我们提出了展开的 D-ADMM 算法，它在每个代理之间仅交换了固定数量的消息，有效地减少了 D-ADMM 中的通信数量，同时保持了算法的可解释性和灵活性。我们将展开的 D-ADMM 算法应用于分布式估计任务和分布式学习场景，并证明了该方法在保持性能的同时显著减少了通信开销。

    Sep, 2023