本文探讨了在信号处理等领域中出现的多智能体分布式共识优化问题,并提出了与经典共识子梯度方法相比,收敛速度更快但计算复杂度更高的 ADMM 算法。同时,通过引入一步不精确计算的方法,降低了 ADMM 的计算复杂度,并证明了该算法具有良好的收敛性能。
Feb, 2014
本文研究了具有强凸局部目标函数的去中心化一致性优化问题,并建立了其线性收敛速率及加速的指导原则,其中采用了交替方向乘子方法 (ADMM) 来解决该问题,该方法可在单个代理处进行迭代计算并在邻居之间进行信息交换。
Jul, 2013
本研究提出了基于 ADMM 算法的分布式算法,用于通过网络通信最小化局部已知的凸函数之和,研究表明,在函数为凸函数时,目标函数值和可行性冲突都会收敛,当函数是强凸函数且有 Lipschitz 连续梯度时,该算法生成的序列会线性收敛到最优解。此外,我们的分析还通过节点的最大和最小度以及网络的代数连通度凸显了网络结构对收敛速度的影响。
Jan, 2016
本文提出了一类新的随机异步分布式优化方法,将标准的交替方向乘子法推广到异步设置中,其中随机的高斯 - 塞德尔迭代用于找到两个单调算子求和的零点,最终收敛性在连接性条件下得到保证,数值结果证明了我们的理论。
Mar, 2013
提出了一种分布式算法 - 分布式交替方向乘子法 (D-ADMM),可解决相互连接节点或代理的分离优化问题,该算法已被证明在网络为二分图或所有函数都是强凸时收敛,用于解决信号处理和控制问题时,相较于现有算法将通信频率大幅降低。
Feb, 2012
本文提出了一种分散式的求解全局目标函数最小化问题的算法 —— 分散式二次逼近交替方向乘子法(DQM),通过在每次迭代中最小化 DADMM 最小化目标函数的二次逼近,可以减少计算成本并仍然保持收敛速度达到 DADMM 的线性收敛率常数,并在逻辑回归问题中展示了 DQM 相对于 DADMM 和其他替代算法的优势。
Aug, 2015
本文研究了分布式交替方向乘子法,提出了使用不同的优化参数来提高算法性能的方法,并引入了自适应一致性交替方向乘子法来自动调节期权参数,最终获得了 O(1 /k)的收敛速度。
Jun, 2017
本文提出了一种名为 DQM 的去中心化二次逼近方法,旨在减少 DADMM 求解优化子问题所需的计算时间,其以线性速率收敛于最优解,并且其线性收敛系数随时间呈线性趋势,数值结果也证明了 DQM 的有效性。
Oct, 2015
研究去中心化共识优化中量化对优化带来的影响,并提出了一种基于梯度下降的算法,证明算法在标准强凸和平滑假设下可实现消失的均值解误差,并通过模拟结果验证了理论收敛速度与实际结果的紧密一致性。
Jun, 2018
本文研究了基于 ADMM 的分布式优化方法,提出了一种异步 ADMM 算法,可以有效提高分布式计算的时间效率,同时通过对算法参数的适当选择,可以保证算法收敛到 Karush-Kuhn-Tucker(KKT)点集。
Sep, 2015