本研究探讨了解决分布式优化问题的多种方法，包括 EXTRA、Exact-Diffusion/D^2 和梯度跟踪算法等，研究表明这些方法在网络拓扑敏感性上相对于 DSGD 较弱。该研究针对此问题提出了一种统一的分布式算法 SUDA，并建立了 SUDA 的收敛性，实验结果证明该算法对网络拓扑较为鲁棒。

Oct, 2021

本研究提出了一种异步、分散的共识优化算法，可在没有全局时序同步的情况下，利用本地计算和信息传递，在有限延迟和随机代理假设下收敛于精确解。

Dec, 2016

本文研究了基于对等网络的去中心化梯度下降方法，分析了参数收敛性与收敛速率，提出了分布式基 pursuit 迭代方法及其收敛性分析。

Oct, 2013

研究去中心化共识优化中量化对优化带来的影响，并提出了一种基于梯度下降的算法，证明算法在标准强凸和平滑假设下可实现消失的均值解误差，并通过模拟结果验证了理论收敛速度与实际结果的紧密一致性。

Jun, 2018

本文研究分布式最优化问题，特别关注分布式的梯度方法，针对机器学习和信号处理等领域的实际场景给出了有效的应用方案。

Sep, 2020

本文提出了两种基于加速的前后向算法的分散优化新算法以解决存储在网络节点上的光滑强凸函数之和的最小化问题，并显示它们是最优的算法，具有复杂性的保证。

Jun, 2020

通过对聚合优化问题进行罚函数改进和递增构造，本文开发了一种分布式优化策略，该策略以精确收敛为保障，适用于广泛的左随机组合策略，并且在 Part II 中展示出比 EXTRA 策略更宽阔的稳定性范围和更优的收敛性能，并且适用于非对称的左随机组合矩阵。

Feb, 2017

本文重新审视了 EXTRA 算法，并使用 Catalyst 框架来加速该算法，提出了与强凸性和光滑性相关的复杂性，并分析了通信复杂性。

Feb, 2020

提出了一种动态随机近端梯度共识（DySPGC）算法，旨在解决在具有随机时间变化的多智能体网络上解决凸随机优化问题，该算法对于静态和某些随机时间变化的网络均有效，并且能够收敛到全局最优解。

Nov, 2015

提出了一个在分散优化设置下设计原始方法的框架，该框架适用于局部函数光滑且强凸。通过近似解决由加速增广拉格朗日方法引起的一系列子问题，从而提供了一种演导出几个著名的分散算法的系统方法。当与加速梯度下降相结合时，我们的框架会产生一种新的原始算法，其收敛速度是最优的，并且与最近确定的下限相匹配。我们提供实验结果，证明了拟议算法在高度病态问题上的有效性。

Jun, 2020