本文研究了分布式迭代算法在共识问题和平均问题中的收敛速度，重点是平均问题。首先考虑了固定通信拓扑的情况。证明了一种简单的共识算法适应于平均算法，并且对于各种线性、时不变和分布式共识方法的最坏情况收敛时间提供下界，并提供一种基本匹配这些下界的算法。之后，我们考虑了时变拓扑的情况，并提供了一个多项式时间的平均算法。

Dec, 2006

本文研究了通过节点之间的交流来进行分布式优化的问题，提出了一种基于广播的算法，即 subgradient-push algorithm, 计算其收敛速率.

Mar, 2013

本研究提出分布式算法，可用于在具有时间变化连接性的网络上，将多个代理的估计与特定值对齐，并着重研究约束问题的实现与收敛性分析。该算法可用于处理一致性问题或优化问题，其中全局目标函数为局部客体函数的组合。最终，该算法表现出了良好的收敛率与收敛效果。

Feb, 2008

研究分布式方法用于在线预测和随机优化，并提出了基于 gossip 的优化方法以实现最优的后悔界限。

Mar, 2014

本文研究了基于对等网络的去中心化梯度下降方法，分析了参数收敛性与收敛速率，提出了分布式基 pursuit 迭代方法及其收敛性分析。

Oct, 2013

本文研究了分布式网络中去中心化优化的问题，尤其是基于双重平均子梯度的分布式算法及其收敛速度与网络大小和拓扑结构的关系，同时探讨了算法收敛和网络结构限制之间的关系，并证明了我们算法所需的迭代次数与网络谱隙成反比例关系。

May, 2010

该研究分析分布式非凸优化问题，针对多智能体网络模型，利用一些技术假设证明分布式推送算法在目标函数的临界点处收敛，并利用扰动动力学证明扰动过程的几乎肯定收敛性。

Dec, 2015

本文研究了具有强凸局部目标函数的去中心化一致性优化问题，并建立了其线性收敛速率及加速的指导原则，其中采用了交替方向乘子方法 (ADMM) 来解决该问题，该方法可在单个代理处进行迭代计算并在邻居之间进行信息交换。

Jul, 2013

本文提出一种基于随机鞍点算法的分布式算法，以解决多智能体环境下的随机优化问题，该算法包括在线共识优化作为特例，并应用于传感器网络中的相关随机场顺序估计问题和在线源定位问题。

Jun, 2016

本文研究了一种名为 local distributed SGD 的分布式优化算法，其中数据在计算节点之间进行划分，计算节点进行本地更新，定期交换模型以进行平均化，并对其进行收敛分析，结果表明它可以大大降低通信成本并且适用性比当前理论推测的更为广泛，同时提出了一种自适应同步方案，验证理论和方案的实验结果在 AWS EC2 云和内部 GPU 集群上运行良好。

Oct, 2019