通过对聚合优化问题进行罚函数改进和递增构造，本文开发了一种分布式优化策略，该策略以精确收敛为保障，适用于广泛的左随机组合策略，并且在 Part II 中展示出比 EXTRA 策略更宽阔的稳定性范围和更优的收敛性能，并且适用于非对称的左随机组合矩阵。

Feb, 2017

我们研究了一个异步操作的代理网络，旨在发现适合个体本地数据集的理想全局模型。我们的假设是每个代理根据自身算法独立选择何时参与，并在任何给定时刻选择与其合作的特定子集。在该设置下，我们证明了异步扩散策略在均方误差意义下是稳定的，并针对联邦学习设置提供性能保证。我们通过数值模拟进行了实证研究。

Feb, 2024

本文介绍了利用扩散策略开发分布式算法解决多任务问题的方法，通过最小化适当的均方误差标准和 L2 正则化共同推断在网络覆盖区域内需要推断的多个最佳参数向量。在本文中，分析了算法在平均值和均方误差意义下的稳定性和收敛性，并进行了模拟以验证理论发现，同时还说明了网络内应用于光谱感应、目标定位和高光谱数据分离的几种有用应用程序。

Nov, 2013

本文提供了一种解决异步网络上多任务问题的模型，它采用多任务扩散 LMS 算法以协作的方式同时推断多个参数向量，并描述了详细的均方误差分析，该算法在充足步长的条件下保证稳定和性能，并将其应用于光谱感知的特定应用中。

Dec, 2014

本研究探讨了解决分布式优化问题的多种方法，包括 EXTRA、Exact-Diffusion/D^2 和梯度跟踪算法等，研究表明这些方法在网络拓扑敏感性上相对于 DSGD 较弱。该研究针对此问题提出了一种统一的分布式算法 SUDA，并建立了 SUDA 的收敛性，实验结果证明该算法对网络拓扑较为鲁棒。

Oct, 2021

我们提出了自适应扩散机制，以分布式方式优化全局代价函数，并将其应用于分布式估计和定位问题。

Oct, 2011

本文介绍了一种分布式学习算法 —— 去中心化单环梯度上升 / 下降算法（AD-GDA），以解决设备之间数据分布不均导致合作训练模型性能下降的问题，并采用压缩共识方案提高通信效率，并给出了平滑凸和非凸损失函数的收敛性保证。

May, 2022

本文探讨如何通过协作和学习代理的网络以分布式方式解决多目标优化问题，提出了一种基于自适应扩散策略的分布式解决方案，并研究了代理人收敛于 Pareto 最优解以及其与不动点之间的关系，为金融领域中代理人网络的协作决策提供了一个应用实例。

Aug, 2012

本文提出了一种新的分布式训练线性分类器的方法，旨在减少通信成本，在迭代期间每个节点最小化局部形成的近似目标函数，然后合并得到下降方向移动，该方法可以看作是迭代参数混合法。

Oct, 2013

本文研究了扩散 LMS 算法在多任务环境下的表现，在单任务假设不成立时，提出了一种无监督聚类策略，能让节点选择邻居并协作估计共同参数向量，在多目标跟踪任务中得到了应用。

Apr, 2014