本文提出了一种基于优化的分布参数估计和观察性社交学习方法，演示了如何使用分布式，在线的 Nesterov 双平均法解决纯粹依靠本地信息的估计，并证明了代理最终可以使用随机瓦解方案学习真实参数。

Sep, 2013

本文提出一种基于联邦学习的方法，用于估计来自不同方的数据 横向分割后的 贝叶斯网络结构。该方法采用基于连续优化的分布式结构学习方法，使用多重乘法器的交替方向方法（ADMM），在优化过程中仅交换模型参数，实现了数据隐私的保护。实验结果表明，该方法在合成和实际数据集上的性能优于其他方法，特别是在客户端数量相对较多且每个客户端的样本量有限的情况下。

Oct, 2021

我们提出了一种耦合的分布式随机逼近算法来解决具有不完美信息特征的参数化分布式优化问题，对该算法的收敛性进行了定量分析，并证明了决策变量的均方误差受网络连接性和迭代次数的影响，此外，对达到主导收敛速率所需的临时迭代次数进行了分析，并通过数值实验验证了理论结果。

Apr, 2024

本文介绍了利用扩散策略开发分布式算法解决多任务问题的方法，通过最小化适当的均方误差标准和 L2 正则化共同推断在网络覆盖区域内需要推断的多个最佳参数向量。在本文中，分析了算法在平均值和均方误差意义下的稳定性和收敛性，并进行了模拟以验证理论发现，同时还说明了网络内应用于光谱感应、目标定位和高光谱数据分离的几种有用应用程序。

Nov, 2013

通过协作方法和共识机制改进贝叶斯优化模型，以实现在不同客户之间分配实验任务，快速迭代优化设计，从而达到优化设计过程加速的目的。

Jun, 2023

本研究提出分布式算法，可用于在具有时间变化连接性的网络上，将多个代理的估计与特定值对齐，并着重研究约束问题的实现与收敛性分析。该算法可用于处理一致性问题或优化问题，其中全局目标函数为局部客体函数的组合。最终，该算法表现出了良好的收敛率与收敛效果。

Feb, 2008

本文研究了分布式网络中去中心化优化的问题，尤其是基于双重平均子梯度的分布式算法及其收敛速度与网络大小和拓扑结构的关系，同时探讨了算法收敛和网络结构限制之间的关系，并证明了我们算法所需的迭代次数与网络谱隙成反比例关系。

May, 2010

我们研究了面对自适应对手时的分布式在线和掷骰机凸优化问题。我们旨在在 $M$ 个并行工作的机器上通过 $T$ 轮和 $R$ 次间歇通信来最小化平均遗憾。在假设底层成本函数是凸函数并且可以自适应生成的情况下，我们的研究结果表明，在机器能够访问所查询点的一阶梯度信息时，合作是没有益处的。这与对于随机函数的情况形成了对比，其中每台机器从固定分布中抽样成本函数。此外，我们深入研究了带有掷骰机（零阶）反馈的联邦在线优化更具挑战性的情况，在该情况下，机器只能访问所查询点的成本函数值。这里的关键发现是确定合作有益且甚至可能导致机器数量的线性加速的高维度情况。我们通过开发新的分布式单点和双点反馈算法，进一步说明了我们的研究结果在联邦对抗线性掷骰机中的应用。我们的工作是对限制反馈的联邦在线优化的系统理解的首次尝试，并在间歇通信情况下获得了一阶和零阶反馈的严格遗憾界。因此，我们的研究填补了联邦在线优化中随机和自适应环境之间的差距。

Nov, 2023

本研究提出了适用于分布式优化的一种新的 Newton 类方法，特别适用于随机优化和学习问题。对于二次目标，该方法的收敛速度呈现线性，可以按照数据规模得到改善，基于合理假设需要基本恒定次迭代。本文提供了理论和实证证据，表明我们的方法比其他方法，如单次参数平均和 ADMM，具有优势。

Dec, 2013

本文提出了一种基于联邦学习模式下的多智能体最优化问题解决方案，运用受限的通信方式，实现了对多个目标的追踪，避免了碰撞发生，并在两个相关应用上进行了数量级和碰撞性能的分析。

Jun, 2023