本文研究了分布式数据集下的分布式深度学习中的通信拓扑问题，提出一个基于梯度优化的 Heavy-ball 加速策略和共识协议的无中心化方法，并理论和经验上证明，在各种通信拓扑下都取得了更好的效果。

Oct, 2020

该研究探讨了分散式学习框架的收敛性与混合度之间的关系，并提出了一种定量衡量梯度混合度的指标以及优化方法，通过实验证明该方法能够在计算机视觉和 NLP 等任务中提高测试表现。

Apr, 2022

本文提出了一种名为 GUT 的新型跟踪方法，旨在降低异构数据在分散式学习中的影响，通过对各种 CV 数据集，模型架构和网络拓扑的详尽实验，证明了该方法相对于其他技术在异构数据分散式学习中实现了最先进的表现，并提升了 1-6% 的测试准确度。

May, 2023

该论文提出了一种异步分布式训练方法，利用互联网连接的具有有限资源的普通异构个人电脑的计算能力，在大型现代深度学习模型上取得了良好的性能指标，通过将计算节点高效地组织成具有相似数据传输速度和计算能力的集群，避免了每个节点承载整个模型，并采用并行多环全局参数平均方法实现全局参数平均。同时，论文在异步 SGD 损失函数上进行了解析，推导出了收敛速度的最优复杂度以及参与集群数量的线性加速和时滞参数的界.

Jan, 2024

Federated Learning is proposed as an alternative to logging and training in a data center by aggregating locally-computed updates on mobile devices to improve the user experience. The approach is shown to be robust to non-IID data distributions and reduce required communication rounds by 10-100x compared to synchronized stochastic gradient descent.

Feb, 2016

本论文研究了分散式深度学习模型的训练，提出了共识距离作为影响中心式和分散式训练效果的关键因素，并在理论和实验上证明了降低共识距离可以提高分散式训练模型的泛化性能。同时，本论文提供了实用的训练指南以缓解训练效果下降。

Feb, 2021

本文研究在分布式学习中不平衡标签数据分布的问题，发现此问题普遍存在于许多机器学习应用中，尤其是批处理规范化的 DNN 模型，SkewScout 是解决该问题的一种系统级方法。

Oct, 2019

通过对分布式动量法中的有偏梯度估计建立非渐近收敛界限，并且在元学习和压缩梯度等特殊情况下证明动量法在训练深度神经网络中比传统有偏梯度下降方法有更快的收敛性能。

Feb, 2024

我们提出了一种分散的极小极大优化方法，利用局部更新和梯度跟踪两个重要模块，用于解决分布式学习中的数据异质性和对抗鲁棒性的挑战，并分析了算法 Dec-FedTrack 在非凸 - 强凹极小极大优化情况下的性能，证明其收敛于一个稳定点。同时进行数值实验以支持我们的理论发现。

May, 2024

本文研究了联邦学习中数据异构性的挑战，提出了通过对实验数据进行部分重洗来优化收敛率的方法。通过本文提出的理论方法，我们证明了重洗可以显着减少数据的不同之处，从而加快收敛速度，本研究提出了一种使用本地生成的合成数据进行重洗的实际方法，并证明了通过该方法可以显著提高多个现有联邦学习算法的性能。

Jun, 2023