Feb, 2024

SCAFFLSA: 量化和消除联邦式线性随机逼近和时序差异学习中的异质性偏差

PDF
TL;DR本文对联邦线性随机逼近（FedLSA）算法进行了非渐进分析，定量化了异质代理的本地训练引入的偏差，并调查了算法的样本复杂度。我们展示了 FedLSA 的通信复杂度与所需精度 ε 的多项式缩放，从而限制了联邦的好处。为了克服这一问题，我们提出了 SCAFFLSA，这是 FedLSA 的一种新变体，它使用控制变量来校正本地训练的偏差，并证明其在统计异质性方面没有假设的收敛性。我们将所提出的方法应用于使用线性函数逼近的联邦时序差异学习，并分析了相应的复杂度改进。
federated linear stochastic approximationlocal trainingheterogeneous agentscommunication complexityscafflsa
发现论文，激发创造
  • SCAFFOLD：面向联邦学习的随机控制平均算法

    通过引入控制变量技术，我们提出了一种新的算法（SCAFFOLD），减轻了 FedAvg 在异构数据（non-iid）上的不稳定性和慢收敛问题，从而使其需要的通信轮次大大减少，在分布式优化中新的成果是我们证明了 SCAFFOLD 可以利用客户端数据的相似性加速收敛。

    Oct, 2019

  • 有限时间分析对策略异构联合强化学习的应用

    通过引入线性函数逼近方法，我们提出了 FedSARSA，一种新颖的联邦在线政策强化学习方案，以应对 FRL 算法的挑战，并提供全面的有限时间误差分析。我们证明了 FedSARSA 收敛于对所有代理都接近最优的政策，该接近程度与异质性水平成正比。此外，我们证明了 FedSARSA 利用代理协作实现了线性加速，随着代理数量的增加而适应性地提升速度，对于固定和自适应步长配置均成立。

    Jan, 2024

  • 基于量化 Langevin 随机动力学的贝叶斯联邦学习

    本文讨论了在联邦学习框架下，通过提出一种新的联邦马尔科夫链蒙特卡罗算法（Quantised Langevin Stochastic Dynamics），并结合梯度压缩和方差缩减技术，优化了性能。给出了该算法的收敛性保证并应用于多种贝叶斯联邦学习基准测试中。

    Jun, 2021

  • 联邦 Q 学习中异构的优点：线性加速及其它

    该论文讨论了利用分布式数据进行在线学习时，采用联邦 Q 学习算法可以在不共享数据的情况下进行合作学习，提出了一种基于重要性加权的平均算法，加速了算法的收敛速度，降低了样本复杂度。

    May, 2023

  • 基于随机逼近的联邦机器学习方法

    本论文研究了在随机逼近框架中的联邦学习（FL）。FL 是一种协作方式，可以在各个参与方或客户端之间训练神经网络模型，而不需要将它们的数据集中。每个客户端将在其相应数据上训练模型，并定期将权重发送至服务器进行聚合。服务器聚合这些权重，由客户端使用来重新初始化其神经网络并继续训练。该论文利用随机逼近迭代来更新客户端神经网络的权重，并展示了聚合权重跟踪自主 ODE。通过数值模拟并与 FedAvg 和 FedProx 等标准算法进行比较，观察到该算法具有鲁棒性，在客户端数据不完全相同时给出更可靠的权重估计。

    Feb, 2024

  • 复合异构数据联邦学习

    我们提出了一种新算法来解决复合联合学习问题，该算法通过策略性地分离近端算子和通信来管理非光滑正则化，并且在没有关于数据相似性的任何假设的情况下解决客户端漂移。此外，每个工作者使用局部更新来降低与服务器的通信频率，并每次通信轮传输仅一个 d 维向量。我们证明了我们的算法线性收敛到最优解的邻域，并在数值实验中展示了我们算法相对于最先进的方法的优越性。

    Sep, 2023

  • 联邦学习中的线性收敛问题：应对客户端异质性和稀疏梯度

    本文提出了 FedLin 框架来应对分布式学习中的目标异质性、系统异质性和不频繁不准确的通信挑战，当客户端的本地损失函数是光滑且强凸的时，FedLin 保证线性收敛并最终收敛到全局最小点，并且在压缩比例下仍然保持线性收敛速度。

    Feb, 2021

  • FedSpeed: 更大的本地间隔，更少的通信轮次，更高的泛化准确性

    本文提出了 FedSpeed 方法，通过应用 prox-correction term 和混合随机梯度下降和额外梯度上升步骤的扰动方法，解决了分布式学习框架中由于本地不一致的最优和过度拟合引起的非消失偏差问题。实验表明 FedSpeed 在真实数据集上的效率显著快于几种基线算法，并实现了最先进的性能。

    Feb, 2023

  • 量化分层联邦学习：统计异质性的鲁棒方法

    本文提出了一种新颖的分层联邦学习算法，其在多个集合中结合了量化进行通信效率，并且展示了对统计异质性的鲁棒性。与传统的分层联邦学习算法不同，我们的方法将集合内迭代中的梯度聚合与集合间迭代中的模型聚合相结合。我们提供了一个全面的分析框架来评估其最优性差距和收敛速度，并将这些方面与传统算法进行比较。此外，我们还提出了一个问题形式化解决方案以推导出最优的系统参数。我们的研究结果表明，我们的算法在一系列参数下始终能够实现高学习准确率，并且在具有异构数据分布的场景中明显优于其他分层算法。

    Mar, 2024

  • 具有本地超梯度估计的联邦多序列随机逼近

    通过开发 FedMSA，我们着手开展了 Federated Stochastic Approximation With Multiple Coupled Sequences (MSA) 的算法问题，该算法问题被广泛应用于机器学习，并且在 BLO、MCO 和强化学习（特别是演员 - 评论家方法）中包含了丰富的问题类，我们还演示了 FedMSA 的实验效果，并且相对于先前的联邦 BLO 方案，我们的算法在通信轮数上实现了数量级的节省。

    Jun, 2023