Jun, 2020

鲁棒联邦学习：仿射分布转移的案例

PDF
TL;DR本文提出了 FLRA 框架，该框架可以应对联邦学习中用户间分布的移位问题。通过优化方法和梯度下降和上升（GDA）方法，解决了 FLRA 的分布式极小极大化问题。此外，通过实验结果，证明了该算法相比于标准的联邦学习和对抗训练方法，能够显著提高效果。
federated learningdistribution shiftsflrageneralization error boundsoptimization
发现论文，激发创造
  • 一种简单的数据增强方法用于特征分布倾斜联邦学习

    本文提出了一种名为 FedRDN 的数据增强方法，通过将来自整个联邦系统的数据集统计注入到客户端数据中来有效改善特征分布倾斜 FL 的泛化，从而缓解了不同本地数据集的基础分布所导致的特征漂移问题。

    Jun, 2023

  • 基于分类器偏移的不平衡类别联邦学习

    本文提出了一种名为 FedShift 的简单有效方法，通过在本地训练阶段添加分类器输出上的漂移来减轻类别不平衡的负面影响，在理论上证明了 FedShift 中的分类器漂移可以使局部最优点一致于全局最优点，并确保算法的收敛，实验表明 FedShift 在准确性和通信效率方面优于各种数据集上的其他最新联邦学习方法。

    Apr, 2023

  • FedFA: 联邦特征增强

    本文提出了一种名为 FedFA 的鲁棒联邦学习算法，通过运用统计学的方法对每个客户端的数据进行加强，从而解决非 i.i.d. 数据分布带来的特征偏移和本地数据偏差问题。

    Jan, 2023

  • 通过分布变换解决联邦学习中的异质性

    本文提出了一种新的框架 DisTrans，通过训练和测试时间的分布变换以及双输入通道模型结构来优化每个客户端的分布式偏移和模型，从而在面对不同程度的数据异质性时，提高联邦学习（FL）性能，评估结果表明，DisTrans 在多个基准数据集上的表现超越了其他现有方法。

    Oct, 2022

  • FedShift: 通过权重偏移聚合解决联邦学习的双重异质问题

    FedShift 是一种新颖的算法，旨在在双重异质性情况下提高训练速度和模型的准确性，通过量化和移位技术改善客户参与度，并提升在异质性环境中的准确性 3.9%。

    Feb, 2024

  • 分布鲁棒联邦平均法

    本文介绍一种分布式算法，即 Distributionally Robust Federated Averaging，用于解决分布式鲁棒联邦学习中通信效率和全局参数更新频率不匹配的问题，并且研究了该算法的收敛性及其一般化方法。

    Feb, 2021

  • 本地学习很重要：重新思考联邦学习中的数据异构性

    本文提出了一种叫做 FedAlign 的基于局部学习广泛性而非接近约束的数据异构性联邦学习解决方案，其可在不引入大量计算和内存开销的情况下实现与最先进的 FL 方法相当的精度。

    Nov, 2021

  • FL Games：一种用于分布偏移的联邦学习框架

    本文提出了 FL Games，这是一个博弈理论框架，旨在通过学习跨领域不变关系来改善联邦学习中的预测模型泛化，FL Games 在多个基准测试中展现了高超的领域外表现。

    May, 2022

  • 小样本无分布公平联邦学习

    在分布式数据训练中，为了解决公平性问题，本研究提出了一种适用于分布式和异构系统的具有小样本和分布自由保证的后处理算法 FedFaiREE。该算法考虑了分布式环境中的挑战，如客户异质性、通信成本和小样本大小，并在公平性和准确性方面提供了严格的理论保证，通过实验证明了所提方法的鲁棒性。

    Feb, 2024

  • 表现力联邦学习：应对模型依赖和异构分布漂移的解决方案

    本文提出了一种基于分布漂移映射的执行预测的联邦学习框架，关键是提出了唯一可行的执行稳定解的必要和充分条件，并在全和部分参与方案下证明了实现 FedAvg 算法的 O (1/T) 速率下收敛到执行稳定解。

    May, 2023