我们研究了数据异质性对联邦学习的影响，发现许多之前的联邦学习方法并没有深入探讨不同类型的数据异质性以及这些异质性如何影响参与客户端的准确性表现。我们研究发现，当前设置中的数据异质性不一定是问题，事实上，它对 FL 参与者有益。

Sep, 2022

异构联邦学习领域中，关键挑战是在具有不同数据分布、模型结构、任务目标、计算能力和通信资源的多个客户端之间高效协作训练模型。本文首先概述了异构联邦学习的基本概念，并从数据、模型、任务、设备和通信五个方面总结了在联邦学习中的研究挑战。此外，我们探讨了现有最先进的方法如何应对异构联邦学习的异质性，并将这些方法在数据级别、模型级别和架构级别进行分类和回顾。随后，本文详细讨论了在异构联邦学习环境中的隐私保护策略。最后，本文讨论了目前存在的开放问题和未来研究方向，旨在推动异构联邦学习的进一步发展。

May, 2024

研究了混合异构性如何影响联邦优化，通过调查服务器端优化表明，自适应地最大化梯度多样性在服务器更新方向上可以帮助缓解混合异构性的潜在负面影响，引入了具有理论保证的新型基于梯度的优化器 FedAWARE，通过在异构联邦设置中进行大量实验表明，我们的提议优化器可以显著提升不同程度的混合异构性下联邦学习的性能。

Oct, 2023

本研究探索了医疗数据领域中联邦学习的数学形式化和异质性分类，重点检验了最流行的联邦学习算法在处理基于数量、特征和标签分布的异质性方面的能力，并基于这些挑战对七种常见的联邦学习算法进行了性能评估。研究目标是通过一组由不同的联邦医院数据集收集的表格性临床报告预测中风复发的风险，讨论了这种场景中经常遇到的数据异质性及其对联邦学习性能的影响。

Apr, 2024

通过使用无人机、气球和卫星，联邦学习利用大量的私有边缘数据和计算能力，为航空和航天网络中的网络和数据隐私挑战提供了一种引人注目的解决方案。然而，异质性和类别不平衡问题对于快速模型收敛仍然是一个重大障碍。本研究探讨了异质性对类别不平衡的影响，并展示了如电池寿命等约束加剧了类别不平衡挑战。我们的结果显示，与其他情景相比，在 ASN（航空航天网络）中基于联邦学习面临更严重的类别不平衡问题，现有的先进算法往往无法有效应对高水平的异质性。

Jun, 2024

提出一个称为 Ditto 的基本框架来解决联邦学习中的公平性和鲁棒性竞争的问题，并且在多项实验证明 Ditto 相对于其他竞争方法具有更高的准确性、鲁棒性和公平性。

Dec, 2020

提出了一种名为 FedDecorr 的新方法，可以在联邦学习中有效缓解数据异构性造成的维度崩溃问题。该方法鼓励表示的不同维度不相关，并且在标准基准数据集上比基线方法表现更好。

Oct, 2022

本文研究了联邦学习中数据异构性的挑战，提出了通过对实验数据进行部分重洗来优化收敛率的方法。通过本文提出的理论方法，我们证明了重洗可以显着减少数据的不同之处，从而加快收敛速度，本研究提出了一种使用本地生成的合成数据进行重洗的实际方法，并证明了通过该方法可以显著提高多个现有联邦学习算法的性能。

Jun, 2023

本文提出了一种叫做 FedAlign 的基于局部学习广泛性而非接近约束的数据异构性联邦学习解决方案，其可在不引入大量计算和内存开销的情况下实现与最先进的 FL 方法相当的精度。

Nov, 2021

通过控制数据隐私并引入一种新类型的攻击，本论文讨论了在分布式训练中实现公平性的重要性以及对公平性进行攻击的方式。

Nov, 2023