联合学习模型中，为了解决客户端硬件要求的不同挑战，本文提出了一种名为 ReeFL 的循环早期退出方法，通过融合不同子模型的特征到一个共享分类器中，利用基于 Transformer 的早期退出模块更好地利用多层次特征表示进行任务预测，并调节主干模型的特征表示用于后续预测，同时，通过每个客户端的自我蒸馏方法，在每个客户端自动选择最佳子模型作为其他子模型的教师模型。在标准图像和语音分类基准测试中，与之前的工作相比，实验证明了 ReeFL 的有效性。

May, 2024

提出了基于联邦式剪枝的方法，以在维持相似性能的同时，在联邦学习的环境下训练模型并解决自动语音识别模型所面临的诸多难点，如隐私问题、计算和通信资源等。

Sep, 2022

本文提出使用自注意力机制的神经网络模型（如 Transformer），替代传统的卷积神经网络模型，以改进联邦学习中的模型性能和稳定性，尤其当处理异构数据的时候，可以大大降低模型遗忘和加快模型学习收敛速度。

Jun, 2021

本文提出使用联邦学习来训练语音识别模型，并通过对非独立同分布数据分布程度的调整来平衡模型质量和联邦训练计算成本之间的关系，并证明超参数优化和适当使用变分噪声可以弥补非独立同分布数据对模型影响的影响。

Oct, 2020

传统的联邦学习方法对计算和通信能力不同的客户端的支持有限，导致模型训练的低效和潜在的不准确性。本文引入了具有灵活架构的联邦学习算法（FedFA），允许客户端选择适合其资源的网络架构，通过层嫁接技术和可扩展聚合方法，实现了客户端贡献的统一集成和对抗性能降低的增强。

Jun, 2024

本文提出了一种新的联邦学习训练配方，适用于具有不同架构的异构网络，采用一种副目标训练较复杂设备的架构以在联邦设置下共同训练不同的架构，实证表明我们的方法提高了不同架构的性能并节省了通信成本。

Jul, 2022

通过在合作推理系统中考虑服务速率的差异，我们的新型联邦学习方法针对 IoT 技术下的边缘设备设计，不仅提供严格的理论保证，而且超越了目前合作推理系统的最先进训练算法，尤其是在推理请求率或数据可用性在客户端之间不均匀的场景下。

May, 2024

Federated Learning is proposed as an alternative to logging and training in a data center by aggregating locally-computed updates on mobile devices to improve the user experience. The approach is shown to be robust to non-IID data distributions and reduce required communication rounds by 10-100x compared to synchronized stochastic gradient descent.

Feb, 2016

提出了一个新的标准联邦学习 (FL) 框架，该框架通过采用图形超网络进行参数共享，适应了异构客户端架构的需求，并在标准基准测试中表现显着优于现有解决方案。

Jan, 2022

Ed-Fed 是一个全面通用的联邦学习框架，提出了一种新颖的资源感知客户端选择算法来优化 FL 中的等待时间，相比于传统随机选择方法，本方法大大优化了 FL 中的等待时间。

Jul, 2023