通过连续的层次训练，在计算受限设备上聚合联邦学习的容量

May, 2023

通过连续的层次训练，在计算受限设备上聚合联邦学习的容量

Aggregating Capacity in FL through Successive Layer Training for Computationally-Constrained Devices

Kilian Pfeiffer, Ramin Khalili, Jörg Henkel

TL;DR介绍了一种新的方法，即对联合学习模型的参数进行连续冻结和训练，以减少设备上的训练资源需求，同时仍允许足够的参数协同适应度，大大提高了训练模型的准确性和分布式设备的计算能力的高效汇集。

Abstract

federated learning (FL) is usually performed on resource-constrained edge devices, e.g., with limited memory for the computation. If the required memory to train a model exceeds this limit, the device will be excluded from the training. This can lead to a lower accuracy as valuable dat

federated learning edge devices resource constraints successive freezing co-adaptation

发现论文，激发创造

面向联合学习中边缘节点的资源高效利用

通过部分训练模型的策略，我们提出并评估了一种受迁移学习启发的联邦学习策略，以减少设备上的资源利用、服务器负载和网络负担，从而加速训练过程，有效利用设备资源，并在不影响全局模型准确性的情况下减少数据传输约 75% 和 53%。

Sep, 2023

ZeroFL: 带有本地稀疏性的联邦学习在设备上的高效训练

提出了一种基于高度稀疏操作的 ZeroFL 框架，用于加速 On-device 训练，使 Federated Learning 能够训练高性能机器学习模型，并提高了精度。

Aug, 2022

无线网络上高效计算与通信的联邦学习

通过将学习模型分为全局部分和个性化部分，以实现模型剪枝和个性化，本文提出了一种解决异构设备数据、计算和通信延迟以及非独立同分布数据的联邦学习框架，并通过数学分析研究了其收敛性、计算和通信延迟，并最终通过优化问题得到了剪枝比例和无线资源分配的闭式解。实验结果表明，相比只进行模型个性化的方案，该框架能够显著减少约 50％的计算和通信延迟。

Sep, 2023

无线联邦学习中快速收敛的设备调度

本文以联邦学习为背景，提出一种联合带宽分配和设备调度问题的解决方案，该方案通过一个贪心算法和运行时间预算中定向分配宽带的优化模型实现，从而在模型精度和训练时间预算方面实现了最好的性能表现。

Nov, 2019

具有类别不平衡减少的联邦学习

用于解决联邦学习中数据隐私问题导致的设备端数据无法被中心服务器使用的问题，本文提出了一种基于估计方案的设备选择算法，以最小化类别不平衡来提高联邦学习全局模型的收敛性能。

Nov, 2020

一种面向设备的联邦学习众包框架

本文提出了一种新的众包框架来解决分散式学习中的通信效率问题，并通过制定参与客户端的准入控制方案来保证其本地准确性水平。通过基于激励和 Stackelberg 游戏等模型的分析与模拟实验，证明了该方案的有效性。

Nov, 2019

面向计算受限异构设备的联邦学习：综述

随着越来越多的物联网设备在现场部署，将神经网络的训练卸载到中央服务器变得越来越不可行，本文调查了联合学习在克服异构性挑战方面的应用和益处。

Jul, 2023

subMFL：设备异构环境下适应性子模型生成的联邦学习

该研究提出了一种模型压缩方法，允许计算能力不同的设备参与联邦学习过程，从而提高资源受限设备的参与率，并保持先前轮次训练的权重，使生成的次模型在保持准确性的同时能够共享，提高参与度约 50%。

May, 2024

资源有效的异构和资源受限环境下的联邦学习

在本文中，我们提出了一种名为 RE-FL 的新方法，该方法解决了资源受限设备中计算和通信挑战的问题。我们的可变修剪技术通过根据每个客户端的计算能力进行修剪来优化资源利用。我们还使用知识蒸馏来减少带宽消耗和通信轮次。对图像分类任务的实验结果证明了我们的方法在资源受限环境中保持数据隐私和性能的有效性，同时适应了异构模型架构。

Aug, 2023

模型修剪使边缘设备上的联邦学习更高效

提出了一种新的联邦学习方法 PruneFL，其通过自适应和分布式参数修剪来减少通信和计算开销，并在维持类似于原始模型的准确度的同时，利用全局数据集合进行模型训练。

Sep, 2019