Feb, 2024

ESFL：高效的资源受限异构无线设备下的分割式联邦学习

PDF
TL;DR我们提出了一种高效的分布式联合学习算法（ESFL），通过在服务器和终端设备之间将模型分割为不同的子模型，综合考虑用户异构性，同时优化用户端工作量和服务器端计算资源分配，以充分利用中央服务器的强大计算能力。与标准的联合学习、分割学习和分割联合学习相比，通过大量模拟实验证明我们的 ESFL 方法显著提高了效率。
federated learningsplit federated learningmachine learning modelcomputing resource allocationheterogeneous end devices
发现论文，激发创造
  • 资源有效的异构和资源受限环境下的联邦学习

    在本文中，我们提出了一种名为 RE-FL 的新方法，该方法解决了资源受限设备中计算和通信挑战的问题。我们的可变修剪技术通过根据每个客户端的计算能力进行修剪来优化资源利用。我们还使用知识蒸馏来减少带宽消耗和通信轮次。对图像分类任务的实验结果证明了我们的方法在资源受限环境中保持数据隐私和性能的有效性，同时适应了异构模型架构。

    Aug, 2023

  • 适应性资源受限边缘网络中的自适应拆分联邦学习

    通过模型分割和客户端模型聚合，我们提出了一种适应资源受限边缘计算系统的新型资源自适应分割联邦学习（AdaptSFL）框架，以加速分割联邦学习并实现更好的训练性能。

    Mar, 2024

  • 高效异构联邦学习：一种基于匹配和分割学习的方法

    提出了一种新颖的拆分联邦学习（SFL）框架，它通过将具有不同计算资源的客户端配对，将神经网络模型逻辑分为两部分，每个客户端只计算分配给它的部分，从而显著提高了联邦学习的训练速度，并在独立相同分布（IID）和非 IID 数据分布中实现了高性能。

    Aug, 2023

  • 无线联邦学习中数据异构的分析与优化

    本文针对数据异构性与无线资源分配相结合的无线联邦学习问题，提出了性能分析与优化的方法，在考虑数据异构性的同时，优化客户端调度、资源分配和本地训练轮数，通过实验验证了该算法在学习准确性和能量消耗方面的优势。

    Aug, 2023

  • AEDFL：异步去中心化异构设备联邦学习的高效实现

    我们提出了一种异步高效去中心化联邦学习框架，即 AEDFL，它在异构环境中具有三个独特的贡献：首先，我们提出了一种异步的 FL 系统模型，并使用高效的模型聚合方法来改进 FL 的收敛性；其次，我们提出了一种动态过期感知的模型更新方法，以实现更高的准确性；第三，我们提出了一种自适应的稀疏训练方法，以降低通信和计算成本，同时准确性下降不显著。通过在四个公共数据集和四个模型上进行广泛的实验，证明了 AEDFL 在准确性（高达 16.3%）、效率（高达 92.9%）和计算成本（高达 42.3%）方面的优势。

    Dec, 2023

  • HierSFL：移动边缘计算中的局部差分隐私辅助分割联邦学习

    使用分层分割联邦学习算法，结合边缘和云端阶段的模型聚合来降低计算和通信开销，实现提高隐私保护并优化移动边缘计算中的内容传递速度和移动服务质量。

    Jan, 2024

  • 基于物联网边缘设备的联邦学习实证研究：资源分配与异构性

    本文通过在大量物联网和边缘设备网络上系统地进行广泛实验，重点关注异构情况，以探究在设备上实施联合学习的可行性，并呈现了其现实世界的特征，包括学习性能和操作成本，为研究人员和从业者提供有价值的见解，促进联邦学习的实用性，并帮助改进现有的联邦学习系统设计。

    May, 2023

  • 无线网络上的联邦学习：收敛分析和资源分配

    提出了一种处理异构用户设备数据的联邦学习算法，同时结合对微波资源分配问题的优化，实现了收敛速率和能耗之间的平衡，并用 Tensorflow 实验验证了该算法的理论分析和优化表现。

    Oct, 2019

  • AdapterFL: 自适应异构联邦学习用于资源受限的移动计算系统

    适应性异构联邦学习 (AdapterFL) 通过模型重组策略在资源受限的移动计算系统中实现大规模异构移动设备的协同训练，提高了综合性能并解决了资源不足的问题。

    Nov, 2023

  • 边缘辅助的隐私保护 U 型拆分联邦学习在物联网中的应用

    在物联网领域，部署深度学习模型来处理由物联网设备生成或收集的数据是一个重要的挑战。为了解决这些挑战，我们提出了一种创新的边缘辅助 U 形拆分联邦学习（EUSFL）框架，利用边缘服务器高性能的能力来辅助物联网设备进行模型训练和优化过程。在这个框架中，我们利用联邦学习使数据持有者能够在不共享数据的情况下协作训练模型，从而通过仅传输模型参数来增强数据隐私保护。此外，通过在物联网设备上进行局部训练，我们基于拆分学习将神经网络分成三个部分。通过利用边缘服务器更强的计算能力，我们的框架有效地减少了整体训练时间，使不同能力的物联网设备能够高效地执行训练任务。此外，我们提出了一种新颖的名为 LabelDP 的噪声机制，以确保数据特征和标签能够安全地抵抗重建攻击，消除隐私泄露的风险。我们的理论分析和实验结果表明，EUSFL 可以与各种聚合算法集成，在不同的物联网设备计算能力下保持良好的性能，并显著减少了训练时间和本地计算开销。

    Nov, 2023