面向物联网的联邦学习与分割学习的端到端评估

Mar, 2020

面向物联网的联邦学习与分割学习的端到端评估

End-to-End Evaluation of Federated Learning and Split Learning for Internet of Things

Yansong Gao, Minki Kim, Sharif Abuadbba, Yeonjae Kim, Chandra Thapa...

TL;DR本研究首次尝试在实际物联网环境中评估和比较联邦学习（FL）和分裂神经网络（SplitNN）的学习性能和设备实现开销，并考虑了各种数据集、模型结构、多个客户端和各种性能指标。通过实证评估 FL 和 SplitNN 在不同类型的数据分布下的学习性能，我们发现在不平衡数据分布下 SplitNN 的学习性能优于 FL，但在极端非独立同分布（非 IID）数据分布下 SplitNN 的学习性能劣于 FL。同时，在 Raspberry Pis 上综合评估了 FL 和 SplitNN 的实现开销，包括训练时间、通信开销、功耗和内存使用等方面。我们的研究结果表明，在物联网场景中，由于通信流量是主要关注的问题，FL 表现比 SplitNN 更好，因为 FL 相对于 SplitNN 具有显著更低的通信开销。此外，我们揭示了 SplitNN 的一些未被认识到的局限性，为未来的研究奠定了基础。

Abstract

This work is the first attempt to evaluate and compare felderated learning (FL) and split neural networks (SplitNN) in real-world iot settings in terms of →

federated learning split neural networks iot learning performance implementation overhead

发现论文，激发创造

评估和优化物联网分布式机器学习技术

该论文在实际物联网设置中比较了联邦学习、分裂学习和分裂联邦学习的性能，并提出了一种广义分裂联邦学习模型来进一步优化在大规模 IoT 设备上的系统表现，同时还提出实用技巧来大幅减少通信开销。

Mar, 2021

无线通信网络中加速的分裂式联邦学习

本文介绍了一种模型分区 / 切割的方法，将深度神经网络切分为两个部分，分别在设备和服务器上进行联合训练和联合推理，旨在通过交替优化解决划分点选择和带宽分配问题，以最小化系统的延迟

Oct, 2023

边缘辅助的隐私保护 U 型拆分联邦学习在物联网中的应用

在物联网领域，部署深度学习模型来处理由物联网设备生成或收集的数据是一个重要的挑战。为了解决这些挑战，我们提出了一种创新的边缘辅助 U 形拆分联邦学习（EUSFL）框架，利用边缘服务器高性能的能力来辅助物联网设备进行模型训练和优化过程。在这个框架中，我们利用联邦学习使数据持有者能够在不共享数据的情况下协作训练模型，从而通过仅传输模型参数来增强数据隐私保护。此外，通过在物联网设备上进行局部训练，我们基于拆分学习将神经网络分成三个部分。通过利用边缘服务器更强的计算能力，我们的框架有效地减少了整体训练时间，使不同能力的物联网设备能够高效地执行训练任务。此外，我们提出了一种新颖的名为 LabelDP 的噪声机制，以确保数据特征和标签能够安全地抵抗重建攻击，消除隐私泄露的风险。我们的理论分析和实验结果表明，EUSFL 可以与各种聚合算法集成，在不同的物联网设备计算能力下保持良好的性能，并显著减少了训练时间和本地计算开销。

Nov, 2023

高效准确的分割联邦学习

由于资源约束场景的优势，分割联邦学习（SFL）在 AIoT 系统中具有潜力。为了解决数据异构性和滞后问题，本文提出了一种名为滑动分割联邦学习（S^2FL）的新型 SFL 方法，该方法采用自适应滑动模型拆分策略和基于数据平衡的训练机制。实验结果表明，与传统的 SFL 相比，S^2FL 的推断准确性提高了 16.5％，训练加速了 3.54 倍。

Nov, 2023

高效异构联邦学习：一种基于匹配和分割学习的方法

提出了一种新颖的拆分联邦学习（SFL）框架，它通过将具有不同计算资源的客户端配对，将神经网络模型逻辑分为两部分，每个客户端只计算分配给它的部分，从而显著提高了联邦学习的训练速度，并在独立相同分布（IID）和非 IID 数据分布中实现了高性能。

Aug, 2023

联邦学习与物联网设备部署的原型

在技术时代，数据是一种越来越重要的资源。本文介绍了使用树莓派开发的联邦学习（FL）解决方案原型，通过测试其性能和可用性证明了这些技术的可行性，尽管在许多情况下它们没有达到传统方法的性能水平。

Nov, 2023

SplitFed 对数据包丢失的韧性：分割的位置在哪里，这是个问题

分析了分布式机器学习中的深度分裂学习及其对通信链路中数据丢失的鲁棒性，验证了不同分裂点对最终模型准确性的统计显著差异，为分布式机器学习的发展提供了重要洞察。

Jul, 2023

SplitFed Learning 的安全性分析

本文首次对 SplitFed 的强韧性进行了实证分析，结果表明 SplitFed 在面对模型毒化攻击时降低精度的程度是 Federated Learning 的 1/5，这是由于 SplitFed 具有较小的维度和更高的抗攻击能力。

Dec, 2022

SplitFed: 联邦学习与 Split Learning 相遇

本研究介绍一种名为 Split-fed learning (SFL) 的新颖算法，它将 Federated learning (FL) 和 Split learning (SL) 相结合，解决了它们各自固有的缺点，并增强了数据隐私和模型鲁棒性。SFL 具有比 SL 更短的计算时间，并具有与 SL 相似的测试准确性和通信效率，非常适用于资源受限的环境中。

Apr, 2020

跨联邦物联网设备对数据分布的对抗预测

联邦学习是用于分散式物联网设备训练机器学习模型的默认方法之一。但是，本研究表明，联邦学习中共享的模型权重可能泄露物联网设备的本地数据分布信息，并且模型权重注入噪声无法有效防止数据泄露。

Aug, 2023