Apr, 2022

HCFL: 面向非常大规模 IoT 网络的通信效率高的联邦学习高压缩方法

PDF
TL;DR本文提出了一种称为高压缩联邦学习的压缩方案，可应用于大规模物联网网络中的协作学习，以减少通信成本并提高学习过程的适应性，并探索了物联网设备数量与 FL 模型收敛水平之间的关系。
federated learninginternet-of-thingscompressioncommunication costslow-computing resource
发现论文，激发创造
  • 面向轻量通信设计的联邦学习压缩

    本文研究压缩技术对典型图像分类任务的联邦学习的影响，并证明了一种简单的方法可以在保持不到 1% 准确率损失的同时压缩 50% 的消息，与最先进的技术相媲美。

    Oct, 2023

  • HeteroFL：用于异构客户端的计算与通信高效联邦学习

    本文提出名为 HeteroFL 的新型联邦学习框架，旨在解决具有非常不同计算和通信能力的异构客户端的问题，并通过几种策略增强 FL 训练。通过在三个数据集上进行五个计算复杂性级别的三种模型架构的广泛实证评估，通过自适应分配子网络来提高 FL 训练的计算和通信效率。

    Oct, 2020

  • 高效模型压缩的分层联邦学习

    本文介绍了一个集成了聚类式联邦学习和模型压缩优势的新型层次式联邦学习框架，包括自适应聚类算法和局部聚合压缩算法。仿真结果证实，我们提出的算法不仅保持了可比较的预测准确性，还显著降低了相对于现有联邦学习机制的能源消耗。

    May, 2024

  • H-FL：面向联邦学习的分层通信高效和隐私保护体系结构

    本文提出了一种名为分层联邦学习（H-FL）的新框架，通过运行时分布重构策略，利用中介将客户端重新分配并重新安排客户端的本地训练，设计了一种压缩校正机制，同时不牺牲模型性能，降低通信开销，引入局部训练的差分隐私，注入适量的噪声到完整模型的一部分中，从而提供隐私保障，在真实的图像识别任务的不同数据集上实验结果表明，我们的 H-FL 框架实现了最先进的性能。

    Jun, 2021

  • 合作设备的联邦学习：大规模物联网网络的共识方法

    这篇论文介绍了一种完全分布式的联邦学习算法，该算法的优点在于避免了数据披露并具有扩展性商用前景，可以在包括物联网设备在内的网络中使用。

    Dec, 2019

  • 灵活的通讯压缩：面向异构移动边缘设备的能效联邦学习

    本研究提出一种灵活的通信压缩控制方案，使得现代移动终端设备能够更加高效的参与大规模移动边缘设备的联合学习，进而在不影响学习性能的前提下节约能量消耗。

    Dec, 2020

  • 工业物联网中可靠的被动无线感知的压缩贝叶斯联邦学习

    采用通信高效的去中心化贝叶斯联邦学习策略，通过集成压缩策略和允许设备在发送本地后验分布之前执行多个优化步骤，以减少通信开销而不牺牲学习准确性和校准，得到与传统（未压缩）贝叶斯联邦学习工具相兼容且高度准确且良好校准的机器学习模型的工业物联网应用实例结果表明，该方法在校准方面具有优势，特别是在测试数据集的统计分布发生变化时。

    May, 2024

  • 物联网分层联邦学习中的设备调度和分配

    提出了改进的 K-Center 算法用于设备调度，并引入了基于深度强化学习的方法来分配物联网设备给边缘服务器，证明了在进行 Hierarchical FL 时，调度 50% 的物联网设备通常足以实现收敛，同时延迟和能耗明显降低，而在追求绿色人工智能以及减少消息传输方面，调度 30% 的物联网设备能够在保持模型准确度的同时大幅减少能耗和消息量。

    Feb, 2024

  • 无线网络上高效计算与通信的联邦学习

    通过将学习模型分为全局部分和个性化部分，以实现模型剪枝和个性化，本文提出了一种解决异构设备数据、计算和通信延迟以及非独立同分布数据的联邦学习框架，并通过数学分析研究了其收敛性、计算和通信延迟，并最终通过优化问题得到了剪枝比例和无线资源分配的闭式解。实验结果表明，相比只进行模型个性化的方案，该框架能够显著减少约 50％的计算和通信延迟。

    Sep, 2023

  • 高失真率压缩辅助联邦学习的资源分配

    提出基于压缩辅助的联邦学习问题，通过将其分解为子问题并基于协作博弈来有效分配无线资源，从而优化了 IoT 设备和服务器之间的通信，通过积极控制参与学习的设备数量，既可避免训练发散又能保持通信效率。

    Jun, 2022