联合高维计算

Dec, 2023

Federated Hyperdimensional Computing

Kazim Ergun, Rishikanth Chandrasekaran, Tajana Rosing

TL;DR本文提出了一种基于超维计算的联邦学习框架 FedHDC，通过与 DNN 不同的自监督对比学习功能提取器 FHDnn，实现了低通信成本、高鲁棒性且收敛速度比 DNN 快 3 倍的联邦学习算法，并成功降低了通信、计算和能源消耗，大大提高了通信效率。

Abstract

federated learning (FL) enables a loose set of participating clients to collaboratively learn a global model via coordination by a central server and with no need for data sharing. Existing FL approaches that rely on complex algorithms with massive models, such as deep neural networks

federated learning hyperdimensional computing communication efficiency self-supervised contrastive learning convergence rate

发现论文，激发创造

资源高效的联邦高维计算

提出了一种资源高效的联邦超高维计算（RE-FHDC）框架，通过训练多个较小的独立 HDC 子模型并使用所提出的 dropout-inspired 程序来精炼串联的 HDC 模型，实现与基线联邦 HDC 实现相比消耗较少计算和无线电资源的可比或更高的预测性能。

Jun, 2023

混合联邦与集中式学习

提出一种混合联邦和集中式学习（HFCL）框架，采用先进的数据传输方法并在计算资源不足时使用集中式学习方法，以有效地训练学习模型，并在所有客户端合作的同时提高学习准确度。

Nov, 2020

全球准确个性化模型的最佳结合：基于数据自由的超知识蒸馏联邦学习

本文介绍 FedHKD 算法，通过知识蒸馏技术在服务器和客户端之间共享超知识来提高异构数据环境下的个性化联邦学习的表现，该算法不依赖公共数据集或在服务器上部署生成模型。实验证明，FedHKD 算法提高了全局模型和个性化模型表现，超越了现有的一些异构数据联邦学习方法。

Jan, 2023

H-FL：面向联邦学习的分层通信高效和隐私保护体系结构

本文提出了一种名为分层联邦学习（H-FL）的新框架，通过运行时分布重构策略，利用中介将客户端重新分配并重新安排客户端的本地训练，设计了一种压缩校正机制，同时不牺牲模型性能，降低通信开销，引入局部训练的差分隐私，注入适量的噪声到完整模型的一部分中，从而提供隐私保障，在真实的图像识别任务的不同数据集上实验结果表明，我们的 H-FL 框架实现了最先进的性能。

Jun, 2021

联邦与集中式学习的混合架构

本文提出了一种更高效的混合联邦与集中学习（HFCL）方法来解决客户端计算资源不足的情况，该方法可以将数据集分别发送给有足够计算资源的客户端和参数服务器，从而在减少通信开销和提高学习准确率方面都具有更好的性能表现。

May, 2021

HeteroFL：用于异构客户端的计算与通信高效联邦学习

本文提出名为 HeteroFL 的新型联邦学习框架，旨在解决具有非常不同计算和通信能力的异构客户端的问题，并通过几种策略增强 FL 训练。通过在三个数据集上进行五个计算复杂性级别的三种模型架构的广泛实证评估，通过自适应分配子网络来提高 FL 训练的计算和通信效率。

Oct, 2020

HiFlash: 具有自适应陈旧度控制和异构感知客户端 - 边缘关联的通信高效分层联合学习

利用 hierarchical federated learning paradigm (HiFL)，基于手机边缘计算和同步客户端 - 边缘模型聚合与异步边缘 - 云模型聚合相结合的方式，显著降低了 WAN 传输的流量，提高了 HiFlash 的系统性能和精度。

Jan, 2023

具有移动性的数据异构层次联邦学习

本研究探讨基于数据异构和移动性的分层联邦学习，通过分析其性能并利用移动性改善数据异构，结果表明移动性可以提高 15.1％的模型准确性。

Jun, 2023

利用本地更新的分层聚类来提高非独立同分布数据的联邦学习

本文提出了一种修改的联邦学习 (FL+HC) 方法，通过引入分层聚类步骤将客户端分为相似的集群，然后对这些集群进行独立并行的训练，实现在非独立同分布的数据环境下的模型训练，通过该方法可以使模型的性能、收敛速度、精度都有所提升。

Apr, 2020

无协调的复杂网络分散式联邦学习：克服异构性

在高度普及的边缘场景中，缺乏中央控制器和预定的设备连接导致了复杂的网络结构，我们提出了一种通信高效的分散式联邦学习（DFL）算法来解决由数据和不同训练历史引起的异构学习难题，研究结果表明，与竞争方法相比，我们的解决方案能够训练出更好的本地模型并且在通信效率上更为优越。

Dec, 2023