大规模 D2D - 启用的边雾网络上的多阶段混合联邦学习

Jul, 2020

大规模 D2D - 启用的边雾网络上的多阶段混合联邦学习

Multi-Stage Hybrid Federated Learning over Large-Scale D2D-Enabled Fog Networks

Seyyedali Hosseinalipour, Sheikh Shams Azam, Christopher G. Brinton, Nicolo Michelusi, Vaneet Aggarwal...

TL;DR本研究提出了一种基于多层聚类结构的分层式多阶段混合联邦学习方法，考虑了设备到设备通信，通过多圆形层次结构实现多阶段参数中继和局部同意来更新模型参数并与分布式控制算法协同运行，具有优越的资源利用率和收敛性能。

Abstract

federated learning has generated significant interest, with nearly all works focused on a "star" topology where nodes/devices are each connected to a central server. We migrate away from this architecture and extend it through the network dimension to the case where there are multiple

federated learning multi-layer cluster-based structure model learning device-to-device communications multi-stage hybrid federated learning

发现论文，激发创造

联邦学习超越明星：基于全局集群采样的本地 D2D 模型一致性

本文提出两时间尺度的混合联邦学习，通过设备到设备通信，从星型拓扑迁移到更分布式的拓扑结构。使用两个时间尺度进行同步，进行全局聚合和本地聚合，通过理论分析得出 O（1 /t）收敛率的条件。实验结果表明，TT-HF 在联邦学习基线的收敛和利用方面的改进。

Sep, 2021

基于合作式 D2D 本地模型聚合的半分散式联邦学习

本文提出一种称作 TT-HF 的半分散式学习结构，将常规的设备与服务器的通信范例与设备对设备的通信（D2D）结合起来，通过本地集群内的合作分布式 D2D 通信进行模型训练，利用新的渐进上界控制算法平衡步长、通信轮数和全局聚合周期来追求亚线性的渐进收敛率 O (1/t) 及尽量减少网络资源利用，而实验结果表明，TT-HF 在各种本地设备数据集统计异质性场景下，在模型精度和 / 或网络能耗方面均明显优于当前固有的联邦学习方法，对于由于信道衰落造成的中断以及非凸失真函数，TT-HF 的数值测试都表现良好。

Mar, 2021

面向异构边缘 / 雾网络的协作联邦学习

提出一种合作的边缘 / 雾设备机器学习范例 — 合作联邦学习 (CFL)，通过设备之间和设备与服务器之间的协作，实现模型 / 数据 / 资源池化机制，以解决边缘 / 雾网络中网络异构性问题，提高机器学习模型的质量和网络此消耗。同时，该范例还支持无标签数据和异构设备隐私等新功能。

Mar, 2023

异构去中心化联邦学习下的拓扑学习及不可靠的 D2D 网络

在无线设备到设备（D2D）网络中，去中心化联邦学习（DFL）作为智能移动设备普及的产物引起了极大的兴趣。DFL 相对于集中式联邦学习（CFL）降低了由于通信瓶颈而导致的中央服务器故障的风险。然而，DFL 面临着许多挑战，如多样环境中数据分布的严重异质性，以及 D2D 网络中采用用户数据报协议（UDP）导致的传输中断和包错误等。为了解决这些挑战，我们对 DFL 进行了全面的理论收敛性分析，并推导出一个收敛限。在该收敛限中，我们定义了一种称为不可靠链路感知邻域差异的新颖量，并制定了一个可解的优化目标，开发了一种考虑 DFL 中表示差异和不可靠链路的拓扑学习方法，命名为 ToLRDUL。在特征偏斜和标签偏斜的情况下进行了大量实验验证了我们提出方法的有效性，实验结果与我们的理论发现相一致，显示出了提高收敛速度和测试精度。

Dec, 2023

基于无线 D2D 网络的分散联邦学习

本文提出了一种在无线边缘设备间通过分布式学习模型的联合训练方式，使用 Decentralized Stochastic Gradient Descent 协议实现设备间协同训练，通过适应路径损耗、衰落、阻挡和干扰等因素的技术，在物理层上利用稀疏基础恢复实现了无线波传输和计算的处理。

Feb, 2020

从联邦学习到雾计算学习：在异构无线网络上的分布式机器学习

通过使用一种叫作 Fog learning 的新学习范式，从边缘设备到云服务器中智能地分布机器学习模型的训练，来增强联邦学习的三个重要维度：网络、异构性和邻近性，并考虑由各种接近程度异构设备组成的多层混合学习框架，通过设备到设备（D2D）通信进行协作学习，使其从联邦学习中用于参数传输的星型网络拓扑迁移到更分布式的规模。

Jun, 2020

基于无线设备间网络的联邦学习算法与收敛分析

该研究探讨了基于设备对设备（D2D）网络的联邦学习，在分布式随机梯度下降算法实现中，利用随机线性编码和空中计算的数字和模拟传输方案进行通信效率的改进，并且在假设凸性和连通性的情况下提供了收敛性结果。

Jan, 2021

具有移动性的数据异构层次联邦学习

本研究探讨基于数据异构和移动性的分层联邦学习，通过分析其性能并利用移动性改善数据异构，结果表明移动性可以提高 15.1％的模型准确性。

Jun, 2023

分层和分散的联邦学习

分层联邦学习是一种扩展传统联邦学习过程以实现更高效的模型聚合的方法，可用于智能农业和智能能源管理等应用中，以提高性能并降低成本。

Apr, 2023

无协调的复杂网络分散式联邦学习：克服异构性

在高度普及的边缘场景中，缺乏中央控制器和预定的设备连接导致了复杂的网络结构，我们提出了一种通信高效的分散式联邦学习（DFL）算法来解决由数据和不同训练历史引起的异构学习难题，研究结果表明，与竞争方法相比，我们的解决方案能够训练出更好的本地模型并且在通信效率上更为优越。

Dec, 2023