MMOct, 2023

半联邦学习：混合学习框架的收敛分析与优化

PDF
TL;DR通过提出一种半联合学习（SemiFL）范式，将基站（BS）和设备的计算能力结合起来，实现集中式学习（CL）和联邦学习（FL）的混合实施。通过设计一种新颖的收发器结构，将空中计算和非正交多址接入应用于聚合和传输，提高了通信效率，并证明了 FL 和 CL 是 SemiFL 的特例。然后，通过联合优化发送功率和接收波束形成器来减小最优性差距，并提供了解析解。两个真实数据集上的广泛模拟实验结果证实了我们的理论分析，并显示相比于最先进的基准，所提出的 SemiFL 在 MNIST 数据集上取得了 3.2% 的准确度提高。
wireless federated learningsemi-federated learningcentralized learningover-the-air computationtransceiver structure
发现论文，激发创造
  • 联合学习和通信框架用于无线网络联邦学习

    研究了在现实无线网络上训练联邦学习算法的问题，提出了一种联合学习、无线资源分配和用户选择的优化问题，并获得了期望收敛速率的闭式表达式，从而实现最小化 FL 损失函数的最优用户选择和上行资源块分配。

    Sep, 2019

  • 无线网络上高效计算与通信的联邦学习

    通过将学习模型分为全局部分和个性化部分，以实现模型剪枝和个性化，本文提出了一种解决异构设备数据、计算和通信延迟以及非独立同分布数据的联邦学习框架，并通过数学分析研究了其收敛性、计算和通信延迟，并最终通过优化问题得到了剪枝比例和无线资源分配的闭式解。实验结果表明，相比只进行模型个性化的方案，该框架能够显著减少约 50％的计算和通信延迟。

    Sep, 2023

  • 基于贝叶斯的无线网络联邦学习

    本文提出了一种基于贝叶斯的联合学习算法（BFL）和一种高效的改进算法（Scalable-BFL），通过优化均方误差，聚合异构的离散梯度信息，在 MNIST 数据集上的模拟实验中，这两种算法在异构网络上训练和测试神经网络时都比传统的随机梯度下降算法表现得更好。

    Dec, 2020

  • 联邦学习在物理层设计中的应用

    本文探讨了物理层设计问题中基于联邦学习的最新进展，相比于集中化学习，联邦学习在通信开销方面更有效，但在学习准确性方面略有损失，同时探讨了模型、数据和硬件复杂性方面的设计挑战和可能的解决方案。

    Feb, 2021

  • 无线网络异步多模型联邦学习：理论、建模和优化

    本文提出了一种应用于多个下游任务的异步模型传输的联邦学习方法，通过引入调度张量来表征设备调度，并通过收敛性分析探究了资源分配、设备调度和个体模型状态等对机器学习性能的影响，进而通过非凸混合整数优化问题来调整资源分配和设备调度，以在能量消耗和性能之间达到高效平衡，并通过数值模拟揭示了该方法在模型性能和网络资源节约方面的优势。

    May, 2023

  • 无线联邦学习中数据异构的分析与优化

    本文针对数据异构性与无线资源分配相结合的无线联邦学习问题，提出了性能分析与优化的方法，在考虑数据异构性的同时，优化客户端调度、资源分配和本地训练轮数，通过实验验证了该算法在学习准确性和能量消耗方面的优势。

    Aug, 2023

  • 无线联邦学习中快速收敛的设备调度

    本文以联邦学习为背景，提出一种联合带宽分配和设备调度问题的解决方案，该方案通过一个贪心算法和运行时间预算中定向分配宽带的优化模型实现，从而在模型精度和训练时间预算方面实现了最好的性能表现。

    Nov, 2019

  • 毫米波大规模 MIMO 中混合波束成形的联邦学习

    本文介绍了一种基于联邦学习的混合波束赋形框架，利用卷积神经网络，通过收集用户的梯度来训练基站的模型，从而在减少数据集传输量和保证隐私的前提下，实现了在信道数据中实现模拟波束赋形，数值模拟表明这种方法具有比集中式机器学习更好的容错性和较小的传输开销。

    May, 2020

  • 无线网络联邦学习的收敛时间优化

    本研究旨在解决联邦学习在无线网络中的收敛速度问题，通过提出一种概率用户选择方案以及利用人工神经网络来估计未被分配资源块的用户的局部模型，从而在优化联邦学习性能的基础上最小化收敛时间。

    Jan, 2020

  • 无线网络上的联邦学习：收敛分析和资源分配

    提出了一种处理异构用户设备数据的联邦学习算法，同时结合对微波资源分配问题的优化，实现了收敛速率和能耗之间的平衡，并用 Tensorflow 实验验证了该算法的理论分析和优化表现。

    Oct, 2019