Jan, 2024
基于误差反馈的低秩梯度压缩技术在 MIMO 无线联邦学习中的应用
Low-Rank Gradient Compression with Error Feedback for MIMO Wireless Federated Learning
Mingzhao Guo, Dongzhu Liu, Osvaldo Simeone, Dingzhu Wen
TL;DR本文提出了一种用于增强多输入多输出（MIMO）无线系统中联邦学习（FL）通信效率的新方法。该方法基于交替最小二乘算法，利用低秩矩阵分解策略对本地梯度压缩进行过空中计算和误差反馈。所提出的协议被称为空中低秩压缩（Ota-LC），在保证相同推理性能的同时，相比现有基准方案具有更低的计算成本和通信开销。以 Cifar-10 数据集为例，当目标测试准确度为 80% 时，Ota-LC 相比基准方案至少可以降低 30% 的总通信开销，并将计算复杂度的阶数降低到梯度维度之和的倍数。