联邦学习：提高通信效率的策略

Oct, 2016

Federated Learning: Strategies for Improving Communication Efficiency

Jakub Konečný, H. Brendan McMahan, Felix X. Yu, Peter Richtárik, Ananda Theertha Suresh...

TL;DR本文探讨联邦学习中的机器学习算法以及通过结构化更新和草图更新的方式来降低通信成本，实验结果表明这两种方法可以将通信成本降低两个数量级。

Abstract

federated learning is a machine learning setting where the goal is to train a high-quality centralized model while training data remains distributed over a large number of clients each with unreliable and relativ

federated learning machine learning structured updates sketched updates communication efficiency

发现论文，激发创造

联邦学习与无线通信

本篇文章探讨了联邦学习与无线通信之间的关系，包括联邦学习的基本原理、训练模型的有效通信、联邦学习对智能无线应用的潜在贡献以及未来研究挑战和方向。

May, 2020

基于知识蒸馏的通信高效联邦学习 (FedKD)

本研究提出了一种基于知识蒸馏的通信高效的联邦学习方法，通过在客户端上互相学习一个学生模型和一个教师模型，只共享学生模型以降低通信成本，并提出了一种基于奇异值分解的动态梯度逼近方法来进一步降低通信成本。实验表明，该方法能够有效减少通信成本并取得竞争性的结果。

Aug, 2021

高效沟通的自适应联邦学习

本文介绍了一种新的通信高效的自适应联邦学习方法 FedCAMS，该方法具有理论收敛保证并在各种基准测试上进行了广泛实验验证。

May, 2022

基于最优客户端采样的通信高效联邦学习

本文提出了一种基于 Ornstein-Uhlenbeck 过程的方案，在受通信限制的情况下，通过收集具有信息更新的客户端模型和估计没有通信的本地更新的方式来更新中央模型，实现了在保证性能的同时显著减少了通信量，为联邦学习提供了一种新的通信效率优化方案。

Jul, 2020

带噪声通信的鲁棒联邦学习

本研究提出一种鲁棒的联邦学习方案，通过并行优化、正则化等方法减小噪声影响，并从理论角度分析了其收敛性和准确性改善，仿真实验进一步验证了该方案的有效性。

Nov, 2019

探索联邦学习的实用性：从通信的角度进行调查

调查分析了通信高效的联合学习方法，定义了通信效率的度量方法并提供了系统全面的分类和评述，讨论了提高联合学习系统通信效率的未来研究方向。

May, 2024

在联邦学习中协调安全性和通信效率

本文解决了跨设备联邦学习中通信效率问题并提出了一种基于安全聚合的压缩方法，使得在保证通信安全的前提下能够实现高效联邦学习。

Jul, 2022

多目标进化联邦学习

此论文使用多目标进化算法优化神经网络模型的结构，以同时减少通信成本和全局模型测试误差，提高联邦学习的学习性能和效率。

Dec, 2018

使用联邦学习训练语义沟通系统

通过利用用户数据来解决隐私问题，降低信息传输量并减少网络流量，我们在联邦学习设置中探索语义通信，并提出了一种称为 FedLol 的机制来聚合来自客户端的全局模型，与基线方法相比，详尽的模拟结果证明了我们提出的技术的有效性。

Oct, 2023

动态采样与选择性遮蔽：用于高效通信的联合学习

本研究通过动态采样和 Top-K 选择性掩蔽这两种方法，提高了联邦学习的通信效率，并在公共数据集上进行实验，证明了该方法的有效性。

Mar, 2020