Dec, 2020

经济有效的联邦学习设计

PDF
TL;DR本文介绍了自适应联邦学习方法，可根据选择的本地设备和每轮训练中的本地迭代次数，最小化学习时间和能耗成本，并分析了总成本与控制变量之间的关系及其上限。作者开发了一种基于低成本采样的算法来学习收敛相关的未知参数，并通过模拟和实验验证了解决方案，证明其在不同数据集、机器学习模型和异构系统设置方案中都能实现接近最优的性能。
发现论文，激发创造
  • 具有类别不平衡减少的联邦学习

    用于解决联邦学习中数据隐私问题导致的设备端数据无法被中心服务器使用的问题，本文提出了一种基于估计方案的设备选择算法，以最小化类别不平衡来提高联邦学习全局模型的收敛性能。

    Nov, 2020

  • 合作设备的联邦学习：大规模物联网网络的共识方法

    这篇论文介绍了一种完全分布式的联邦学习算法，该算法的优点在于避免了数据披露并具有扩展性商用前景，可以在包括物联网设备在内的网络中使用。

    Dec, 2019

  • 原型有助于联邦学习：朝着更快的收敛方向

    该论文提出了一种基于原型的联邦学习框架，通过在典型的联邦学习进程的最后全局迭代中进行少量更改就能够实现更好的推理性能，从而在两个基准数据集上实现了更高的准确性和相对高效的通信。

    Mar, 2023

  • 无协调的复杂网络分散式联邦学习：克服异构性

    在高度普及的边缘场景中，缺乏中央控制器和预定的设备连接导致了复杂的网络结构，我们提出了一种通信高效的分散式联邦学习（DFL）算法来解决由数据和不同训练历史引起的异构学习难题，研究结果表明，与竞争方法相比，我们的解决方案能够训练出更好的本地模型并且在通信效率上更为优越。

    Dec, 2023

  • 联邦学习能找到有益的朋友

    该研究提出了一种新的算法，为参与联邦学习训练的客户分配自适应聚合权重，识别出最有利于特定学习目标的数据分布，实验证明通过该算法引导的合作在传统的联邦学习方法上取得了更好的表现，强调了客户选择的重要性。

    Feb, 2024

  • 联邦学习的进展和开放问题

    本文讨论联邦学习的最新进展和挑战，并提出了一系列开放性问题和挑战。

    Dec, 2019

  • 联邦学习的进展：模型、方法和隐私

    本文详细阐述了联邦学习的体系结构、应用问题、算法设计原则和安全问题，提出了一种更加通用的算法设计框架、攻击场景和防御方法，致力于将联邦学习与真实世界应用相集成并实现高性能、隐私保护和安全性。

    Feb, 2023

  • 无线网络上高效计算与通信的联邦学习

    通过将学习模型分为全局部分和个性化部分，以实现模型剪枝和个性化，本文提出了一种解决异构设备数据、计算和通信延迟以及非独立同分布数据的联邦学习框架，并通过数学分析研究了其收敛性、计算和通信延迟，并最终通过优化问题得到了剪枝比例和无线资源分配的闭式解。实验结果表明，相比只进行模型个性化的方案，该框架能够显著减少约 50％的计算和通信延迟。

    Sep, 2023

  • 无线联邦学习中数据异构的分析与优化

    本文针对数据异构性与无线资源分配相结合的无线联邦学习问题，提出了性能分析与优化的方法，在考虑数据异构性的同时，优化客户端调度、资源分配和本地训练轮数，通过实验验证了该算法在学习准确性和能量消耗方面的优势。

    Aug, 2023

  • 资源有效的异构和资源受限环境下的联邦学习

    在本文中，我们提出了一种名为 RE-FL 的新方法，该方法解决了资源受限设备中计算和通信挑战的问题。我们的可变修剪技术通过根据每个客户端的计算能力进行修剪来优化资源利用。我们还使用知识蒸馏来减少带宽消耗和通信轮次。对图像分类任务的实验结果证明了我们的方法在资源受限环境中保持数据隐私和性能的有效性，同时适应了异构模型架构。

    Aug, 2023