Feb, 2024

FLASH：跨同时异质环境的联邦学习

PDF
TL;DRFLASH 是一个轻量级、灵活的客户端选择算法，通过权衡与客户端数据质量、数据分布和延迟相关的统计信息来优化各种异质性源，从而在广泛的异质性源下优于最先进的 FL 框架。
federated learningclient heterogeneityflashdata qualitylatency
发现论文，激发创造
  • HiFlash: 具有自适应陈旧度控制和异构感知客户端 - 边缘关联的通信高效分层联合学习

    利用 hierarchical federated learning paradigm (HiFL)，基于手机边缘计算和同步客户端 - 边缘模型聚合与异步边缘 - 云模型聚合相结合的方式，显著降低了 WAN 传输的流量，提高了 HiFlash 的系统性能和精度。

    Jan, 2023

  • 解决联邦学习中的计算异构性：几个理论思路

    机器学习的未来在于边缘计算，用于数据收集和训练，联邦学习是实现这一目标的一种方法。本文提出了一种新的聚合框架，用于解决联邦优化中的计算异构性问题，包括异构数据和本地更新，并从理论和实验的角度进行了广泛的分析。

    Jul, 2023

  • HeteroFL：用于异构客户端的计算与通信高效联邦学习

    本文提出名为 HeteroFL 的新型联邦学习框架，旨在解决具有非常不同计算和通信能力的异构客户端的问题，并通过几种策略增强 FL 训练。通过在三个数据集上进行五个计算复杂性级别的三种模型架构的广泛实证评估，通过自适应分配子网络来提高 FL 训练的计算和通信效率。

    Oct, 2020

  • FLASH-RL: 使用强化学习解决联邦学习中的系统和静态异构问题

    FLASH-RL 是一种 Federated Learning 框架，利用 Double Deep Q-Learning 算法来处理系统和静态异质性，在 MNIST 和 CIFAR-10 数据集上展现了在模型效果和端到端延迟之间平衡取舍的有效性，相比现有解决方案，FLASH-RL 减少了 24.83% 的延迟，60.44% 的训练轮次，并在 MobiAct 数据集上相比 FedAVG 在模型性能方面提升了 2.82%，降低了 34.75% 的延迟，训练轮次也减少了 45.32%。

    Nov, 2023

  • 异构设备上的异步联邦学习：综述

    该研究基于一项新的分类机制，综合分析和总结了现有各种异步 FL 范式，包括异构设备上的设备异构性、数据异构性、隐私和安全性，以及异构设备上的应用。该研究揭示了该领域面临的挑战并提出了潜在的研究方向。

    Sep, 2021

  • FedAST: 分布式异步同时训练

    提出了一个缓冲异步联邦同时训练算法 FedAST，通过克服模型缓慢和自适应分配异构任务的客户资源来解决瓶颈问题，实验证明与现有同时联邦学习方法相比，能够达到多任务训练时间的最多 46.0% 的减少。

    Jun, 2024

  • 无一落后：异构设备上的包容性联邦学习

    该研究提出了一种名为 InclusiveFL 的客户端包含的联邦学习方法，解决异构设备下的全局模型训练问题，并通过在不同大小的本地模型之间共享知识和动量知识蒸馏方法来实现客户端之间的模型学习和知识迁移，实验表明该方法在联邦学习框架下从客户异构设备中学习准确模型方面具有很好的效果。

    Feb, 2022

  • 原型有助于联邦学习：朝着更快的收敛方向

    该论文提出了一种基于原型的联邦学习框架，通过在典型的联邦学习进程的最后全局迭代中进行少量更改就能够实现更好的推理性能，从而在两个基准数据集上实现了更高的准确性和相对高效的通信。

    Mar, 2023

  • 解决数据异构的无聚合联邦学习

    FedAF 是一种不需要数据聚合的联邦学习算法，通过协作学习来减少数据异质性导致的客户端漂移问题，提高全局模型准确性和收敛速度

    Apr, 2024

  • 异构数据感知联邦学习

    本研究提出一种新方法来解决联邦学习中的问题，并在本文所述的公开基准数据集（如 Femnist）以及自己收集的数据集（即流量分类）上验证了该方法的有效性，结果表明这种方法在极端情况下具有显著的优势。

    Nov, 2020