MAS：面向资源高效的联邦多任务学习

ICCVJul, 2023

MAS：面向资源高效的联邦多任务学习

MAS: Towards Resource-Efficient Federated Multiple-Task Learning

Weiming Zhuang, Yonggang Wen, Lingjuan Lyu, Shuai Zhang

TL;DR提出一种用于协调和训练多个同时进行的联邦学习任务的系统，名为 MAS（Merge and Split），通过多任务架构将多个任务合并为一个任务进行训练，并根据任务之间的亲和度在训练过程中将其拆分成两个或更多任务继续训练，实验证明 MAS 方法在性能优化方面胜过其他方法，同时减少训练时间 2 倍并降低 40% 的能源消耗。

Abstract

federated learning (FL) is an emerging distributed machine learning method that empowers in-situ model training on decentralized edge devices. However, multiple simultaneous FL tasks could overload resource-constrained devices. In this work, we propose the first FL system to effectivel

federated learning simultaneous tasks mas merge and split performance optimization

发现论文，激发创造

智能多租户联邦学习

提出了一个名为 MuFL 的智能的多租户联邦学习系统，来优化多个设备上的同时训练活动，通过合并和拆分活动来提高效率并且在比较中，该系统较其他方法少消耗了 40% 的能量。

Jul, 2022

无线网络异步多模型联邦学习：理论、建模和优化

本文提出了一种应用于多个下游任务的异步模型传输的联邦学习方法，通过引入调度张量来表征设备调度，并通过收敛性分析探究了资源分配、设备调度和个体模型状态等对机器学习性能的影响，进而通过非凸混合整数优化问题来调整资源分配和设备调度，以在能量消耗和性能之间达到高效平衡，并通过数值模拟揭示了该方法在模型性能和网络资源节约方面的优势。

May, 2023

FedAST: 分布式异步同时训练

提出了一个缓冲异步联邦同时训练算法 FedAST，通过克服模型缓慢和自适应分配异构任务的客户资源来解决瓶颈问题，实验证明与现有同时联邦学习方法相比，能够达到多任务训练时间的最多 46.0% 的减少。

Jun, 2024

非联邦多任务分割学习的异构源

边缘网络和移动计算的发展需要设计新的分布式机器学习机制来服务于异构数据源。本文提出了一种多任务分割学习（MTSL）框架，结合了分割学习（SL）的优点和分布式网络架构的灵活性，以实现高效处理异构数据源的多任务学习，具有快速收敛、低通信成本和对异质数据的鲁棒性等优势。

May, 2024

混合分布下的联邦多任务学习

该研究提出了一种基于混合模型假设的联邦多任务学习方法，该方法可以在设备上学习个性化模型并实现客户端和服务端两种架构下的联邦 EM 算法的收敛，同时在联邦学习基准测试中获得了更高的准确性和公平性。

Aug, 2021

跨设备联邦学习的多任务智能调度

本研究提出了一个新颖的多工作联邦学习框架，通过智能调度方法实现了分散数据的并行训练过程，实验证明相比基线方法，其训练时间更快（最高可达 12.73 倍）且准确率更高（最高 46.4%）。

Nov, 2022

联邦多任务学习

本文研究了在分布式设备网络上训练机器学习模型所面临的统计和系统挑战，提出了一种适用于多任务学习的优化方法 MOCHA，并在考虑通信成本、慢设备和容错性等实际系统问题的前提下，实现了比替代方法更显著的加速效果。

May, 2017

适应性资源受限边缘网络中的自适应拆分联邦学习

通过模型分割和客户端模型聚合，我们提出了一种适应资源受限边缘计算系统的新型资源自适应分割联邦学习（AdaptSFL）框架，以加速分割联邦学习并实现更好的训练性能。

Mar, 2024

联邦学习中多模型公平并发训练

多模型联邦学习算法设计及公平性和激励机制对训练收敛的影响研究。

Apr, 2024

ESFL：高效的资源受限异构无线设备下的分割式联邦学习

我们提出了一种高效的分布式联合学习算法（ESFL），通过在服务器和终端设备之间将模型分割为不同的子模型，综合考虑用户异构性，同时优化用户端工作量和服务器端计算资源分配，以充分利用中央服务器的强大计算能力。与标准的联合学习、分割学习和分割联合学习相比，通过大量模拟实验证明我们的 ESFL 方法显著提高了效率。

Feb, 2024