Nov, 2022

跨设备联邦学习的多任务智能调度

PDF
TL;DR本研究提出了一个新颖的多工作联邦学习框架，通过智能调度方法实现了分散数据的并行训练过程，实验证明相比基线方法，其训练时间更快（最高可达 12.73 倍）且准确率更高（最高 46.4%）。
decentralized datafederated learningmulti-job fl frameworkparallel training processintelligent scheduling approach
发现论文，激发创造
  • 无线联邦学习中快速收敛的设备调度

    本文以联邦学习为背景，提出一种联合带宽分配和设备调度问题的解决方案，该方案通过一个贪心算法和运行时间预算中定向分配宽带的优化模型实现，从而在模型精度和训练时间预算方面实现了最好的性能表现。

    Nov, 2019

  • 物联网分层联邦学习中的设备调度和分配

    提出了改进的 K-Center 算法用于设备调度，并引入了基于深度强化学习的方法来分配物联网设备给边缘服务器，证明了在进行 Hierarchical FL 时，调度 50% 的物联网设备通常足以实现收敛，同时延迟和能耗明显降低，而在追求绿色人工智能以及减少消息传输方面，调度 30% 的物联网设备能够在保持模型准确度的同时大幅减少能耗和消息量。

    Feb, 2024

  • 异步联邦学习的设备调度和更新聚合策略

    本文提出了一种异步 FL 框架，其采用定期聚合的方式消除了 FL 系统中的问题，并设计出多种装置调度和更新聚合策略以解决异构计算能力和训练数据分布的设备问题。通过模拟结果，我们得出结论，异步 FL 的调度和聚合设计可以不同于同步情况，并且适当的 “年龄感知” 加权设计可以极大地提高此类系统的学习性能。

    Jul, 2021

  • 多任务联合学习的公平性感知工作调度

    基于 Lyapunov 优化，提出了首个公平感知的联邦作业调度（FairFedJS）方法，确保对高需求的联邦学习客户端数据集进行公平分配，以防止长时间等待。通过在两个数据集上与四种最先进的方法进行广泛实验证明，相较于最佳基准线，其在调度公平性和收敛时间方面分别提高了 31.9％和 1.0％，同时实现了可比较的测试准确性。

    Jan, 2024

  • 无线网络异步多模型联邦学习：理论、建模和优化

    本文提出了一种应用于多个下游任务的异步模型传输的联邦学习方法，通过引入调度张量来表征设备调度，并通过收敛性分析探究了资源分配、设备调度和个体模型状态等对机器学习性能的影响，进而通过非凸混合整数优化问题来调整资源分配和设备调度，以在能量消耗和性能之间达到高效平衡，并通过数值模拟揭示了该方法在模型性能和网络资源节约方面的优势。

    May, 2023

  • 最小化能耗的联邦学习调度算法

    本文主要解决采用联邦学习模型时，如何通过控制工作负载分配，最小化异构设备上的能源消耗问题。作者提出了一种基于伪多项式的最优解决方案，并针对单调递增的情况提出了四种算法。

    Sep, 2022

  • 智能多租户联邦学习

    提出了一个名为 MuFL 的智能的多租户联邦学习系统，来优化多个设备上的同时训练活动，通过合并和拆分活动来提高效率并且在比较中，该系统较其他方法少消耗了 40% 的能量。

    Jul, 2022

  • 具有类别不平衡减少的联邦学习

    用于解决联邦学习中数据隐私问题导致的设备端数据无法被中心服务器使用的问题，本文提出了一种基于估计方案的设备选择算法，以最小化类别不平衡来提高联邦学习全局模型的收敛性能。

    Nov, 2020

  • 混合分布下的联邦多任务学习

    该研究提出了一种基于混合模型假设的联邦多任务学习方法，该方法可以在设备上学习个性化模型并实现客户端和服务端两种架构下的联邦 EM 算法的收敛，同时在联邦学习基准测试中获得了更高的准确性和公平性。

    Aug, 2021

  • 基于联合梯度和损失的聚类联邦学习设计

    本研究提出了一种新颖的集群型联邦学习框架，使得具有非独立同分布数据的分布式边缘设备能够自主地以分布式方式形成若干个集群，并在每个集群内实现联邦学习训练。通过引入联邦学习和损失协同的分布式聚类方法，本研究克服了联邦学习中的两个挑战，并证明所提出的集群型联邦学习算法与现有基准相比，可以将聚类迭代次数减少多达 99%。

    Nov, 2023