Nov, 2023

异构客户端联邦多任务学习

PDF
TL;DR借助 FedHCA$^2$ 框架，该研究解决了异构客户机联邦多任务学习中的模型不一致性问题，并通过建模异构客户机之间的关系来允许个性化模型的联邦训练。实验证明 FedHCA$^2$ 在各种异构客户机联邦多任务学习场景中相比其他方法具有更优越的性能。
federated learningfederated multi-task learninghetero-client federated multi-task learningmodel incongruityfedhca$^2$ framework
发现论文，激发创造
  • FedBone：面向大规模联合多任务学习

    本文提出一种名为 FedBone 的框架，它通过客户端 - 服务器分裂学习和梯度投影实现构建大规模模型，解决现有联合多任务学习方法所面临的问题，并提高不同任务之间的泛化性能。

    Jun, 2023

  • 聚类联邦学习：在隐私约束下的模型无关分布式多任务优化

    本研究提出了一种基于聚类的联邦多任务学习框架（Clustered Federated Learning），可在保持数据隐私性的同时，更好地解决联邦学习中本地数据分布不同的问题，并在深度卷积和循环神经网络上进行实验证明了其有效性。

    Oct, 2019

  • 混合分布下的联邦多任务学习

    该研究提出了一种基于混合模型假设的联邦多任务学习方法，该方法可以在设备上学习个性化模型并实现客户端和服务端两种架构下的联邦 EM 算法的收敛，同时在联邦学习基准测试中获得了更高的准确性和公平性。

    Aug, 2021

  • FedAuxHMTL：网络边缘流量分类的联邦辅助硬参数共享多任务学习

    该文介绍了一种新的联邦辅助硬参数共享多任务学习框架，名为 FedAuxHMTL，通过在边缘服务器和基站之间进行模型参数交换，使分布区域的基站参与到 FedAuxHMTL 过程中，并提升主任务 - 网络边缘流量分类的学习性能。通过实证实验证明了 FedAuxHMTL 在准确性、总全局损失、通信成本、计算时间和能源消耗方面与其对应方法相比的有效性。

    Apr, 2024

  • 联合模型异构母娃表示学习

    Federated model heterogeneous Matryoshka Representation Learning (FedMRL) enables knowledge exchange and improves model learning capability in heterogeneous federated learning through representation fusion.

    Jun, 2024

  • RHFedMTL: 资源感知的分层联邦多任务学习

    本文提出了一种可行的资源感知层次化联邦多任务学习 (RHFedMTL) 解决方案，通过解决基站内的不同任务并在不危及隐私的情况下在云中聚合多任务结果，以满足任务异构性，同时开发了一种面向本地终端和基站的资源感知学习策略以满足资源预算 。

    Jun, 2023

  • 非独立同分布数据孤岛上的联邦多任务学习：实证研究

    通过引入 FMTL-Bench 框架，本论文填补了领域中对集成 FL 和 MTL 两者特点的综合评估方法的空缺，并通过七组对比实验系统评估了 FMTL 范式，旨在为现有基线方法的优势和局限性提供有价值的见解，为实际场景中的最佳 FMTL 应用作贡献。

    Feb, 2024

  • 使用拉普拉斯正则化的联邦多任务学习的新视角和收敛速率

    本论文提出了两种算法 FedU 和 dFedU，解决了非独立同分布数据分布导致联邦学习性能下降的问题，并在实验中表现出比现有算法更好的收敛速度和性能，同时指出所提出的联邦多任务学习问题可以用于常规 FL 和个性化 FL 任务。

    Feb, 2021

  • 非联邦多任务分割学习的异构源

    边缘网络和移动计算的发展需要设计新的分布式机器学习机制来服务于异构数据源。本文提出了一种多任务分割学习（MTSL）框架，结合了分割学习（SL）的优点和分布式网络架构的灵活性，以实现高效处理异构数据源的多任务学习，具有快速收敛、低通信成本和对异质数据的鲁棒性等优势。

    May, 2024

  • 联邦学习中多模型公平并发训练

    多模型联邦学习算法设计及公平性和激励机制对训练收敛的影响研究。

    Apr, 2024