该研究提出了一种基于混合模型假设的联邦多任务学习方法，该方法可以在设备上学习个性化模型并实现客户端和服务端两种架构下的联邦 EM 算法的收敛，同时在联邦学习基准测试中获得了更高的准确性和公平性。

Aug, 2021

本文提出了一种分布式和异步优化的多任务学习框架，该框架能够有效地解决数据存储在不同地点时的挑战，同时能够提高多任务学习模型的泛化性能。实证研究表明本文提出的方法在合成和实际数据集上均表现出高效和有效的性能。

Sep, 2016

本论文研究了多任务学习（MTL）与基于梯度的元学习（GBML）之间的关系，通过理论和实证研究证明了它们在优化公式和学习到的预测函数上的相似性，并通过样例展示了 MTL 作为一阶方法可以代替计算代价高的二阶方法 ——GBML，在大规模数据集上训练时更加有效。

Jun, 2021

本文提出了一种可行的资源感知层次化联邦多任务学习 (RHFedMTL) 解决方案，通过解决基站内的不同任务并在不危及隐私的情况下在云中聚合多任务结果，以满足任务异构性，同时开发了一种面向本地终端和基站的资源感知学习策略以满足资源预算 。

Jun, 2023

通过实现面向 6G 及更高版本网络的基于数据驱动的 AI 原生架构，可以最终实现在网络边缘分布多个机器学习工作负载，驱动次级载波预测、定位、信道预测等下游任务。该研究探讨了多任务学习在构建通用 AI 原生无线接入网络方面的有效性，重点研究了次级载波预测、用户位置预测、室内链路分类和视线链路分类四项任务，在真实模拟中验证了性能，并得出了关于模型架构、损失和梯度平衡策略、分布式学习拓扑结构、数据稀疏性和任务分组等多方面设计要点的定量分析和见解，结果显示在四项考虑的任务中，采用基于定制门控的专家架构和基于不确定性的权重调节的多任务学习方法在性能上要么超过单任务学习，要么与其持平；在多任务学习设置下，视线链路分类任务有助于其他任务，但自身性能下降；对于稀疏训练数据，训练单一全局的多任务学习模型有帮助，但性能与单任务学习持平；每个任务存在一组最佳的任务组配对；多任务学习设置下的部分联邦要好于全模型联邦。

Apr, 2024

本文提出了一种应用于多个下游任务的异步模型传输的联邦学习方法，通过引入调度张量来表征设备调度，并通过收敛性分析探究了资源分配、设备调度和个体模型状态等对机器学习性能的影响，进而通过非凸混合整数优化问题来调整资源分配和设备调度，以在能量消耗和性能之间达到高效平衡，并通过数值模拟揭示了该方法在模型性能和网络资源节约方面的优势。

May, 2023

本文综述了多任务学习的算法建模、任务聚类及半监督学习、真实世界应用等方面，并探讨其理论分析和未来方向。

Jul, 2017

本文提出了一种新颖的可控 Pareto 多任务学习框架，用于实现多个任务之间的实时权衡控制，其中超网络生成与偏好条件相关的模型参数，以实现基于不同权衡偏好的模型性能实时控制。

Oct, 2020

提出一种用于协调和训练多个同时进行的联邦学习任务的系统，名为 MAS（Merge and Split），通过多任务架构将多个任务合并为一个任务进行训练，并根据任务之间的亲和度在训练过程中将其拆分成两个或更多任务继续训练，实验证明 MAS 方法在性能优化方面胜过其他方法，同时减少训练时间 2 倍并降低 40% 的能源消耗。

Jul, 2023

通过引入 FMTL-Bench 框架，本论文填补了领域中对集成 FL 和 MTL 两者特点的综合评估方法的空缺，并通过七组对比实验系统评估了 FMTL 范式，旨在为现有基线方法的优势和局限性提供有价值的见解，为实际场景中的最佳 FMTL 应用作贡献。

Feb, 2024