本文提出了一种新的多任务学习架构，其中包含了任务特定的特征级别的注意力学习，称之为 Multi-Task Attention Network (MTAN)，它可以在任何前馈神经网络的基础上进行端到端训练，本文在图像分类任务和图像到图像预测上进行了验证，发现相对于现有方法，该架构达到了最先进的水平，而且对多任务损失函数的各种加权方案也不敏感。

Mar, 2018

研究多任务学习在计算机视觉中的应用，通过综述现有方法，提出几种方法处理多任务学习中的重要问题，并在各种基准测试中进行评估，进一步提升了多任务学习的状态。

Mar, 2022

本文提出了一种新的深度学习模型 Task Adaptive Activation Network (TAAN), 它可以自动学习适用于多任务学习的最佳网络架构，通过两种功能规范化方法，证明了 TAAN 和规范化方法的性能提高。

Nov, 2019

本文提出利用多任务学习中的软参数共享机制，在卷积神经网络中加入侧向转换块，并使用跳接连接的方式提取各深度的任务特定特征，从而在面部关键点检测等相关任务中取得更好的精度和深度特定影响的知识共享效果。

Oct, 2017

该研究介绍了一种多任务学习架构，通过相关性引导的注意力和自我关注增强平均表示学习，以通过 2D 语义分割和几何相关的任务来综合理解复杂场景，并在室内和室外数据集上展示了其好处。

Jun, 2022

本文概述了多任务学习在深度神经网络中的应用，介绍了常见的两种方法，并讨论了最新的进展，旨在帮助机器学习从业者理解多任务学习的原理并提供选择辅助任务的指南。

Jun, 2017

本文综述了当前深度学习在计算机视觉中的多任务学习领域的最新研究进展，主要关注密集预测任务，从网络架构和优化方法两个角度进行了阐述和总结，旨在探讨多任务共享表示学习的优势和局限性。

Apr, 2020

本文提出了一种基于潜在多任务体系结构的方法，该方法可以在 OntoNotes 5.0 的人造数据和数据中的多种领域和四种不同的任务中，比以往任何一种学习潜在体系结构的多任务问题方法都表现得更优秀，可以实现高达 15% 的平均误差降低率。

May, 2017

本篇综述介绍了多任务学习在深度神经网络中的方法，重点阐述了体系结构、优化方法和任务关系学习三个方面，并提供了常见的多任务基准的总结。

Sep, 2020

通过实现面向 6G 及更高版本网络的基于数据驱动的 AI 原生架构，可以最终实现在网络边缘分布多个机器学习工作负载，驱动次级载波预测、定位、信道预测等下游任务。该研究探讨了多任务学习在构建通用 AI 原生无线接入网络方面的有效性，重点研究了次级载波预测、用户位置预测、室内链路分类和视线链路分类四项任务，在真实模拟中验证了性能，并得出了关于模型架构、损失和梯度平衡策略、分布式学习拓扑结构、数据稀疏性和任务分组等多方面设计要点的定量分析和见解，结果显示在四项考虑的任务中，采用基于定制门控的专家架构和基于不确定性的权重调节的多任务学习方法在性能上要么超过单任务学习，要么与其持平；在多任务学习设置下，视线链路分类任务有助于其他任务，但自身性能下降；对于稀疏训练数据，训练单一全局的多任务学习模型有帮助，但性能与单任务学习持平；每个任务存在一组最佳的任务组配对；多任务学习设置下的部分联邦要好于全模型联邦。

Apr, 2024