通过引入 Efficient Multitask Affinity Learning Network (EMA-Net)，本文提出了一种轻量级框架用于增强多任务网络的任务改进能力，其关键创新点在于使用 Cross-Task Affinity Learning (CTAL) 模块来有效捕捉本地、全局和跨任务交互，并且能够进行信息损失最小化的参数高效分组卷积操作。实验结果表明，在卷积神经网络的解码器重点模型中，我们取得了最先进的多任务学习性能，同时使用了大大较少的模型参数。

Jan, 2024

提出了一种交叉任务知识蒸馏框架，通过引入辅助任务和校准蒸馏方法，解决了多任务学习中涉及的任务冲突、不一致和同步优化的问题，在实现细粒度推荐、跨任务知识转移等方面有显著效果。

Feb, 2022

本文提出了一种基于知识蒸馏的多任务学习方法。通过先学习任务特定的模型，再学习多任务模型，该方法可以解决多任务学习中的不平衡问题，以实现更好的整体性能。

Jul, 2020

本文提出了一种通过任务插值来扩充任务集的元学习方法（MLTI），通过该方法可以实现更好的泛化性能，从而在多个数据集上显著优于当前最先进的策略。

Jun, 2021

本文提出了一种新的多任务学习架构，其中包含了任务特定的特征级别的注意力学习，称之为 Multi-Task Attention Network (MTAN)，它可以在任何前馈神经网络的基础上进行端到端训练，本文在图像分类任务和图像到图像预测上进行了验证，发现相对于现有方法，该架构达到了最先进的水平，而且对多任务损失函数的各种加权方案也不敏感。

Mar, 2018

本文提出了一种基于潜在多任务体系结构的方法，该方法可以在 OntoNotes 5.0 的人造数据和数据中的多种领域和四种不同的任务中，比以往任何一种学习潜在体系结构的多任务问题方法都表现得更优秀，可以实现高达 15% 的平均误差降低率。

May, 2017

提出了一种 HiNet 多场景和多任务推荐系统的层次信息提取网络，通过粗到细的知识转移方案实现层次信息提取，并引入了新颖的场景感知的注意力网络模块来明确场景之间的相关性，实验表明提出的方法在真实世界的产业环境中具有新的最先进的性能并显著优于现有解决方案。

Mar, 2023

本研究提出了 “aggregate interaction modules” 和 “self-interaction modules” 等方法来处理深度学习中显著目标检测中存在的变量规模和未知类别等挑战，同时，使用 “consistency-enhanced loss” 方法来处理由于尺度变化导致的类别失衡问题，从而提升对前 / 背景差异的识别和类内一致性的维持。实验结果在五个基准数据集上表明，该方法无需后处理即可比 23 种最先进的方法表现优异。

Jul, 2020

本文使用知识蒸馏方法对多任务深度神经网络进行优化，提供了解决集成大型神经网络问题的方法，并在 GLUE 基准测试中取得了显著的成果。

Apr, 2019

本文提出一个多任务学习框架，利用限制 DAG-based 中央网络和特征共享来构建适应性强的结构，并使用流量约束和挤压损失将网络压缩离散化，从而实现在多个公共 MTL 数据集上达到最先进的性能。

Mar, 2023