本文提出了一种分布式和异步优化的多任务学习框架，该框架能够有效地解决数据存储在不同地点时的挑战，同时能够提高多任务学习模型的泛化性能。实证研究表明本文提出的方法在合成和实际数据集上均表现出高效和有效的性能。

Sep, 2016

本文综述了多任务学习的算法建模、任务聚类及半监督学习、真实世界应用等方面，并探讨其理论分析和未来方向。

Jul, 2017

多任务学习通过在不同层次共享信息来同时学习多个任务，提高各个单独任务的性能。该研究探索了输出层面任务相关性，并通过将一个任务的输出作为另一个任务的隐藏特征引入后验信息，将静态多任务学习模型转变为动态模型。通过引入收敛性损失来确保训练过程的收敛，并提出了 Gumbel 门控机制来确定反馈信号的最佳投影。通过在口语理解的几个基线模型上进行实验证实了我们方法的有效性和性能评估。

Apr, 2024

通过研究 11 个序列标注任务中的三种多任务学习方法，我们发现在大约 50% 的情况下，联合学习所有 11 个任务可以改善独立学习或成对学习任务的效果。我们还展示了成对多任务学习可以告诉我们哪些任务可以互惠，哪些任务在联合学习时可以受益。我们的一种多任务学习方法产生的任务嵌入还揭示了语义任务和语法任务的自然聚类。我们的研究打开了在自然语言处理中进一步利用多任务学习的大门。

Aug, 2018

本文对近期自然语言处理领域中的多任务学习方法进行了调查，总结了两种基于任务相关性的多任务训练方法：联合训练和多步训练。文章对自然语言处理领域中几个下游应用案例进行了说明，总结了任务关系，并讨论了未来的研究方向。

Apr, 2022

本文提出了一种新型 MTL 模型，通过交替极小化算法解决任务关系结构和任务参数的联合估计问题，应用于回归和分类问题，结合灰色图模型结构学习得出任务关系结构。在温度预测等多个数据集中，该模型展现出了显著的表现优势。

Sep, 2014

本文提出了一种名为 EMTL 的新型多任务学习优化方法，通过正则化不同任务的相对贡献，在更新共享参数时改善了多任务学习的泛化性能，并通过扩展实验验证了该方法的稳定性和优越性。

Jun, 2023

本文提出了一种新颖的多任务学习框架，称为自适应步进多任务学习，该框架通过同时考虑任务和实例的复杂性来共同学习任务。通过提出一种新的面向任务的正则化器，可以联合优化任务和实例，从而可以解释为多任务学习中的自适应学习器。而且作者还设计了一种简单而有效的算法来优化目标函数。通过对玩具数据集和实际数据集进行实验，结果表明与现有的最先进方法相比，提出的方法具有更好的性能。

Apr, 2016

本文介绍了一种名为 Selective Sharing 的方法，通过在模型训练过程中学习辅助潜在特征，从而自动将任务分组并允许它们相互共享知识，旨在解决多媒体应用常常需要同时处理多个任务，但这些任务关系复杂，领域专家知识不足的问题。在分类、回归和排名任务的 5 个数据集上进行实验，与强基线和最先进的方法进行比较表明，在准确性和参数计数方面始终有所改善。此外，作者还进行了激活区域分析，展示了 Selective Sharing 如何影响所学的表示。

Apr, 2019

本文阐述了多任务深度神经网络在 NLP 领域中的应用和优势，并探究了其在不同任务相关性下提高 NLP 性能的条件和作用。

Feb, 2017