通过应用多任务学习，已经在端到端语音翻译中取得了显著的改进。本文研究了不同任务之间的一致性，并提出了一种改进的多任务学习方法，通过缓解长度和表征的差异来弥合模态间的差距。实验证明我们的方法达到了最先进的结果。此外，当使用额外的数据时，我们在 MuST-C 英语到西班牙语任务上以当前最先进方法所需的 20.8% 的训练时间取得了新的最先进结果。

Nov, 2023

在多任务学习中，使用共享和任务特定的嵌入（STEM）范式，通过 STEM-Net 模型有效捕捉任务特定的用户偏好，消除负迁移，超越单任务模型，提供卓越的性能和优势。

Aug, 2023

提出了一种名为学习多任务（L2MT）的学习框架，通过历史多任务经验中的训练集，利用分层图神经网络学习多任务嵌入，并使用估计函数来识别新的多任务问题中合适的多任务模型，实验结果验证了该框架的有效性。

May, 2018

多任务学习中的优化器选择、梯度冲突、迁移性以及与单任务学习的相似性的研究

Nov, 2023

多任务学习（MTL）是一个灵活且有效的学习范式，结合了任务特定的和共享的信息，同时解决了多个相关任务。本综述以技术层面从传统方法到深度学习和最新的预训练基于模型的最新趋势，对 MTL 的发展进行了全面概述，并将 MTL 技术系统地分类为正则化、关系学习、特征传播、优化和预训练五个关键领域。综述还揭示了 MTL 从处理一组固定任务发展为接受无任务或模态限制的更灵活方法，探讨了任务提示和不可知训练以及 ZSL 的概念，释放了这种历史上备受追捧的学习范式的潜力。综述旨在提供研究界对 MTL 从 1997 年到 2023 年的最新进展的全面概述，同时探讨当前挑战和未来可能性，为 MTL 研究的机遇和潜在路径指明方向。

Apr, 2024

通过研究 11 个序列标注任务中的三种多任务学习方法，我们发现在大约 50% 的情况下，联合学习所有 11 个任务可以改善独立学习或成对学习任务的效果。我们还展示了成对多任务学习可以告诉我们哪些任务可以互惠，哪些任务在联合学习时可以受益。我们的一种多任务学习方法产生的任务嵌入还揭示了语义任务和语法任务的自然聚类。我们的研究打开了在自然语言处理中进一步利用多任务学习的大门。

Aug, 2018

提出了一种基于手工特征（Data Maps）的新的数据驱动方法，用于解决多任务学习中的任务分组、负干扰和可扩展性等挑战。通过实验证明了该方法的有效性，即使在大量任务（最多 100 个任务）下也能取得显著的效果。

Jul, 2023

本文综述了多任务学习的算法建模、任务聚类及半监督学习、真实世界应用等方面，并探讨其理论分析和未来方向。

Jul, 2017

本论文研究了多任务学习（MTL）与基于梯度的元学习（GBML）之间的关系，通过理论和实证研究证明了它们在优化公式和学习到的预测函数上的相似性，并通过样例展示了 MTL 作为一阶方法可以代替计算代价高的二阶方法 ——GBML，在大规模数据集上训练时更加有效。

Jun, 2021

本文研究了多任务学习领域的一种新方法，使用名为 Sharpness-aware Minimization 的训练技术，以提高单任务学习的通用性和多任务学习的性能。实验表明，该方法在多个应用程序中都有很好的表现。

Nov, 2022