本文探讨了用于神经语音翻译的多任务模型，并对其进行增强，以反映两个直观概念。精准的中间表示和神经关联的模式，参与模型的训练可以提高低资源语音转录和翻译任务的性能。

Feb, 2018

通过利用大型语言模型与多任务能力展示有希望的结果，我们构建了一个名为 UniverSLU 的单一多任务学习模型，它在 12 个语音分类和序列生成任务、17 个数据集和 9 种语言上展现出了竞争性的性能并且超过了特定任务模型。同时，我们还初步探索了使用人类可解释的自然短语代替任务限定词作为离散提示，并测试了该模型对新的释意表达的泛化能力。

Oct, 2023

研究了在小规模训练语料的情况下，使用多任务学习进行抽象摘要的效果。通过将四项不同任务（抽取式摘要、语言建模、概念检测和释义检测）单独和结合使用，得出训练多任务模型比训练仅用于抽象摘要的模型效果更好的结论。在全面搜索中，发现某些任务（如释义检测）不仅可以与其他任务结合使用，而且可以使用不同的架构和训练语料，始终对抽象摘要有益。

Sep, 2021

本文介绍了多任务学习在 Fon 语言的自然语言处理中的应用，具体研究了 Fon 语言的命名实体识别和词性标注任务，并展示了在这些任务上相对于其他预训练的多语种语言模型来说，具备竞争力或者更好的性能。

Aug, 2023

本文提出了一种使用多任务学习方法训练神经会话模型的方式来解决根据具体发言人训练缺乏数据、建立基于角色的会话代理的问题。实验证明该方法显著提高了基线模型的质量，生成更准确地捕捉发言者特征和讲话风格的响应，并且该方法算法简单易实现，不依赖于代表特定个体发言者的大量数据。

Oct, 2017

本篇文章通过开发一个大规模、多任务训练体系，研究了不同任务之间的相互关系，提出了一个单一模型，可以在视觉问题回答、基于标题的图像检索、引用表达和多模态验证等四个广泛的任务范畴下，同时取得以往 3 亿多参数内单一任务模型的总和，且性能提高了 2.05 个百分点，并进一步表明，从单一多任务模型微调任务特定模型会进一步提高性能。

Dec, 2019

本研究探讨了将中间表示作为深度网络低层的辅助监督的方法，将传统的 pipeline 方法与端到端的训练方法相结合，实验结果表明这种方法提高了对话语音识别的识别准确性。

Apr, 2017

本篇研究提出了一种表示模型来编码富含双向编码的语音，同时使用遮蔽语言建模目标来学习这个模型。采用类关注作为口语理解模块，提高了模型在 Fluent Speech Command 数据集上的性能，并且可以用于可视化解释模型预测。

Nov, 2022

本研究采用深度学习技术在 TIMIT 数据集上探索了四个说话人特征分析任务，分别为性别分类、口音分类、年龄估计和说话人识别，突出了多任务学习与单任务模型之间的潜力和挑战。该研究旨在经验性地评估在说话人特征分析领域中，多任务学习相对于单任务模型的优势和缺点，并强调技巧性特征工程在说话人识别任务中的重要性。研究发现了口音分类方面的挑战，并且发现多任务学习对于任务的复杂性较高。在说话人识别中，非顺序特征受到偏好，而顺序特征可以作为复杂模型的起点。该研究强调了对于深度学习模型的细致实验和参数调整的必要性。

Apr, 2024

该论文介绍了一种基于元学习的低资源自动语音识别的方法，通过用多语言进行预训练并使用模型无关元学习算法（MAML）来快速适应目标语言，该方法名为 MetaASR，经过初步测试，发现该方法在各个目标语言中均显著优于现有的多任务预训练方法，而且开启了一种将元学习应用于更多语音相关应用的新研究方向。

Oct, 2019