本研究提出一种多任务学习模型，可以同时训练多种语言学层次的任务，并通过一种逐步增加深度的策略来解决越来越复杂的任务。该模型使用一个简单的正则化项来实现在提高某一任务的损失函数时，不影响其他任务的学习效果。实验结果表明，这个端到端的模型在标签、句法分析、相关性与蕴含等五种任务上取得了最先进或有竞争力的结果。

Nov, 2016

本文提出了一种多领域学习架构用于显著不同的显微镜图像的分类，使用新的优化技术规范训练期间的潜在特征空间来提高网络性能。通过在三个不同的公共数据集上进行评估，该分类器优于现有技术，对有限标记数据稳健，并且切换到新实验时帮助消除设计新网络的负担。

Apr, 2023

本篇文章通过开发一个大规模、多任务训练体系，研究了不同任务之间的相互关系，提出了一个单一模型，可以在视觉问题回答、基于标题的图像检索、引用表达和多模态验证等四个广泛的任务范畴下，同时取得以往 3 亿多参数内单一任务模型的总和，且性能提高了 2.05 个百分点，并进一步表明，从单一多任务模型微调任务特定模型会进一步提高性能。

Dec, 2019

本文提出了一种针对领域泛化问题的替代神经网络结构，该结构可以关注卷积神经网络的多个层次，利用可训练的注意机制来实现鲁棒的数据分类，同时在已有的四项领域通用基准测试中表现良好。

Apr, 2023

探讨了深度神经网络能否学习到通用的图像表示，并提出一种名为 MultiNet 的新模型，在共享特征的基础上，通过在共同的表征中相互交互来整合各个任务的解决方案，实现了在标准基准测试中提高各个任务性能的目的。

Jun, 2016

提出一种理论框架构建统一的深度网络架构，基于 Transformer 模型以及离散学习框架，以解决当前构建通用网络的挑战。

Apr, 2024

本文提出了一种在小数据集上搜索神经网络模型结构并将其转移至大数据集的方法，称为 NASNet，通过设计新的搜索空间并使用调度 DropPath 技术提高了模型在 ImageNet 等数据集上的分类正确率。

Jul, 2017

本文介绍了一种名为 OmniNet 的神经网络框架，使用 Transformer、Spatio-temporal Cache 和自我注意机制来支持多模态学习和异步多任务学习，并演示了训练多个任务的模型在保持性能的前提下大幅度压缩的能力。

Jul, 2019

通过引入四种递归神经层实现多任务结构信息融合，对多个相关任务间的复杂互动进行建模，从而在文本分类任务中显著提升相关任务的性能。

Jul, 2017

本文提出一种基于深度可分离卷积的多领域学习体系结构，以捕获不同视觉领域之间的通用结构，并介绍一个门控机制，促进不同领域之间的软共享。在 Visual Decathlon 挑战赛上，我们的方法可以取得最高分数，比现有方法所需的参数数量少 50％。

Feb, 2019