本文提出了一种基于隐式微分的新框架 AuxiLearn，针对多任务学习中设计有用的辅助任务和将辅助任务组合成一个连贯的损失函数的挑战，当已知有用的辅助任务时，可以学习一个网络将所有损失合并成一个连贯的目标函数，并且能够学习任务之间的非线性交互；当不知道有用的辅助任务时，可以学习一个生成有意义的新辅助任务的网络。在图像分割和低数据情况下学习属性等多个任务和领域中，AuxiLearn 均表现出比竞争方法更为出色的性能。

Jun, 2020

该研究提出了一种自动学习辅助标签的新方法，通过训练标签生成网络和多任务网络来改善任何监督学习任务的泛化能力，并展示了 Meta AuXiliary Learning (MAXL) 方法自监督的优势，该方法不需要额外数据就能在 7 个图像数据集上胜过单任务学习，并在自动生成的辅助标签方面超越其他基线。

Jan, 2019

本研究旨在解决大规模多标签视觉识别问题，通过在已训练的神经网络分类器中增加辅助容量的方法，以极小的影响计算规模的前提下，显著提高模型的性能，并采用网络自身的预测作为评估视觉相似性的描述符，将标签空间划分为视觉上相似的实体组，通过增加辅助隐藏层通路，仅连接到这些标签单元组，从而在大规模对象识别任务中报告了显著的平均精度改善，同时将乘加操作数的数量增加了不到 3%。

Dec, 2014

本文提出了将神经架构搜索（NAS）应用于通用多任务学习（GP-MTL）中的方法。我们将 GP-MTL 网络分解成单任务骨干和层级分层特征共享 / 融合，设计了一个新颖的通用任务无关搜索空间，并提出了一种新颖的单次梯度基于搜索算法。通过对体系结构权重进行最小熵正则化，使体系结构权重收敛到近离散值，从而实现单个模型，达到可直接用于评估且不必从头开始培训。

Mar, 2020

通过在视觉数据集中引入小部分的附加任务，可以提高深度多任务卷积神经网络的性能，证实了辅助任务在加速训练和优化最终结果方面的有效性

May, 2018

提出了一种利用弱监督学习的多任务、利用显著性检测和多标签图像分类作为辅助任务的新型网络框架 AuxSegNet，借助显著性检测作为辅助任务提高了基于图像级原始标注来执行语义分割任务的准确度，实现了在 PASCAL VOC 2012 和 MS COCO 数据集上表现最佳的弱监督分割性能。

Jul, 2021

该研究提出了一种基于深度学习的模型 —— 辅助网络（Aux-Net），其采用加权集成分类器来处理输入特征数量的变化，具有可扩展性和敏捷性。Aux-Net 基于对冲算法和在线梯度下降算法，使用单次学习中的深度变化模型，适用于动态复杂环境，使能够处理不连贯的输入数据。在公共数据集上，实验证明了辅助网络的有效性。

Aug, 2020

本文介绍了一种基于神经架构搜索（NAS）的新方法，称为神经架构传递（NAT），该方法可将已训练的超网络集成到在线迁移学习和多目标进化搜索流程中，以快速生成适用于多个应用场景的任务特定定制模型，并在 11 项基准图像分类任务中证明了其有效性。

May, 2020

为使辅助任务更新适应主任务，我们提出了一种模型无关的框架，通过对辅助更新进行分解和加权，使得这些更新可以帮助、损害或保持主任务损失不变，在处理文本和图像分类任务中，该方法与强基线方法相比表现更优。

Aug, 2021

该研究提出了一种框架，通过联合利用来自具有足够多类别的大型辅助任务和这些任务之间共享的信息，来学习在训练样本有限、标签集仅部分重叠或甚至没有的多任务。其关键思想是利用可用的标签信息，自适应地修剪辅助网络的隐藏层神经元，构建每个任务的相应网络，并伴随着个别任务的联合学习。实验结果表明，该方法比最先进的方法更加有效。

Jan, 2022