知识组装：使用不相交标签的多个数据集进行半监督多任务学习

CVPRJun, 2023

知识组装：使用不相交标签的多个数据集进行半监督多任务学习

Knowledge Assembly: Semi-Supervised Multi-Task Learning from Multiple Datasets with Disjoint Labels

Federica Spinola, Philipp Benz, Minhyeong Yu, Tae-hoon Kim

TL;DR本文介绍了一种利用半监督学习思想，采用知识组装 (Knowledge Assembly) 方法，为只有部分标注的多任务学习 (Multi-Task Learning) 模型提供训练。文章在联合学习行人再识别 (Person Re-Identification) 和行人属性识别 (Pedestrian Attribute Recognition) 任务中，优于单一任务的完全监督性能。

Abstract

In real-world scenarios we often need to perform multiple tasks simultaneously. multi-task learning (MTL) is an adequate method to do so, but usually requires datasets labeled for all tasks. We propose a method that can leverage datasets labeled for only some of the tasks in the MTL fr

multi-task learning knowledge assembly semi-supervised learning person re-identification pedestrian attribute recognition

发现论文，激发创造

部分监督多任务学习

提出了一种基于自监督学习和对抗训练的半监督多任务学习模型，称为 S$^4$MTL，可用于医学成像中的分割和诊断分类任务。实验结果表明，该模型在减少 50% 标签数量的情况下，明显优于半监督单任务、半 / 全监督多任务和全监督单任务模型，并且可以用于解决有限注释问题的联合训练。

May, 2020

多任务学习中的分布匹配：在人脸及其他任务上的大规模研究

挑战现有多任务学习 (MTL) 框架，提出新方法通过分布匹配实现任务间的知识交流，证明少量注释或非重叠注释情况下的 MTL 仍能成功，且在各个领域的案例研究中均带来了较大的性能提升。

Jan, 2024

异步多任务学习

本文提出了一种分布式和异步优化的多任务学习框架，该框架能够有效地解决数据存储在不同地点时的挑战，同时能够提高多任务学习模型的泛化性能。实证研究表明本文提出的方法在合成和实际数据集上均表现出高效和有效的性能。

Sep, 2016

多任务学习与部分监督的结合：计算机视觉综述

多任务学习通过使用共享资源同时计算多个输出，具有比传统方法更低的内存需求和推理时间，本综述主要研究多任务学习如何在不同的部分监督设置下应用以解决相关挑战。

Jul, 2023

多任务学习调查

本文综述了多任务学习的算法建模、任务聚类及半监督学习、真实世界应用等方面，并探讨其理论分析和未来方向。

Jul, 2017

异质多任务学习的分布匹配：一项大规模人脸研究

本文提出了一种基于分布匹配的方法，将多个任务进行弱监督的共同训练，建立了第一个全面学习面部行为的框架 FaceBehaviorNet，并利用该框架进行了零 / 少样本学习，实现了好于现有方法的效果。

May, 2021

深度神经网络的多任务学习：一项调查

本篇综述介绍了多任务学习在深度神经网络中的方法，重点阐述了体系结构、优化方法和任务关系学习三个方面，并提供了常见的多任务基准的总结。

Sep, 2020

序列标注的多任务学习：实证研究

通过研究 11 个序列标注任务中的三种多任务学习方法，我们发现在大约 50% 的情况下，联合学习所有 11 个任务可以改善独立学习或成对学习任务的效果。我们还展示了成对多任务学习可以告诉我们哪些任务可以互惠，哪些任务在联合学习时可以受益。我们的一种多任务学习方法产生的任务嵌入还揭示了语义任务和语法任务的自然聚类。我们的研究打开了在自然语言处理中进一步利用多任务学习的大门。

Aug, 2018

利用辅助大任务学习具有不一致标签的多项任务

该研究提出了一种框架，通过联合利用来自具有足够多类别的大型辅助任务和这些任务之间共享的信息，来学习在训练样本有限、标签集仅部分重叠或甚至没有的多任务。其关键思想是利用可用的标签信息，自适应地修剪辅助网络的隐藏层神经元，构建每个任务的相应网络，并伴随着个别任务的联合学习。实验结果表明，该方法比最先进的方法更加有效。

Jan, 2022

潜在多任务架构学习

本文提出了一种基于潜在多任务体系结构的方法，该方法可以在 OntoNotes 5.0 的人造数据和数据中的多种领域和四种不同的任务中，比以往任何一种学习潜在体系结构的多任务问题方法都表现得更优秀，可以实现高达 15% 的平均误差降低率。

May, 2017