任务分解:解耦任务迁移学习
本文提出了一个简单而高效的方法来估计深度神经网络的迁移能力,该方法通过将深度神经网络投影到一个模型空间中,其中每个网络被视为一个点,这些点之间的距离通过它们产生的归因图的偏差来衡量。该方法比 Taskonomy 快数倍,同时保留了 Taskonomy 获得的与任务相关的拓扑结构。
Sep, 2019
通过使用视觉和语言数据,利用无监督任务发现学习一个任务特定的视觉分类器,并将其转移到视觉问答模型中作为答案单元,以解决视觉问题中的词汇表外问题,并通过从视觉数据转移的知识成功推广以应对此问题。
Oct, 2018
本文介绍一种基于一致性损失的计算机视觉多任务联合训练框架,充分利用多任务之间的内在关联性,实现对多个关联任务的同时训练及性能提升,并且减少数据标注的需求,支持无监督学习和模拟数据训练。测试结果表明,该框架在深度 / 法向量预测、语义分割、3D 运动 / 自身运动估计、点云物体跟踪和 3D 检测等任务上,皆有显著提升。
May, 2020
本文提出了一个评估跨任务表示学习有效性的 H-score 度量方式,可以对在分类问题中从一个任务传递到另一个任务的表示的性能进行评估。使用实际图像数据进行的实验表明,该评价标准不仅与经验传递度量一致,而且在源模型选择和任务转移课程学习等应用中也非常有用。
Dec, 2022
本文提出通过使用 RSA 方法评估不同任务和其特定模型之间的关系来实现任务分类,进而用少量图像和预训练模型来展示此方法在生成 Taskonomy 数据集的任务分类方面的有效性和效率,并展示了在与 Pascal VOC 语义分割等任务中转移学习表现上 RSA 的关系,结果表明在相似性得分较高的任务上训练的模型具有更好的迁移学习表现。
Apr, 2019
本文探讨使用统计量来衡量不同任务间的相似性,从而减少 fine-tuning 的测试所需的任务对数量,并在 58 个任务和 6600 多个任务对组合上实验证明其可以提高任务的效率并显著降低运行时间。
Feb, 2023
本文提出了一种新的适应性框架,用于跨任务和领域传递知识,通过在一个完全监督域中学习跨任务和领域的知识,使其在只有部分监督域中实现性能增益。实验证明了该框架在两个具有挑战性的任务(即单眼深度估计和语义分割)和四个不同领域(Synthia、Carla、Kitti 和 Cityscapes)中的有效性。
Apr, 2019
本文提出一种基于知识迁移和神经网络的方法,使得在新领域中,能够在有限或无额外监督的情况下利用特定领域中已学知识解决新任务,并且在特征空间约束和映射网络方面提出了一些策略,从而在合成到真实的语境下,利用单目深度估计和语义分割任务之间的知识迁移,获取了令人满意的结果。
Jan, 2023
本文提出了一种基于任务表示的团队适应方法,通过学习任务之间的共同结构,使得团队可以在少量的源任务学习之后将协作知识传递到新任务上。我们发现微调转移策略有助于解决那些从头开始难以学习的任务。
Mar, 2022