探究关系上下文的多任务密集预测

ICCVApr, 2021

探究关系上下文的多任务密集预测

Exploring Relational Context for Multi-Task Dense Prediction

David Bruggemann, Menelaos Kanakis, Anton Obukhov, Stamatios Georgoulis, Luc Van Gool

TL;DR本研究考虑在多任务环境中使用公共主干和独立任务特定头部进行密集预测任务，通过捕捉依赖于任务关系的跨任务上下文来找到每个任务预测的最有效方法。研究发现，不同的源 - 目标任务对受益于不同类型的上下文，为了自动化选择过程，我们提出了一种自适应任务关系上下文模块（ATRC），通过神经架构搜索来对可用的上下文池进行采样，并输出部署的最佳配置。该方法在两个重要的多任务基准测试中实现了最先进的性能。

Abstract

The timeline of computer vision research is marked with advances in learning and utilizing efficient contextual representations. Most of them, however, are targeted at improving model performance on a single downstream task. We consider a multi-task environment for →

computer vision multi-task learning attention-based contexts neural architecture search dense prediction tasks

发现论文，激发创造

基于上下文表示的多任务强化学习

提出一种多任务学习的方法，通过元数据构建可组合且可解释的表示，从而改进多任务学习性能，并在一个包含 50 个不同机器人操作任务的具有挑战性的多任务基准 Meta-World 上实现了最先进的结果。

Feb, 2021

多任务学习与多查询变换器用于密集预测

本文提出了一种名为 “Multi-Query Transformer” 的多任务模型，利用多个任务相关的查询来进行跨任务推理，通过查询在多个任务之间建立联系，使得跨任务交互变得简单高效，并在两个密集预测数据集（NYUD-v2 和 PASCAL-Context）上取得了最优效果。

May, 2022

密集型多任务学习的跨任务注意机制

该研究介绍了一种多任务学习架构，通过相关性引导的注意力和自我关注增强平均表示学习，以通过 2D 语义分割和几何相关的任务来综合理解复杂场景，并在室内和室外数据集上展示了其好处。

Jun, 2022

多任务学习中图像任务相关性的学习

本文介绍了一种名为 Selective Sharing 的方法，通过在模型训练过程中学习辅助潜在特征，从而自动将任务分组并允许它们相互共享知识，旨在解决多媒体应用常常需要同时处理多个任务，但这些任务关系复杂，领域专家知识不足的问题。在分类、回归和排名任务的 5 个数据集上进行实验，与强基线和最先进的方法进行比较表明，在准确性和参数计数方面始终有所改善。此外，作者还进行了激活区域分析，展示了 Selective Sharing 如何影响所学的表示。

Apr, 2019

对比多任务密集预测

本文提出了一种基于特征对比一致性的多任务对比正则化方法，以解决多任务密集预测的跨任务交互建模问题，并在两个数据集上进行了大量实验，展示了该方法在密集预测方面的优越表现，创立了新的最先进性能。

Jul, 2023

自适应阈值和局部上下文池化的文档级关系抽取

本文提出了自适应阈值和本地化上下文池化等两种新技术，用于解决文档级关系提取中的多标签和多实体问题，该 ATLOP 模型在三个数据集上的表现都优于现有模型。

Oct, 2020

一种用于多任务学习的文本分类泛循环神经网络架构

通过引入四种递归神经层实现多任务结构信息融合，对多个相关任务间的复杂互动进行建模，从而在文本分类任务中显著提升相关任务的性能。

Jul, 2017

基于 3D 感知正则化的多任务学习

通过引入结构化 3D-aware 正则化方法，将深度神经网络与多任务背景相结合，可以改善性能。

Oct, 2023

Taskology: 任务关系的大规模利用

本文介绍一种基于一致性损失的计算机视觉多任务联合训练框架，充分利用多任务之间的内在关联性，实现对多个关联任务的同时训练及性能提升，并且减少数据标注的需求，支持无监督学习和模拟数据训练。测试结果表明，该框架在深度 / 法向量预测、语义分割、3D 运动 / 自身运动估计、点云物体跟踪和 3D 检测等任务上，皆有显著提升。

May, 2020

利用任务适应性注意力生成器的实时自主驾驶多任务学习

本文介绍了一种新的实时多任务网络，包括单目三维物体检测、语义分割和密集深度估计，通过引入任务自适应注意力生成器来解决多任务学习中普遍存在的负迁移问题，并利用硬参数共享方法提高效率，能够同时处理多个任务，尤其是三维物体检测，并保持实时处理速度。经过在 Cityscapes-3D 数据集上的严格优化和深入剖析研究，我们的网络始终优于各种基准模型。

Mar, 2024