ICCVAug, 2023

UniTR: 统一高效的多模态 Transformer 用于鸟瞰表示

PDF
TL;DRUniTR 是一种高效的多模态骨干网络，用于处理多传感器数据并实现准确可靠的自动驾驶系统的感知。它引入了一种模态不可知的转换编码器来处理不同的传感器数据，并通过视角不一致的传感器数据进行并行模态表示学习和自动跨模态交互，无需额外的融合步骤。它通过同时考虑语义丰富的 2D 透视图和几何感知的 3D 稀疏邻域关系，提出了一种新颖的多模态融合策略。在 nuScenes 评测上，UniTR 在 3D 目标检测方面取得了 + 1.1 NDS 的提高，在 BEV 地图分割方面取得了 + 12.0 mIoU 的提高，并具有较低的推理延迟。
multi-modal backboneunitrsensor data3d perceptionautonomous driving systems
发现论文，激发创造
  • 使用 Transformer 实现 3D 物体检测的基于体素的统一表示

    UVTR 提出了一种统一的框架，旨在提高单模或跨模 3D 检测的准确性和鲁棒性，通过设计模态特定空间，保留体素空间并开发不同传感器的输入，实现几何感知点云和图像的上下文特征的交互，从而在 nuScenes 测试集中获得了领先的性能。

    Jun, 2022

  • UniT：统一变形器进行多模态多任务学习

    我们提出了一种名为 UniT 的统一 Transformer 模型，该模型可以同时学习不同领域中最重要的任务，从目标检测到自然语言理解和多模态推理，在编码器 - 解码器架构的基础上，通过编码器对每个输入模态进行编码，并使用共享解码器对编码的输入表示进行每个任务的预测，然后是特定于任务的输出头。我们的实验证明，在 8 个数据集上联合学习 7 个任务，使用比以前的工作更少的参数，在每个任务上都获得了强大的性能。

    Feb, 2021

  • OV-Uni3DETR: 基于循环模态传播的统一开放词汇 3D 物体检测

    OV-Uni3DETR 是一种统一的开放词汇 3D 检测器，通过循环模态传播实现，具有开放词汇的 3D 检测、模态统一、场景统一的优势，并以超过 6％的性能优势超越了现有方法，在只使用 RGB 图像的情况下性能与以前的基于点云的方法相当甚至更好。

    Mar, 2024

  • UniBEV：基于统一 BEV 编码器的多模态三维物体检测，针对缺失传感器模态的鲁棒性

    提出了 UniBEV，一个端到端多模态 3D 物体检测框架，用于解决缺失传感器输入（因突发传感器故障等原因）的鲁棒性问题，通过创建对齐的鸟瞰图特征图处理不同的输入组合，并采用加权平均融合策略提高鲁棒性

    Sep, 2023

  • FusionFormer：鸟瞰视图和时间一致 Transformer 的多感知融合用于 3D 目标

    多传感器模态融合的 FusionFormer 框架通过 transformers 混合多模态特征，获取鸟瞰图特征，并通过可灵活适应输入模态表示的深度预测分支提高相机检测任务的性能，同时提出一种基于 transformers 的即插即用的时域融合模块用于融合历史帧鸟瞰图特征，实现更稳定可靠的检测结果，通过对 nuScenes 数据集的评估，其在 3D 目标检测任务中获得了 72.6％的 mAP 和 75.1％的 NDS，优于现有的最先进方法。

    Sep, 2023

  • Uni-Perceiver: 通用感知的预训练统一架构，用于零样本和小样本任务

    使用 Uni-Perceiver 的通用感知架构进行多个任务和多个模态的统一建模和共享参数，在预训练和微调的阶段都表现出了可接受的结果和表现。

    Dec, 2021

  • Uni3DETR: 统一的三维检测 Transformer

    我们提出了 Uni3DETR，一个统一的 3D 检测器，他可以有效应对室内和室外 3D 检测的差异，并展现了在异构条件下的强大泛化能力。

    Oct, 2023

  • UniMODE：统一单目三维物体检测

    通过基于鸟瞰（BEV）检测范式的显式特征投影、经典 BEV 检测架构的拆分、不均匀的 BEV 网格设计、稀疏的 BEV 特征投影策略和统一的域对齐方法等技术，派生出了统一的检测器 UniMODE，其在挑战性的 Omni3D 数据集上超过了先前的最新技术，实现了首个 BEV 检测器对统一 3D 物体检测的成功推广。

    Feb, 2024

  • FUTR3D: 一个用于 3D 检测的统一传感器融合框架

    提出了第一个统一的端到端传感器融合框架 ——FUTR3D，使用了基于查询的通用特征采样器（MAFS）和一种集合损失的 Transformer 解码器进行 3D 检测。FUTR3D 在各种传感器组合上都得到了有效验证，并且具有在不同传感器配置下实现低成本自动驾驶的优点。

    Mar, 2022

  • Uni3DL: 三维和语言理解的统一模型

    Uni3DL 是一个统一的 3D 和语言理解模型，它运用于点云而不是传统的多视图图像，实现了对多种 3D 任务的支持，包括语义分割、目标检测、实例分割、视觉定位、3D 字幕和文本 - 3D 跨模态检索，并且在性能上超过了最先进的特定任务模型。

    Dec, 2023