CVPRMar, 2022

DN-DETR: 引入查询去噪以加速 DETR 训练

PDF
TL;DR本文提出了一种新颖的去噪训练方法，旨在加快 DETR 训练的速度并深入了解 DETR-like 方法的收敛速度缓慢的问题。除使用匈牙利损失外，本文的方法还使用含噪声的 ground-truth 边界框来训练模型，以有效降低二分图匹配难度并实现更快的收敛。该方法适用于任何 DETR-like 方法，只需添加几十行代码即可实现显着改进。与同样设定下的基准相比，DN-DETR 实现了可比的性能，且仅需训练的 50％。
发现论文，激发创造
  • 通过语义对齐匹配加速 DETR 收敛

    SAM-DETR 通过解决不同特征嵌入空间中对象查询与目标特征匹配的复杂性问题，实现了语义对齐匹配，加速了收敛速度并提高了检测精度。

    Mar, 2022

  • 增强 DETR 收敛和多尺度特征融合的语义对齐匹配

    本文提出 Semantic-Aligned-Matching DETR++（SAM-DETR++）算法，通过在同一特征嵌入空间中投影对象查询和编码图像特征以便更容易地匹配具有类似语义的对象。此算法有效地融合了多尺度特征，加速了 DETR 的收敛速度并提高了检测精度，拥有成为现有 DETR 收敛解决方案完美补充的潜力。

    Jul, 2022

  • 使用 Transformer 进行端到端的目标检测

    该研究提出了一种新方法，将目标检测作为直接集合预测问题进行处理，主要采用基于集合的全局损失和 Transformer 编码器 - 解码器架构构建 DETR 模型，能够高效地完成目标检测和全景分割任务，相较于许多现代检测器，DETR 模型概念简单且不需要专门的库。

    May, 2020

  • 快速训练收敛的条件 DETR

    该论文介绍了一种条件交叉注意力机制，名为条件 DETR，以应对目标检测中 DETR 训练速度较慢的问题，并通过实验证明，相较于传统的 DETR，条件 DETR 在训练速度上提升了 10 倍，并可通过 https 链接获取源代码。

    Aug, 2021

  • DINO: 改进去噪锚框的端到端物体检测 DET-BR

    本文介绍了 DINO（带有改进去噪技术和锚框选择方法的 DETR 模型），是一种最先进的端到端对象检测器，通过使用对比方式的去噪训练、混合查询选择方法的锚初始化以及两次向前的方案了来改进 DETR 模型，该模型使用 ResNet-50 的主干和多尺度特征，在 COCO 数据集上的 12 个时期达到 49.4AP，69.3% val mAP (63.3AP & 63.2AP)，并且可以很好地扩展到模型大小和数据集大小。

    Mar, 2022

  • Q-DETR: 一种高效的低位量化检测 Transformer

    本文针对量化后检测转换器（Q-DETR）信息失真问题提出分布矫正蒸馏方法（DRD），该方法可优化查询分布使熵最大化，在上层引入前景感知查询匹配策略最小化条件熵。实验表明，该方法在 COCO 数据集上，4-bit Q-DETR 可加速与 ResNet-50 骨干网一起使用的 DETR，速度提高 6.6 倍，AP 值达到 39.4％，性能仅存在 2.6％的差距。

    Apr, 2023

  • Deformable DETR：可变形 Transformer 完整目标检测

    Deformable DETR 提出了一种改进的 Transformer 注意力模块，只关注于围绕参考点的一小集采样点，能够更好地实现物体检测，尤其是在小物体上，并在 COCO 基准测试上得到了有效的实验结果。

    Oct, 2020

  • OD-DETR：用于稳定检测转换器训练的在线蒸馏

    该论文介绍了一种使用在线蒸馏方法来稳定 DEtection TRansformer（DETR）训练的方法，通过利用教师模型引导学生模型的学习，在匹配关系、初值约束和辅助组三个方面进行知识蒸馏，成功稳定训练并显著提高性能。

    Jun, 2024

  • 具有稳定匹配的检测变压器

    探讨 DETR 中跨不同解码器层次的匹配稳定性问题，提出使用位置度量监督正样本的分类得分和集成位置度量到 DETR 的分类损失和匹配代价中的两种方法，并在 COCO 检测基准测试中验证其有效性。

    Apr, 2023

  • DETR 在实时目标检测中击败了 YOLO

    本文提出了第一款实时端到端物体检测器 ——Real-Time DEtection TRansformer（RT-DETR），支持灵活调整推理速度且在速度和准确度上均优于同一规模的 YOLO 检测器以及 DINO-Deformable-DETR-R50 模型，采用了高效的混合编码器处理多尺度特征并提出 IoU 感知的查询选择。

    Apr, 2023