我们提出了一种名为 DQ-DETR 的简单而有效的模型，其中包括三个不同的组件：分类计数模块、计数引导的特征增强和动态查询选择，以解决 DET-R 类型方法在检测微小对象方面的挑战。DQ-DETR 使用分类计数模块的预测和密度图动态调整物体查询的数量，并改善查询的位置信息。我们的模型 DQ-DETR 在以微小对象为主的 AI-TOD-V2 数据集上实现了 30.2% 的最优 mAP，优于以前基于 CNN 和 DET-R 类型方法的性能。

Apr, 2024

本文提出一种自适应查询生成方法（RAQG），通过设计排名预测和自适应选择方法，使得 DETRs 在不同拥挤场景中能够自适应生成查询，并在 Crowdhuman 数据集和 Citypersons 数据集上取得了有竞争力的结果，特别是在 Crowdhuman 数据集上达到了 39.4% 的最佳 MR。

Oct, 2023

引入一种基于等级的 DETR 目标检测器 Rank-DETR，通过一系列等级化设计，包括等级化架构设计和损失函数设计，提高了准确性和定位精度，并成功应用于最新的 SOTA 方法，展示了其有效性。

Oct, 2023

本研究针对小物体检测中 RT-DETR 模型的准确性不足提出了两个关键改进：首先，引入细粒度路径增强方法以提供更多详细信息来精确定位小物体；其次，采用自适应特征融合算法来有效整合不同尺度的特征信息，从而提高模型对不同尺度目标的检测准确率。

Jan, 2024

基于 Transformer 的目标检测器 (DETR) 在机器视觉任务中表现出显著性能，但其在处理遮挡和对抗扰动等不同图像干扰方面存在问题。我们通过多种实验和将 DETR 与基于卷积神经网络 (CNN) 的检测器（如 YOLO 和 Faster-RCNN）进行基准测试来研究这个问题。我们发现 DETR 在处理遮挡图像的信息丢失干扰方面表现良好。然而，在涂有对抗标记的图像上，网络需要产生一组新的不必要的键、查询和值，导致网络方向错误。与图像损坏基准测试中 YOLOv5 相比，DETR 的性能也较差。此外，我们发现 DETR 在进行预测时严重依赖于主要查询，导致查询之间的贡献不平衡，因为主要查询接收大部分梯度流。

Oct, 2023

该研究提出了一种新方法，将目标检测作为直接集合预测问题进行处理，主要采用基于集合的全局损失和 Transformer 编码器 - 解码器架构构建 DETR 模型，能够高效地完成目标检测和全景分割任务，相较于许多现代检测器，DETR 模型概念简单且不需要专门的库。

May, 2020

Diffusion Transformers (DiTs) are improved by Hybrid Floating-point Quantization (HQ-DiT), a post-training quantization method utilizing 4-bit floating-point precision on both weights and activations, resulting in low-precision quantization with minimal impact on performance.

May, 2024

本文提出了一种新颖的去噪训练方法，旨在加快 DETR 训练的速度并深入了解 DETR-like 方法的收敛速度缓慢的问题。除使用匈牙利损失外，本文的方法还使用含噪声的 ground-truth 边界框来训练模型，以有效降低二分图匹配难度并实现更快的收敛。该方法适用于任何 DETR-like 方法，只需添加几十行代码即可实现显着改进。与同样设定下的基准相比，DN-DETR 实现了可比的性能，且仅需训练的 50％。

Mar, 2022

Q-DiT 是一种结合了精细化量化、自动搜索策略和动态激活量化的方法，用于处理 Diffusion Transformer（DiT）模型中的权重和激活的巨大变化，以实现高效、高质量的量化和图像生成。

Jun, 2024

本文提出了第一款实时端到端物体检测器 ——Real-Time DEtection TRansformer（RT-DETR），支持灵活调整推理速度且在速度和准确度上均优于同一规模的 YOLO 检测器以及 DINO-Deformable-DETR-R50 模型，采用了高效的混合编码器处理多尺度特征并提出 IoU 感知的查询选择。

Apr, 2023