Apr, 2021

CAT: 一种用于一次性目标检测的交叉注意力变换器

PDF
TL;DR本文提出了一种通用的跨注意力变换器模块来解决一次性物体检测中难以准确利用语义相似度和泛化的问题，并通过在 COCO、VOC 和 FSOD 等数据集上的大量实验表明其有效性和效率。
one-shot object detectionsemantic similarity comparisoncross-attention transformertransformer mechanismfeature dimensionality compression
发现论文，激发创造
  • CAT: 视觉 Transformer 中的交叉注意力

    探索使用 Cross Attention 机制替代传统的 self-attention 机制在计算机视觉任务中实现 Transformer 的实用性，实验表明该机制在 ImageNet-1K、COCO 和 ADE20K 等任务上可以达到先进水平，并且降低了计算量。

    Jun, 2021

  • PointCAT：点云的交叉注意力变换器

    本文提出了一种基于 Point Cross-Attention Transformer 的新型端到端网络结构，将多尺度特征通过两个不同的跨注意力变换器分支进行组合，并引入一种有效的形状分类模型，通过计算不同分支的单类标记与注意图来减少计算负担，实验表明该方法在形状分类，部分分割和语义分割任务中表现优异。

    Apr, 2023

  • 基于 Co-Attention 和 Co-Excitation 的单次物体检测

    本文提出了基于 “co-attention and co-excitation (CoAE)” 框架的一次性目标检测方法，利用无标签的 query image patch 来检测目标图像中与其同类别的所有实例，并通过非局部操作、squeeze-and-co-excitation 机制以及基于 margin 的排名损失等三个技术方面的贡献来提高模型性能。

    Nov, 2019

  • CAT-Det: 多模式三维物体检测的对比增强变换器

    提出了一种新的多模态三维物体检测方法 - CAT-Det，将深度学习和对比学习相结合，更好地利用 LiDAR 和 RGB 图像之间的互补信息来提高检测准确性。

    Apr, 2022

  • 基于全交叉变换器的小样本目标检测

    本文提出了一种新的基于 Fully Cross-Transformer 的模型 (FCT) 实现 few-shot 目标检测，通过在特征 backbone 和检测头中结合跨模块交互 attention，提高模型中不同表示层之间的相似性学习以达到更好的性能。在 PASCAL VOC 和 MSCOCO FSOD 基准测试上的实验验证了该模型的有效性。

    Mar, 2022

  • CATs: 视觉对应的成本汇聚变压器

    本研究提出一种名为 Cost Aggregation Transformers (CATs) 的新型 cost aggregation network，以解决大规模几何和出现变化情况下的图像语义相似性匹配问题，利用全局的自我注意机制消除初始相关图之间的不准确匹配，通过外观关联建模辅助 cost 聚合过程，创新地定位多级聚合模块，加入交换注意力机制和残差连接来提高性能。

    Jun, 2021

  • 语义对齐融合 transformer 用于一阶段物体检测

    研究了在数据稀缺的情况下，单次目标检测的问题，提出了一个效果良好的基于注意力机制的框架，名为 Semantic-aligned Fusion Transformer (SaFT)，采用竖直和水平融合模块实现跨尺度和跨样本特征的融合，通过语义对齐的注意力机制大幅提高性能，使得基于目前现有的数据训练的一阶段的检测基线的性能得到了显著提升。

    Mar, 2022

  • 开放世界物体检测的 LoCalization 和 IdentificAtion Cascade Detection Transformer

    本文提出了一种名为 CAT 的 LoCalization and IdentificAtion Cascade Detection Transformer，并采用自适应的伪标签机制，使其能够提高开放世界目标检测、增量目标检测和开放集检测任务的表现。

    Jan, 2023

  • XCiT: 跨协方差图像变换器

    本文介绍了基于交叉协方差矩阵的交叉协方差注意力（XCA），用于高分辨率图像的高效处理。文章基于 XCA 构建了交叉协方差图像变换器（XCiT），并在多个视觉基准测试中取得了优异的结果，包括 ImageNet-1k 上的图像分类和自监督特征学习，COCO 上的目标检测和实例分割以及 ADE20K 上的语义分割。

    Jun, 2021

  • 类别感知变压器网络用于更好的人物 - 物体交互检测

    本篇论文介绍了一种利用类别感知信息初始化对象查询提升变压器基础 HOI 检测器性能的方法，即 Category-Aware Transformer Network (CATN)，并通过验证实验和大量实验表明，该方法可以显著提高 HOI 检测器的性能，从而实现新的最先进结果。

    Apr, 2022