Jan, 2024

基于时空多模态标记的 Transformer RGBT 跟踪

PDF
TL;DR提出了一种新颖的 Transformer RGBT 跟踪方法，通过融合静态多模态模板和多模态搜索区域中的时空多模态令牌来处理目标外观变化，以实现鲁棒的 RGBT 跟踪，并通过注意机制增强多模态模板令牌的目标特征，从而促进多模态增强的目标变化信息的传递。该方法在三个 RGBT 基准数据集上的实验证明了与其他最先进的跟踪算法相比具有竞争力的性能，帧率可达 39.1。
rgbt trackingtarget appearance changestransformermultimodal tokensattention mechanisms
发现论文，激发创造
  • 基于混合注意力的 RGB-T 跟踪

    本文提出了一种基于混合注意机制的 RGB-T 追踪器 (MACFT)，该追踪器在特征提取和特征融合阶段分别利用不同的转换器骨干支路和混合注意操作实现多模式适应性融合，有效提高了 RGB-T 追踪的鲁棒性和适用性。

    Apr, 2023

  • 具有模态提示的时间自适应 RGBT 跟踪

    提出了一种新型的时域自适应 RGBT 跟踪框架 TATrack，该框架通过在线更新模板和跨模式交互，综合利用时空信息和多模态信息进行目标定位，并在三个常用 RGBT 跟踪基准上取得了最先进的性能。

    Jan, 2024

  • 高效 RGB-T 跟踪的统一单级 Transformer 网络

    我们提出了一个统一的单阶段 Transformer RGB-T 跟踪网络，名为 USTrack，它通过自注意机制将上述三个阶段统一到一个 ViT（Vision Transformer）主干中，并利用模态之间的相互作用提取融合特征，增强预测的目标 - 背景区分度，同时通过模态可靠性的特征选择机制改善跟踪性能。通过在三个流行的 RGB-T 跟踪基准上进行广泛实验，证明我们的方法在保持最快推理速度 84.2FPS 的同时，实现了新的最先进性能，特别是在 VTUAV 数据集的短期和长期子集上，MPR/MSR 分别增加了 11.1% 和 11.3%。

    Aug, 2023

  • 基于 Transformer 的 RGB-T 跟踪及通道和空间特征融合

    RGB-T 跟踪中，如何更好地融合跨模态特征是核心问题。本文利用直接融合跨模态通道与空间特征的方法，提出了 CSTNet，使用 ViT 作为主干，并插入了跨模态通道特征融合模块和跨模态空间特征融合模块，实现了 RGB 和 TIR 特征的直接交互。通过综合实验，CSTNet 在三个公共 RGB-T 跟踪基准上取得了最好的性能。

    May, 2024

  • 基于多模态互相提示学习的 RGB-T 跟踪

    基于可见光和热红外图像融合的目标跟踪，称为 RGB-T 跟踪，在计算成本较低的情况下如何实现两种模态信息更全面的融合一直是研究人员探索的问题。最近，随着计算机视觉中即时学习的兴起，我们可以更好地将知识从视觉大模型转移到下游任务中。考虑到可见光和热红外模态之间的强互补性，我们提出了一种基于两种模态之间相互即时学习的跟踪架构。我们还设计了一个轻量级的即时学习器，在骨干网络的每一层中嵌入了二维注意机制，以低计算成本将信息从一种模态转移到另一种模态中。广泛的实验证明，我们提出的跟踪架构既有效又高效，在保持高运行速度的同时实现了最先进的性能。

    Aug, 2023

  • 视觉跟踪的鲁棒物体建模

    提出了一种鲁棒的目标建模框架（ROMTrack），同时对固有模板和混合模板特征进行建模，通过结合目标对象的固有特征和搜索区域的引导来抑制有害干扰物，并使用混合模板提取与目标相关的特征，从而实现更强大的目标建模框架。

    Aug, 2023

  • 联合建模动态与外观线索，实现鲁棒的 RGB-T 跟踪

    提出了一种通过联合建模外观和运动线索的新型 RGB-T 跟踪框架，利用先进的融合方法并引入跟踪切换机制使其性能显著优于其他同类算法。

    Jul, 2020

  • 多适配器 RGBT 跟踪

    该论文提出一种多适配器卷积网络（MANet），用于 RGBT 跟踪中的模态共享、模态特定和实例感知特征学习，以及采用并行结构的适配器以减少计算复杂度，与其他 RGB 和 RGBT 跟踪算法相比表现出杰出的性能。

    Jul, 2019

  • 多模态融合的端到端 RGB-T 跟踪

    提出了一种融合红外和可见光图像的端到端相似跟踪框架，这个框架通过特征级别的融合机制，在特征提取、目标估计网络和分类器三个主要部件中提高了单模态组件的表现表现，并在 VOT-RGBT2019 数据集上获得了 0.391 的准确率，进而取得 RGBT210 数据集的最佳表现。

    Aug, 2019

  • 学习面向目标的双重注意力，实现 RGB-T 跟踪的稳健性

    本文提出了两种用于 RGB-T 目标跟踪的视觉关注机制，其中包括利用 RGB 和热感数据的局部关注和多模态目标驱动关注估计网络的全局关注。在两个 RGB-T 基准数据集上的实验验证了我们提出算法的有效性。

    Aug, 2019