强化变压器追踪器对抗攻击的可复现性研究

Jun, 2024

强化变压器追踪器对抗攻击的可复现性研究

Reproducibility Study on Adversarial Attacks Against Robust Transformer Trackers

Fatemeh Nourilenjan Nokabadi, Jean-François Lalonde, Christian Gagné

TL;DR新的 Transformer 跟踪器在最新的基准测试上表现出高效能，该研究关注于理解 Transformer 跟踪器在对抗性攻击中的行为以及各种攻击方法在参数变化时对跟踪数据集的表现。我们的实证研究发现，攻击干扰的程度和攻击干扰的稀疏性可能在不同干扰级别的变化下保持稳定。通过对所有 Transformer 跟踪器应用特定攻击，我们展示了具有更强交叉注意建模的新 Transformer 跟踪器在跟踪数据集上具有更强的对抗鲁棒性。同时，我们的研究结果也表明需要新的攻击方法来有效应对最新类型的 Transformer 跟踪器。

Abstract

New transformer networks have been integrated into object tracking pipelines and have demonstrated strong performance on the latest benchmarks. This paper focuses on understanding how transformer trackers behave

transformer trackers adversarial attacks object tracking perturbations cross-attention modeling

发现论文，激发创造

基于 Transformer 的对抗攻击在安全领域中的有效性

评估了变压器对系统防御者的恶意样本的强健性以及对系统攻击者的对抗性样本的可迁移性，发现变压器所生成的对抗样本具有最高的可迁移率，对其他模型具有更强的对抗性，强调了研究在安全领域中使用变压器架构进行攻击和防御的重要性，并建议将其作为转移攻击设置中的主要架构。

Oct, 2023

Vision Transformers 对抗样本的鲁棒性

本文研究了 Vision Transformers 在对抗性样本方面的鲁棒性，分析了其与 CNNs 在攻击和安全方面的不同，并提出了一个简单的混合防御方案以提高鲁棒性和准确性。

Mar, 2021

对抗攻击下的稳健跟踪

本文提出了一种基于视频序列的对抗攻击和防御方法，通过考虑时间运动并生成轻量级扰动，有效提高了深度跟踪算法的鲁棒性，结果表明该方法不仅能消除对抗攻击带来的大幅性能下降，同时在未受到攻击时也能获得额外的性能增益。

Jul, 2020

TransTrack：基于 Transformer 的多目标跟踪

本文提出了 TransTrack，该方法利用 Transformer 架构解决多目标跟踪问题，采用对象特征作为当前帧的查询并引入一组学习对象查询以检测新对象，通过实现单次检测和跟踪建立了新的联合检测和跟踪范例，在 MOT17 和 MOT20 基准测试中达到了 74.5％和 64.5％的 MOTA，是一种优秀的多目标跟踪方法。

Dec, 2020

关于骨干网络对于目标检测器对抗鲁棒性的重要性

本文提出一种基于对抗预训练的简单而有效的配方，用于提高目标检测器的对抗鲁棒性，并探索不同的现代目标检测器提高对抗鲁棒性的潜力，为该领域设定了一个新的里程碑和加深了人们对鲁棒目标检测的理解。

May, 2023

基于 Transformer 的恶意软件检测器的对抗性攻击

探究基于机器学习的恶意软件检测模型的安全性，使用 Transformers-based 恶意软件检测器进行对抗攻击，提出防御策略，将错误分类率降至一半。

Oct, 2022

利用数据增强技术增强基于 Transformer 的跟踪模型

通过系统实验，揭示了现有的常见策略对基于 Transformer 的目标跟踪器的有限效果，提出了两种自定义的数据增强方法，并在两个基于 Transformer 的跟踪器和六个基准测试中证明了这些方法的有效性和数据效率。

Sep, 2023

LRR: 基于语言驱动的可重采样连续表示抵抗对抗追踪攻击

通过使用感兴趣物体的语义文本指导，建立空间 - 时间连续表示，该方法能够在清晰和对抗数据上实现高准确性，有效抵御不同的 SOTA 对抗跟踪攻击。

Apr, 2024

SPARK：面向视觉跟踪的空间感知在线增量攻击

通过研究在线视频目标跟踪，本文提出了一种新的对抗攻击任务：在线生成微小扰动来误导跟踪器沿指定或不正确的轨迹跟踪目标。为了应对这一挑战，提出了一种基于稀疏性的增量攻击方法 SPARK，该方法在多个基准跟踪器上均能有效地误导跟踪器并且具有较强的可迁移性。

Oct, 2019

关于视觉 Transformer 的对抗鲁棒性

本文对视觉 Transformer（ViT）的抗干扰性进行了全面的研究，发现相比于 MLP-Mixer 和卷积神经网络（CNNs），ViTs 拥有更好的对抗性鲁棒性。经过频率分析和特征可视化，发现 ViTs 所学习的特征中包含的高频模式较少，这有助于解释为什么 ViTs 对高频扰动较不敏感，并且现代 CNN 设计可以帮助填补 ViTs 和 CNNs 表现的差距。

Mar, 2021