Dec, 2018

看见并不等于相信：针对物体检测器的实用对抗性攻击

PDF
TL;DR本研究提出了一种针对实时目标检测器的建设鲁棒且实用的 AE 系统解决方案，包括针对 HA 的 FIR 方法和 ERG 增强鲁棒性，以及针对 AA 的嵌套 AE，可攻击不同距离和角度下的检测器。实验表明，我们的 AE 系统的攻击成功率可以达到 92.4％，并且可攻击另外三种黑盒模型。
object detectorhiding attackappearing attackaerobustness
发现论文，激发创造
  • 自动驾驶车辆视觉欺骗：针对交通标志识别系统的强韧物理对抗样本

    本文提出了一种系统的流程来逆置真实世界物体探测器的健壮身体对抗性，通过扩展图像变换的分布，设计各种攻击向量和考虑各种不同的环境因素，生成的物理例外能够有效地欺骗 YOLO v5 基于 TSR 系统的其他最新物体探测器，并做出了基于图像预处理、AEs 检测和模型增强三种防御机制的讨论。

    Jan, 2022

  • 仅欺骗检测不足以：首个针对多目标跟踪的对抗攻击

    本文针对自动驾驶中的视觉感知进行了对抗机器学习攻击研究，发现了一种名为 ' 追踪器劫持 ' 的新攻击技术，并证明只需要少数几帧就能够有效地欺骗物体检测中的 MOT 模型，从而在头车中引入潜在的安全隐患。

    May, 2019

  • 制作隐形斗篷：对物体检测器的现实世界对抗攻击

    本文系统研究了对最先进目标检测框架的对抗攻击，证明了其有效性，在不同环境下针对多种检测模型具有广泛的适应性，同时研究了使用印刷海报和可穿戴衣服进行的物理攻击，并用不同的度量方法对这些攻击的性能进行详细的分析。

    Oct, 2019

  • 对抗智能意识强鲁棒性目标检测器

    本文介绍了一种基于对抗神经网络（Adversarial Neural Network）的 Robust Detector，采用了 Adversarial Image Discriminator 和 Consistent Features with Reconstruction 等方法，大大提高了在 PASCAL VOC 和 MS-COCO 数据集上物体检测模型在对抗干扰下的鲁棒性。

    Jul, 2022

  • 我不认识你，但我能够捕捉你：针对目标检测的多样对抗性补丁的实时防御

    提出了一种创新的模型 NutNet，用于检测对抗性贴片，在高泛化性、鲁棒性和效率方面表现优异。通过对六个检测器进行实验，包括 YOLOv2-v4，SSD，Faster RCNN 和 DETR 在数字和物理领域上，结果显示我们的方法可以有效防御 HA 和 AA，仅损失 0.4% 的干净性能。与四种基准防御方法进行对比，我们的方法展示了比 HA 和 AA 现有方法分别高 2.4 倍和 4.7 倍的平均防御性能。此外，NutNet 仅增加了 8% 的推理时间，可以满足检测系统的实时要求。NutNet 的演示可在 https://sites.google.com/view/nutnet 上找到。

    Jun, 2024

  • 具有层次特征隐藏的医学图像对抗性

    通过对传统医疗对抗样本的特征进行深入研究，我们发现医学影像的反应性防御机制存在缺陷，并提出一种简单而有效的层次特征约束 (HFC) 方法，通过隐藏目标特征分布中的对抗特征，更高效地绕过一系列最先进的医学对抗样本检测器，这为未来开发更强大的防御手段提供了可能性。

    Dec, 2023

  • 深度神经网络模型的对抗样本检测：回顾与实验比较

    本文主要研究了针对神经网络分类器的测试时间攻击检测方法，并在不同数据集和场景下提供了八种最先进的检测器的实验结果，为此研究方向提供了挑战和未来的展望。

    May, 2021

  • 针对恶劣可视条件下跨领域目标检测的对抗防御教师

    现有的目标检测器在处理训练和真实世界数据之间的领域转变方面面临挑战，尤其是在雾天和夜晚等低能见度条件下。我们提出了一种名为 Adversarial Defense Teacher（ADT）的简单而有效的框架，通过利用对抗性防御来提高教学质量，并通过 Zoom-in Zoom-out 策略解决低能见度条件下的小目标问题。我们的结果表明，ADT 在 Foggy Cityscapes 上达到了 54.5％的 mAP，超过了先前的最先进技术 2.6％的 mAP。

    Mar, 2024

  • 深度神经网络的图像边界上的不可察觉对抗攻击

    通过系统性攻击图像边界提出的一种不可察觉的对抗性攻击方法，有效攻击了六个 CNN 模型和 Vision Transformers，仅使用图像边界的 32% 作为输入，成功率达到 95.2%，峰值信噪比为 41.37 dB，借此可以更深入地理解对抗性样本，并给出了构造对抗性样本的不同视角。

    Aug, 2023

  • 对抗检测：实时攻击目标检测

    本研究提出了第一种实时在线攻击物体检测模型的方法，通过构造虚假物品边界框等三种攻击方式对物体检测模型进行攻击，成功率高达 90％，适用于动态环境中，并提供了演示视频。

    Sep, 2022