Oct, 2020

物体隐藏器：面向物体检测器的对抗性贴片攻击

PDF
TL;DR该研究关注深度神经网络的安全性问题，着重研究针对目标检测算法的对抗攻击方法，通过生成特定的对抗补丁实现攻击，提出的两种算法均可有效地、通用地攻击最新的目标检测模型。此外，参加了阿里巴巴的天池对抗挑战，并在 1701 对抗团队中获得了前七名。
deep neural networksadversarial examplesobject detection algorithmsadversarial patchesalibaba adversarial challenge
发现论文，激发创造
  • DPAttack：一种针对通用物体检测的扩散贴片攻击

    本研究提出了一种基于扩散贴片攻击方法（DPAttack）的物体检测对抗攻击，通过对小部分像素进行扰动，成功地欺骗了大多数物体检测器，并在 Alibaba-Tsinghua 对抗性目标检测挑战中获得了第二名。

    Oct, 2020

  • 用于逃避物体检测模型的动态对抗贴片

    该研究使用动态对抗性贴片攻击实际场景下的对象检测器，并通过生成考虑目标物品与分类之间的语义距离的贴片方法进行优化，成功地在广阔的视角范围内将 YOLOv2 对象检测器误导了 90％，并在不同汽车模型之间成功误导检测器 71％。

    Oct, 2020

  • 提高目标检测和分类 AI 模型对抗性贴纸攻击的鲁棒性

    我们分析了攻击技术并提出了一种强大的防御方法，通过利用对象的形状、纹理和位置，成功降低了 20% 以上的模型置信度。利用修复预处理技术，有效地恢复了原始的置信水平，展示了强大防御在减轻这些威胁中的重要性。我们的修复防御方法在仿真像素化的基于补丁的物理对抗攻击中显著提高了模型的韧性，实现了高精度和可靠的定位，尽管受到了对抗性攻击。这项工作推动了对抗挑战中对象检测和分类网络的韧性和可靠性的发展，并为关键应用提供了强大的基础。

    Mar, 2024

  • 欺骗自动监控摄像机：对抗性贴片攻击人员检测

    本文介绍了一种针对具有高度内类变异的待攻击目标，即人体，生成对抗贴片的方法，并且通过实验表明，我们的系统能显著降低人体检测器的准确性，同时还在实际场景中能够进行攻击。

    Apr, 2019

  • 对抗相机补丁：一种有效并且稳定的物理世界目标检测攻击

    研究者正在研究深度神经网络的易受攻击性，并提出了一种新的基于相机的攻击方法，该方法引入了摄像头补丁以执行潜在的隐秘攻击，并提出了一个对抗相机补丁来解决多补丁复杂性的问题。

    Dec, 2023

  • DPatch: 物体探测器的对抗性贴片攻击

    本文提出了 DPatch，一种黑盒子对现代计算机视觉系统（如 Faster R-CNN 和 YOLO）的基于敌对的黑盒贴片攻击。与原始的敌对贴片只操纵图像级分类器不同，DPatch 同时攻击边界框回归和对象分类以禁用它们的预测，具有非常高的转移性且实践性强。

    Jun, 2018

  • 关于物理对抗贴片在物体检测中的应用

    本文提出了一种物理性的对抗攻击方法，能够通过拼贴一个合理设计的补丁扰乱 YOLOv3 检测器的识别结果，避免误判或漏检目标，从而在不需要修改场景中的物体的情况下，对目标检测系统进行攻击。

    Jun, 2019

  • 针对优化位置的对抗性贴片的对抗训练

    提出了一种可通过物理方式应用于图像中的明显但具有对抗性的矩形贴片，并利用对抗训练的方式来增强深度神经网络对对抗贴片的鲁棒性，这种训练不会降低网络的分类准确率。

    May, 2020

  • 关于使用对抗性贴纸攻击目标检测器的注记

    本研究基于对已有测试结果的分析，设计一种算法，可以产生压缩后的贴纸状实体对检测器进行攻击，从而证明当前最新的物体检测算法仍然容易受到物理对抗样本的影响。

    Dec, 2017

  • 隐形的贴片：自然黑盒对目标检测器的敌对攻击

    该研究提出一种基于生成对抗网络（GAN）图像流形和物理世界的无梯度攻击方法，用于生成自然物理的对抗贴片以欺骗对目标物体检测器的分类。结果表明，该方法在数字和物理场景下均有效。

    Mar, 2023