Jun, 2023

面向位置感知对抗补丁的分布式建模

PDF
TL;DR本文提出了一种新的对抗补丁方法，即 Distribution-Optimized Adversarial Patch (DOPatch)，通过优化多模态对抗位置分布而不是个体位置来进行攻击，有效性和效率得到了验证。
adversarial patcheslocation-aware patchesdistribution-optimized adversarial patchquery-based attacksdistributional-modeling adversarial training
发现论文，激发创造
  • 针对优化位置的对抗性贴片的对抗训练

    提出了一种可通过物理方式应用于图像中的明显但具有对抗性的矩形贴片，并利用对抗训练的方式来增强深度神经网络对对抗贴片的鲁棒性，这种训练不会降低网络的分类准确率。

    May, 2020

  • DAP: 一种用于规避人物检测器的动态对抗贴纸

    本文提出了一种新颖的方法来生成自然的对抗性补丁，该方法不使用 GANs 并通过引入相似度指标构建相似度损失来重新定义优化问题，从而提高实际应用中的攻击效率和鲁棒性。该技术基于直接修改补丁中的像素值，可灵活地同时纳入多种变换。加入 “Creases Transformation”（CT）模块来增加对服装和物体姿态中的各种真实世界扭曲的鲁棒性，并在现场部署的智能相机的 YOLOv3tiny 检测器中展现出了优越的攻击成功率。

    May, 2023

  • DOEPatch: 动态优化的集成模型用于生成对抗图像贴片

    通过将能量引入到对抗补丁生成过程中，本文介绍了如何最小化 “人” 类别的总能量，以生成针对多个目标模型输出的对抗补丁。通过采用对抗训练，将动态优化的集成模型构建为在生成的对抗补丁能够有效攻击所有目标模型的平衡点上调整被攻击目标模型的权重参数，实现了更强的攻击潜力。

    Dec, 2023

  • PAD：面向对抗性贴纸攻击的面片无关防御

    提出了一种名为 PAD 的新颖的对抗贴纸定位和去除方法，该方法不需要先前知识或额外训练，提供了针对各种对抗贴纸的无关补丁防御，与任何预训练的物体检测器兼容。

    Apr, 2024

  • 从扩散到混淆：基于扩散模型的自然敌对图案生成用于目标检测

    提出一种基于扩散模型的新型自然对抗贴片生成方法，通过从模型中预训练的自然图片中抽样生成高质量的自然对抗贴片，达到了更好的质量和更自然的对抗贴片的生成效果。

    Jul, 2023

  • 用于逃避物体检测模型的动态对抗贴片

    该研究使用动态对抗性贴片攻击实际场景下的对象检测器，并通过生成考虑目标物品与分类之间的语义距离的贴片方法进行优化，成功地在广阔的视角范围内将 YOLOv2 对象检测器误导了 90％，并在不同汽车模型之间成功误导检测器 71％。

    Oct, 2020

  • DPatch: 物体探测器的对抗性贴片攻击

    本文提出了 DPatch，一种黑盒子对现代计算机视觉系统（如 Faster R-CNN 和 YOLO）的基于敌对的黑盒贴片攻击。与原始的敌对贴片只操纵图像级分类器不同，DPatch 同时攻击边界框回归和对象分类以禁用它们的预测，具有非常高的转移性且实践性强。

    Jun, 2018

  • 生成逼真的对抗补丁

    深度神经网络容易受到各种类型的对抗性样本的攻击，并且现有的对抗性修补方法通常生成的修补具有无意义的噪声或图案，本研究旨在生成真实视觉效果的对抗性修补以欺骗深度神经网络。通过在真实图像的邻域内限制修补的位置，优化位置的不相关性，并采用总变差损失和伽马变换以保留信息，生成的对抗性修补具有卓越的攻击性能，并且可以伪装成物理世界中的涂鸦或标志来欺骗深度模型，给深度神经网络应用带来重大威胁。

    Dec, 2023

  • 随机位置对抗性修复在视觉转换器中的应用

    通过使用类似 GAN 的结构，本文提出了一种新的方法生成对抗补丁，该补丁克服了与视觉 Transformer 进行线性投影的贴片完美对齐的约束，使得该补丁能够在视野内的任何位置发动定向攻击，并且无论是在数字环境还是在真实世界的情况下都表现出普遍攻击的有效性。

    Jul, 2023

  • 对抗相机补丁：一种有效并且稳定的物理世界目标检测攻击

    研究者正在研究深度神经网络的易受攻击性，并提出了一种新的基于相机的攻击方法，该方法引入了摄像头补丁以执行潜在的隐秘攻击，并提出了一个对抗相机补丁来解决多补丁复杂性的问题。

    Dec, 2023