生成逼真的对抗补丁

Dec, 2023

Generating Visually Realistic Adversarial Patch

Xiaosen Wang, Kunyu Wang

TL;DR深度神经网络容易受到各种类型的对抗性样本的攻击，并且现有的对抗性修补方法通常生成的修补具有无意义的噪声或图案，本研究旨在生成真实视觉效果的对抗性修补以欺骗深度神经网络。通过在真实图像的邻域内限制修补的位置，优化位置的不相关性，并采用总变差损失和伽马变换以保留信息，生成的对抗性修补具有卓越的攻击性能，并且可以伪装成物理世界中的涂鸦或标志来欺骗深度模型，给深度神经网络应用带来重大威胁。

Abstract

deep neural networks (DNNs) are vulnerable to various types of adversarial examples, bringing huge threats to security-critical applications. Among these, adversarial patches have drawn increasing attention due t

deep neural networks adversarial examples adversarial patches visual realism attack performance

发现论文，激发创造

针对优化位置的对抗性贴片的对抗训练

提出了一种可通过物理方式应用于图像中的明显但具有对抗性的矩形贴片，并利用对抗训练的方式来增强深度神经网络对对抗贴片的鲁棒性，这种训练不会降低网络的分类准确率。

May, 2020

随机位置对抗性修复在视觉转换器中的应用

通过使用类似 GAN 的结构，本文提出了一种新的方法生成对抗补丁，该补丁克服了与视觉 Transformer 进行线性投影的贴片完美对齐的约束，使得该补丁能够在视野内的任何位置发动定向攻击，并且无论是在数字环境还是在真实世界的情况下都表现出普遍攻击的有效性。

Jul, 2023

通过视觉关系提升对抗性贴片的跨任务可转移性

本文提出了一种名为 VRAP 的新型视觉关系型跨任务对抗补丁生成方法，通过场景图将基于对象识别的欺骗与基于谓词关系的排除相结合，从而破坏推理任务间共享的视觉推理信息，证明了 VRAP 在跨不同视觉推理任务的黑盒传递中具有显着优势。

Apr, 2023

DAP: 一种用于规避人物检测器的动态对抗贴纸

本文提出了一种新颖的方法来生成自然的对抗性补丁，该方法不使用 GANs 并通过引入相似度指标构建相似度损失来重新定义优化问题，从而提高实际应用中的攻击效率和鲁棒性。该技术基于直接修改补丁中的像素值，可灵活地同时纳入多种变换。加入 “Creases Transformation”（CT）模块来增加对服装和物体姿态中的各种真实世界扭曲的鲁棒性，并在现场部署的智能相机的 YOLOv3tiny 检测器中展现出了优越的攻击成功率。

May, 2023

REAP：大规模真实对抗贴片基准测试

该研究提出了一个数字基准 (REAP) 使用户能够在实际图像及真实情况下评估补丁攻击，通过实验证明补丁攻击可能比以前认为的威胁较小，而在简单的数字模拟下的攻击成功率并不预测其在实践中的实际效果。

Dec, 2022

用于欺骗移动设备图像识别系统的不显眼的对抗性贴片

本文提出了一种生成难以察觉的对抗性贴片的方法，通过利用多尺度生成器和辨别器粗粒度到细粒度地生成对抗贴片，并在对抗训练中使其保持一致性，从而在白盒设置中展示强大的攻击能力和在黑盒设置中的卓越可转移性。与其他对抗性贴片相比，我们的对抗性贴片具有最小的被检测风险并可以逃避人类观察，这得到了显著实验结果的支持。

Jun, 2021

MVPatch：物理世界中针对目标检测器的更生动伪装攻击

提出了一种新颖的方法，名为 MVPatch，旨在提高对抗性贴片的转移性和隐蔽性，避免易于识别和传输性差的问题。该方法通过使用集成攻击损失函数来降低多个对象检测器的对象置信度分数，从而增强对抗性贴片的转移性，同时使用 CSS 损失函数实现轻量级的视觉相似度测量算法，使得生成的对抗性贴片具有更加自然和隐蔽的外观。广泛的实验表明，与类似算法相比，所提出的 MVPatch 算法在数字和实际领域中都实现了更强的攻击转移性，并展现出更加自然的外观。这些发现强调了所提出的 MVPatch 攻击算法的显著隐蔽性和转移性。

Dec, 2023

高效决策型黑盒补丁攻击

本文提出了一种增强的基于对抗样本攻击方式，并探索了不依赖于网络输出数量的决策性基于修补程序的攻击方法，使用称为 DevoPatch 的差分进化算法。实验证明 DevoPatch 优于现有方法，在给定查询预算内攻击成功率更高。

Jul, 2023

对抗相机补丁：一种有效并且稳定的物理世界目标检测攻击

研究者正在研究深度神经网络的易受攻击性，并提出了一种新的基于相机的攻击方法，该方法引入了摄像头补丁以执行潜在的隐秘攻击，并提出了一个对抗相机补丁来解决多补丁复杂性的问题。

Dec, 2023

提高目标检测和分类 AI 模型对抗性贴纸攻击的鲁棒性

我们分析了攻击技术并提出了一种强大的防御方法，通过利用对象的形状、纹理和位置，成功降低了 20% 以上的模型置信度。利用修复预处理技术，有效地恢复了原始的置信水平，展示了强大防御在减轻这些威胁中的重要性。我们的修复防御方法在仿真像素化的基于补丁的物理对抗攻击中显著提高了模型的韧性，实现了高精度和可靠的定位，尽管受到了对抗性攻击。这项工作推动了对抗挑战中对象检测和分类网络的韧性和可靠性的发展，并为关键应用提供了强大的基础。

Mar, 2024