最近的研究表明，深度神经网络对于对抗性攻击很容易受到攻击，而精心训练的样本或补丁可以欺骗神经网络检测器或人类视觉感知。为了解决这个问题，本文提出了一种名为潜在扩散补丁（LDP）的新型对抗性补丁方法，首先设计了一个预训练的编码器将自然图像压缩到具有关键特征的特征空间，然后使用上述特征空间训练扩散模型，最后通过图像去噪技术探索预训练扩散模型的潜在空间，通过扩散模型的强大的自然能力对补丁和图像进行改进，使它们更容易被人类视觉系统接受。实验结果在数字和物理世界中均表明，LDP 在视觉主观评分上达到了 87.3％，同时仍然保持有效的攻击能力。

Dec, 2023

该研究提出一种基于生成对抗网络（GAN）图像流形和物理世界的无梯度攻击方法，用于生成自然物理的对抗贴片以欺骗对目标物体检测器的分类。结果表明，该方法在数字和物理场景下均有效。

Mar, 2023

通过将能量引入到对抗补丁生成过程中，本文介绍了如何最小化 “人” 类别的总能量，以生成针对多个目标模型输出的对抗补丁。通过采用对抗训练，将动态优化的集成模型构建为在生成的对抗补丁能够有效攻击所有目标模型的平衡点上调整被攻击目标模型的权重参数，实现了更强的攻击潜力。

Dec, 2023

介绍了 DIFFender，这是一种新的防御方法，利用预训练的扩散模型对潜在的对抗补丁攻击进行本地化和防御。

Jun, 2023

通过发现深度神经网络模型仍能保持预测能力，即使有意删除其对人类视觉系统至关重要的稳健特征，我们识别出了一种名为 “自然去噪扩散攻击（NDD）” 的新型攻击。该攻击能够以低成本并且与模型无关、可转换为对抗性攻击，并利用扩散模型中的自然攻击能力。我们构建了一个大规模数据集 “自然去噪扩散攻击（NDDA）数据集”，来系统评估最新的文本 - 图像扩散模型的自然攻击能力的风险。我们通过回答 6 个研究问题来评估自然攻击能力，并通过用户研究证实了 NDD 攻击的有效性，发现 NDD 攻击能够实现 88% 的检测率，同时对 93% 的被试者具有隐蔽性。我们还发现，扩散模型嵌入的非稳健特征对于自然攻击能力起到了贡献作用。为了证明攻击的模型无关性和可转换性，我们对一辆自动驾驶汽车进行了 NDD 攻击，发现 73% 的物理打印的攻击能够被识别为停止标志。希望我们的研究和数据集能够帮助社区意识到扩散模型的风险，并促进更多关于强大深度神经网络模型的研究。

Aug, 2023

本文提出了一种新颖的方法来生成自然的对抗性补丁，该方法不使用 GANs 并通过引入相似度指标构建相似度损失来重新定义优化问题，从而提高实际应用中的攻击效率和鲁棒性。该技术基于直接修改补丁中的像素值，可灵活地同时纳入多种变换。加入 “Creases Transformation”（CT）模块来增加对服装和物体姿态中的各种真实世界扭曲的鲁棒性，并在现场部署的智能相机的 YOLOv3tiny 检测器中展现出了优越的攻击成功率。

May, 2023

本研究提出了一种基于扩散贴片攻击方法（DPAttack）的物体检测对抗攻击，通过对小部分像素进行扰动，成功地欺骗了大多数物体检测器，并在 Alibaba-Tsinghua 对抗性目标检测挑战中获得了第二名。

Oct, 2020

本文旨在了解人们无法将由扩散模型产生的合成图像与原始图像区分开来的难度，并研究当前的最先进检测器是否适用于此任务。

Nov, 2022

该研究使用动态对抗性贴片攻击实际场景下的对象检测器，并通过生成考虑目标物品与分类之间的语义距离的贴片方法进行优化，成功地在广阔的视角范围内将 YOLOv2 对象检测器误导了 90％，并在不同汽车模型之间成功误导检测器 71％。

Oct, 2020

我们分析了攻击技术并提出了一种强大的防御方法，通过利用对象的形状、纹理和位置，成功降低了 20% 以上的模型置信度。利用修复预处理技术，有效地恢复了原始的置信水平，展示了强大防御在减轻这些威胁中的重要性。我们的修复防御方法在仿真像素化的基于补丁的物理对抗攻击中显著提高了模型的韧性，实现了高精度和可靠的定位，尽管受到了对抗性攻击。这项工作推动了对抗挑战中对象检测和分类网络的韧性和可靠性的发展，并为关键应用提供了强大的基础。

Mar, 2024