Mar, 2024

具身主动防御：利用循环反馈对抗对抗性补丁

PDF
TL;DR通过活跃的感知和反馈机制，Embodied Active Defense（EAD）开发了一种主动的防御策略，积极地上下文化环境信息来解决 3D 实际环境中的对抗修补问题，提高模型的鲁棒性。
deep neural networksadversarial patchesembodied active defenseactive visionadversarial attacks
发现论文，激发创造
  • 体现式对抗攻击：自主驾驶中的动态鲁棒物理攻击

    提出了一种全新的物理对抗攻击框架：具身对抗攻击（Embodied Adversarial Attack），通过感知 - 决策 - 控制的具身智能范式，实时动态调整最佳攻击策略以提高现实世界中物理对抗攻击的鲁棒性，特别适用于自动驾驶等复杂场景。

    Dec, 2023

  • RADAP：一种面向人脸识别的稳健自适应防御对抗性贴片

    本文提出了 RADAP，它是一种针对封闭集和开放集人脸识别系统中各种对抗补丁的强大而适应性的防御机制。RADAP 采用创新技术，如 FCutout 和 F-patch，利用傅里叶空间采样掩蔽来提高人脸识别模型的遮挡鲁棒性和补丁分割器的性能。此外，我们引入了边缘感知的二进制交叉熵（EBCE）损失函数来提高补丁检测的准确性。同时，我们还提出了一种名为分割与填充（SAF）的策略，用于对抗补丁分割器受到的完全白盒自适应攻击的漏洞。我们进行了全面的实验证明了 RADAP 的有效性，它在防御各种对抗补丁的性能方面取得了显著的改进，同时保持了干净准确性高于未防御的 Vanilla 模型。

    Nov, 2023

  • DOEPatch: 动态优化的集成模型用于生成对抗图像贴片

    通过将能量引入到对抗补丁生成过程中，本文介绍了如何最小化 “人” 类别的总能量，以生成针对多个目标模型输出的对抗补丁。通过采用对抗训练，将动态优化的集成模型构建为在生成的对抗补丁能够有效攻击所有目标模型的平衡点上调整被攻击目标模型的权重参数，实现了更强的攻击潜力。

    Dec, 2023

  • 用于逃避物体检测模型的动态对抗贴片

    该研究使用动态对抗性贴片攻击实际场景下的对象检测器，并通过生成考虑目标物品与分类之间的语义距离的贴片方法进行优化，成功地在广阔的视角范围内将 YOLOv2 对象检测器误导了 90％，并在不同汽车模型之间成功误导检测器 71％。

    Oct, 2020

  • 对抗相机补丁：一种有效并且稳定的物理世界目标检测攻击

    研究者正在研究深度神经网络的易受攻击性，并提出了一种新的基于相机的攻击方法，该方法引入了摄像头补丁以执行潜在的隐秘攻击，并提出了一个对抗相机补丁来解决多补丁复杂性的问题。

    Dec, 2023

  • DAP: 一种用于规避人物检测器的动态对抗贴纸

    本文提出了一种新颖的方法来生成自然的对抗性补丁，该方法不使用 GANs 并通过引入相似度指标构建相似度损失来重新定义优化问题，从而提高实际应用中的攻击效率和鲁棒性。该技术基于直接修改补丁中的像素值，可灵活地同时纳入多种变换。加入 “Creases Transformation”（CT）模块来增加对服装和物体姿态中的各种真实世界扭曲的鲁棒性，并在现场部署的智能相机的 YOLOv3tiny 检测器中展现出了优越的攻击成功率。

    May, 2023

  • 架构无关的迭代式黑盒认证对抗性贴片防御

    本文介绍了针对图像分类器的对抗性贴片攻击的问题，并提出一种名为 IBCD 的两阶段迭代黑盒认证防御方法，旨在提高构架无关的认证防御在黑盒攻击情境下的可行性并检验其有效性和效率。

    May, 2023

  • PAD：面向对抗性贴纸攻击的面片无关防御

    提出了一种名为 PAD 的新颖的对抗贴纸定位和去除方法，该方法不需要先前知识或额外训练，提供了针对各种对抗贴纸的无关补丁防御，与任何预训练的物体检测器兼容。

    Apr, 2024

  • 针对无人机目标检测的模型无关防御对抗性补丁攻击

    这篇论文提出了一种针对无人机物体检测中的敌对补丁攻击的新型模型无关防御机制，将对抗性补丁防御问题形式化为遮挡消除任务，通过中性化感兴趣对象上的对抗性补丁来改善无人机物体检测的可靠性。

    May, 2024

  • 飞行对抗性贴片：操纵基于深度学习自主多旋翼的行为

    通过将图像装载到另一个飞行机器人上，将对多旋翼机器人进行全面控制的飞行对抗性补丁放置在其视野中，对自主飞行机器人进行深度学习模型攻击的研究。

    May, 2023