ECCVApr, 2020

PatchAttack：一种基于纹理的黑盒攻击方法及其强化学习实现

PDF
TL;DRPatchAttack 是一种基于纹理字典和增强学习的有效的图像对抗攻击方法，可以在图像中超级位置化小型纹理贴片从而成功诱导图像分类错误，即使在针对性攻击的情况下仅更改 3％至 10％的图像。
patch-based attacksblack-box attackstargeted attacksnon-targeted attacksreinforcement learning
发现论文，激发创造
  • 高效决策型黑盒补丁攻击

    本文提出了一种增强的基于对抗样本攻击方式，并探索了不依赖于网络输出数量的决策性基于修补程序的攻击方法，使用称为 DevoPatch 的差分进化算法。实验证明 DevoPatch 优于现有方法，在给定查询预算内攻击成功率更高。

    Jul, 2023

  • 面向深度神经网络欺骗的局部攻击

    通过像素级别的操作产生黑盒攻击算法，并通过放大因子和项目核来处理像素的梯度溢出，将该方法用于梯度攻击算法的所有类别中，显著提高了对防御模型和一般模型的攻击成功率。

    Jul, 2020

  • 提高目标检测和分类 AI 模型对抗性贴纸攻击的鲁棒性

    我们分析了攻击技术并提出了一种强大的防御方法，通过利用对象的形状、纹理和位置，成功降低了 20% 以上的模型置信度。利用修复预处理技术，有效地恢复了原始的置信水平，展示了强大防御在减轻这些威胁中的重要性。我们的修复防御方法在仿真像素化的基于补丁的物理对抗攻击中显著提高了模型的韧性，实现了高精度和可靠的定位，尽管受到了对抗性攻击。这项工作推动了对抗挑战中对象检测和分类网络的韧性和可靠性的发展，并为关键应用提供了强大的基础。

    Mar, 2024

  • 关于基于补丁的对抗攻击在语义分割问题上的可行性和普适性

    本研究通过简单的案例研究，在模拟和实际生活中证明了补丁攻击可用于改变分割网络的输出。通过一些例子和网络复杂性的研究，我们还证明了在给定大小的补丁攻击中可以生成的可能输出图的数量通常小于它们影响的区域或在实际应用中应该攻击的区域。我们将证明，基于这些结果，大多数基于补丁的攻击在实践中不可能是通用的，即它们不能生成任意输出图或者如果可以，它们的空间范围明显小于补丁的感受野。

    May, 2022

  • BB-Patch: 使用零阶优化的黑盒对抗性贴片攻击

    通过黑盒对抗攻击策略产生的对抗性补丁可以在输入图像的任意位置进行对抗攻击。

    May, 2024

  • 揭示异常：保护图像分类免受对抗性贴纸攻击

    我们提出了一种防御机制，利用聚类技术 DBSCAN 来分离异常图像片段，并通过三阶段流程对敌对噪声进行定位和减轻，进而中和其效果。该防御机制在多个模型和数据集上验证，证明其在对抗性贴片攻击中的有效性，显著提高了准确性。

    Feb, 2024

  • 架构无关的迭代式黑盒认证对抗性贴片防御

    本文介绍了针对图像分类器的对抗性贴片攻击的问题，并提出一种名为 IBCD 的两阶段迭代黑盒认证防御方法，旨在提高构架无关的认证防御在黑盒攻击情境下的可行性并检验其有效性和效率。

    May, 2023

  • DPatch: 物体探测器的对抗性贴片攻击

    本文提出了 DPatch，一种黑盒子对现代计算机视觉系统（如 Faster R-CNN 和 YOLO）的基于敌对的黑盒贴片攻击。与原始的敌对贴片只操纵图像级分类器不同，DPatch 同时攻击边界框回归和对象分类以禁用它们的预测，具有非常高的转移性且实践性强。

    Jun, 2018

  • 隐形的贴片：自然黑盒对目标检测器的敌对攻击

    该研究提出一种基于生成对抗网络（GAN）图像流形和物理世界的无梯度攻击方法，用于生成自然物理的对抗贴片以欺骗对目标物体检测器的分类。结果表明，该方法在数字和物理场景下均有效。

    Mar, 2023

  • 针对优化位置的对抗性贴片的对抗训练

    提出了一种可通过物理方式应用于图像中的明显但具有对抗性的矩形贴片，并利用对抗训练的方式来增强深度神经网络对对抗贴片的鲁棒性，这种训练不会降低网络的分类准确率。

    May, 2020