Apr, 2024

BadPart：面向像素级回归任务的统一黑盒对抗贴纸攻击

PDF
TL;DR我们提出了第一个针对像素级回归任务的黑盒对抗性补丁攻击框架，旨在发现这些模型在查询式黑盒攻击下的漏洞，我们的攻击原型 BadPart 在垂直视角深度估计任务中击败了三种基线方法，灵活高效地生成补丁，且超越了现有的防御措施。
pixel-wise regression tasksblack-box adversarial patch attack frameworkvulnerabilitiesbadpartcountermeasures
发现论文，激发创造
  • BB-Patch: 使用零阶优化的黑盒对抗性贴片攻击

    通过黑盒对抗攻击策略产生的对抗性补丁可以在输入图像的任意位置进行对抗攻击。

    May, 2024

  • 隐形的贴片：自然黑盒对目标检测器的敌对攻击

    该研究提出一种基于生成对抗网络（GAN）图像流形和物理世界的无梯度攻击方法，用于生成自然物理的对抗贴片以欺骗对目标物体检测器的分类。结果表明，该方法在数字和物理场景下均有效。

    Mar, 2023

  • 面向深度神经网络欺骗的局部攻击

    通过像素级别的操作产生黑盒攻击算法，并通过放大因子和项目核来处理像素的梯度溢出，将该方法用于梯度攻击算法的所有类别中，显著提高了对防御模型和一般模型的攻击成功率。

    Jul, 2020

  • 高效决策型黑盒补丁攻击

    本文提出了一种增强的基于对抗样本攻击方式，并探索了不依赖于网络输出数量的决策性基于修补程序的攻击方法，使用称为 DevoPatch 的差分进化算法。实验证明 DevoPatch 优于现有方法，在给定查询预算内攻击成功率更高。

    Jul, 2023

  • 架构无关的迭代式黑盒认证对抗性贴片防御

    本文介绍了针对图像分类器的对抗性贴片攻击的问题，并提出一种名为 IBCD 的两阶段迭代黑盒认证防御方法，旨在提高构架无关的认证防御在黑盒攻击情境下的可行性并检验其有效性和效率。

    May, 2023

  • 自主驾驶实时语义分割模型的现实世界的对抗鲁棒性

    该研究评估并提出改进方法，以提高当受到数字、模拟和实际的对抗性补丁攻击时，对语义分割模型的稳健性。研究结果表明，尽管对抗效果在数字和真实攻击中可见，但其影响通常局限于图像周围的补丁区域，这就打开了进一步探讨实时语义分割模型的空间鲁棒性的问题。

    Jan, 2022

  • 物理世界中跨模态攻击的统一对抗贴片

    本文提出了一种跨模态物理攻击方法，在物理世界中通过统一的对抗性贴片欺骗可见光和红外物体探测器，在考虑到不同成像机制的情况下，通过设计新型的边界受限形状优化和考虑得分的迭代评估，成功地减少了多模式传感器的预测得分。

    Jul, 2023

  • 计算机视觉模型的黑盒对抗攻击综述

    该论文介绍了对各种黑盒对抗攻击和防御技术的全面比较研究，旨在提高模型的鲁棒性。

    Dec, 2019

  • DPatch: 物体探测器的对抗性贴片攻击

    本文提出了 DPatch，一种黑盒子对现代计算机视觉系统（如 Faster R-CNN 和 YOLO）的基于敌对的黑盒贴片攻击。与原始的敌对贴片只操纵图像级分类器不同，DPatch 同时攻击边界框回归和对象分类以禁用它们的预测，具有非常高的转移性且实践性强。

    Jun, 2018

  • SlowFormer：面向计算与能量效率的通用敌对修补攻击 —— 对推理高效视觉转换器的攻击

    近期，在深度模型的推断计算方面取得了很多进展，这些方法可以减少深度模型的计算需求和功耗。我们展示了这些模型容易受到普适性对抗贴片攻击的影响，攻击者通过优化一个贴片，将其粘贴到任意图像上可以增加模型的计算量和功耗。我们运行实验使用了三种不同的高效视觉转换器方法，显示在某些情况下，攻击者只需将一个只占图像面积的 8% 的贴片粘贴上即可将计算量增加到最大限度。同时我们还展示了标准对抗性训练防御方法可以减少攻击的成功率。我们相信为降低深度模型的功耗，未来需要采用自适应高效的方法，希望我们的论文可以鼓励研究人员研究这些方法的强韧性，并开发更好的防御方法来对抗这种攻击。

    Oct, 2023