CVPRJul, 2017

自主车辆目标检测无需担心对抗样本

PDF
TL;DR本文通过实验表明，目前物理对抗样本的构造不能影响到从不同距离和角度的拍摄图像，因为对抗扰动的特性对观察图像的尺度非常敏感，因此自动车只会从小范围内的距离错判停止标志。此外，研究还提出了：是否可以构造对许多或大多数观看条件都具有对抗性的例子，若能，则该构造应该对深度网络的模式内部表示提供非常重要的见解。
发现论文，激发创造
  • 物理对抗样本用于目标检测

    对物理深度学习算法模型的物理攻击，提出了 Disappearance Attack 和 Creation Attack 进行检测，结果表明存在风险，攻击模型具有可迁移性

    Jul, 2018

  • 针对端到端自动驾驶模型的简易物理对抗样本

    本研究使用简单的物理攻击，将黑线涂在路上，对自动驾驶的深度神经网络模型进行端对端的攻击，并探讨了针对直行的攻击与针对右转的攻击等场景的高度有效性。

    Mar, 2019

  • 针对基于 LiDAR 的自动驾驶系统的对抗性物体

    本文揭示了基于 LiDAR 的自动驾驶检测系统的潜在漏洞，并通过 LiDAR-Adv 的优化方法生成逃避 LiDAR 检测系统的对抗性物体，并在百度 Apollo 自动驾驶平台上测试和 3D 打印这些物体以证明实际世界中的存在性。

    Jul, 2019

  • 深度学习模型的鲁棒性物理攻击

    该研究介绍了一种通用的攻击算法，RP2，用于在不同的物理条件下产生强大的视觉对抗扰动，以及一种用于评估物理对抗性的两阶段评估方法，通过黑白贴纸形式的扰动对真实的红绿灯进行攻击，在实验室测试和场地测试结果分别达到 100% 和 84.8% 的目标分类器的误分率。

    Jul, 2017

  • 生成（非软件）错误以愚弄分类器

    本文提出了生成自然对抗样本的系统化方法，通过一些自然变化来模仿某种对象或信号，结果表明可以在图像分类模型和语音分类模型中成功生成对抗样本。

    Nov, 2019

  • 图像空间之外的对抗攻击

    本文针对深度神经网络生成对抗样本的问题展开了研究，提出了针对 3D 物理性质改变的对抗样本生成方法，并通过在 2D 输入图像前增加可渲染模块的方式，成功地将对抗扰动提升到物理空间，检验了所设计的方法的有效性。

    Nov, 2017

  • LiDAR 物体检测可实现的对抗样本

    本文提出了一种生成通用三维对抗目标的方法，用以干扰自动驾驶系统中激光雷达探测器，这一方法成功率高达 80％，并开展了一些防御研究，旨在建立更安全可靠的自动驾驶系统。

    Apr, 2020

  • 物理对抗样本对自主驾驶是否真的重要？追寻对抗性物体规避攻击的系统级影响

    自动驾驶中的感知是实现安全和可靠驾驶不可或缺的。然而，存在的研究仅在目标的 AI 组件级别进行攻击效果评估，而未考虑整个系统语义和上下文的影响。本研究首次对已有设计在现实自动驾驶背景下是否能有效实现系统级攻击效果进行了测量研究，并提出了一种新颖的系统驱动攻击设计 SysAdv，结果表明系统级效果能够显著改善。

    Aug, 2023

  • 物理世界中的对抗样本

    本文研究表明即使在物理世界的情境下，机器学习系统仍然容易受到敌对样本的攻击，并通过将手机摄像头获取的对抗性图像输入 ImageNet Inception 分类器，并测量系统的分类精度来证明了这一点。

    Jul, 2016

  • 合成鲁棒性对抗性样本

    研究发现标准的神经网络产生对抗样本的方法在面临视角改变、噪声和其他自然变换的情况下无法在物理世界中持续地欺骗神经网络分类器，但此研究成功演示了存在强韧性的三维对抗性目标，提出了第一个能在所选择的转换分布中产生对抗性示例的算法，制造了首批物理对抗物体。

    Jul, 2017