CVPRApr, 2023

基于物理世界的车辆检测对抗鲁棒性基准测试

PDF
TL;DR本文提出了一个基于 CARLA 模拟器的即时级数据生成流水线，生成了 DCI 数据集，并对三种检测模型和三种物理对抗攻击进行了广泛的实验，发现 Yolo v6 具有最强的鲁棒性，只有 6.59％的平均 AP 下降率，而 ASA 是最有效的攻击算法，平均 AP 下降率为 14.51％，是其他算法的两倍。
发现论文，激发创造
  • 探索车辆检测的物理世界对抗鲁棒性

    在本研究中，我们使用 CARLA 模拟器提出了一种创新的即时级别数据生成流程，建立了 Discrete and Continuous Instant-level（DCI）数据集，通过该流程，我们对三个检测模型和三种物理对抗攻击进行了全面实验。我们的研究结果突出了在对抗条件下不同模型的表现，并指出了对抗攻击算法进展可能正在接近其 “限制”。该研究强调了对抗攻击在实际环境中的重要性，并将 DCI 数据集引入作为一个多功能的基准，为提高检测模型的鲁棒性提供了有价值的见解，并为未来在对抗攻击领域的研究提供指导。

    Aug, 2023

  • 在 Carla 模拟器中对车辆检测器实施物理对抗攻击

    本文提出了一种针对野外目标检测器的物理对抗样本生成方法，采用扩大重复和离散搜索两种技术，通过生成具有马赛克效果的对抗物体纹理，使其在视觉模拟器中不被检测器识别，实验结果证明了该方法的有效性。

    Jul, 2020

  • 评估自动驾驶语义分割在面对真实世界对抗性补丁攻击时的鲁棒性

    本文通过研究数字和现实中的对抗补丁，对流行的 SS 模型的稳健性进行了深入评估，并提出了场景特定攻击优化方法，似乎对自动驾驶等实际应用的影响不大。

    Aug, 2021

  • 物理对抗样本对自主驾驶是否真的重要？追寻对抗性物体规避攻击的系统级影响

    自动驾驶中的感知是实现安全和可靠驾驶不可或缺的。然而，存在的研究仅在目标的 AI 组件级别进行攻击效果评估，而未考虑整个系统语义和上下文的影响。本研究首次对已有设计在现实自动驾驶背景下是否能有效实现系统级攻击效果进行了测量研究，并提出了一种新颖的系统驱动攻击设计 SysAdv，结果表明系统级效果能够显著改善。

    Aug, 2023

  • 自主驾驶实时语义分割模型的现实世界的对抗鲁棒性

    该研究评估并提出改进方法，以提高当受到数字、模拟和实际的对抗性补丁攻击时，对语义分割模型的稳健性。研究结果表明，尽管对抗效果在数字和真实攻击中可见，但其影响通常局限于图像周围的补丁区域，这就打开了进一步探讨实时语义分割模型的空间鲁棒性的问题。

    Jan, 2022

  • 深度学习模型的鲁棒性物理攻击

    该研究介绍了一种通用的攻击算法，RP2，用于在不同的物理条件下产生强大的视觉对抗扰动，以及一种用于评估物理对抗性的两阶段评估方法，通过黑白贴纸形式的扰动对真实的红绿灯进行攻击，在实验室测试和场地测试结果分别达到 100% 和 84.8% 的目标分类器的误分率。

    Jul, 2017

  • 对抗机器学习研究中的合成数据集生成

    本研究使用 CARLA 模拟器生成综合数据集，使其具有逼真的对抗性示例攻击，并使用处理和转换效果与真实世界图像相同的模拟攻击来说明其与现实的相关性。

    Jul, 2022

  • 自动驾驶中基于 LiDAR 的感知的鲁棒性：普遍的黑匣子对抗传感器攻击及对策

    该论文通过第一次研究探索了当前利用 LiDAR 技术的自动驾驶系统的漏洞，并提出了 CARLO 和 SVF 两种方法用于检测和减轻 LiDAR 攻击，其中 SVF 进一步降低了攻击成功率。

    Jun, 2020

  • LiDAR 物体检测可实现的对抗样本

    本文提出了一种生成通用三维对抗目标的方法，用以干扰自动驾驶系统中激光雷达探测器，这一方法成功率高达 80％，并开展了一些防御研究，旨在建立更安全可靠的自动驾驶系统。

    Apr, 2020

  • 通过以人为中心的感知机制提高自动驾驶中的对抗机器学习韧性

    该研究探讨了自动驾驶系统对物理对抗攻击（胶带、涂鸦、照明）的弹性，并通过开发和评估多个机器学习模型，对道路标志和几何形状进行了测试，结果表明迁移学习在提高道路标志分类的可泛化性方面发挥了关键作用。该研究旨在改善自动驾驶车辆中目标分类器的安全性和鲁棒性，减轻对驾驶系统的对抗性示例影响。

    Nov, 2023