May, 2024

为自动驾驶系统寻找逼真的对抗物体

PDF
TL;DR改进了基于梯度的纹理优化方法，通过加入一个评估器实体并分析四种策略，使得 NeRF 对象渲染器可以学习到逼真且对抗性的纹理。结果表明，策略 2 和 3 对未来研究更具有潜力。
adversarial attacksrealistic-looking adversarial objectsgradient-based texture optimization methodnerf object rendererrobust 'judge
发现论文，激发创造
  • 针对基于 LiDAR 的自动驾驶系统的对抗性物体

    本文揭示了基于 LiDAR 的自动驾驶检测系统的潜在漏洞，并通过 LiDAR-Adv 的优化方法生成逃避 LiDAR 检测系统的对抗性物体，并在百度 Apollo 自动驾驶平台上测试和 3D 打印这些物体以证明实际世界中的存在性。

    Jul, 2019

  • LiDAR 物体检测可实现的对抗样本

    本文提出了一种生成通用三维对抗目标的方法，用以干扰自动驾驶系统中激光雷达探测器，这一方法成功率高达 80％，并开展了一些防御研究，旨在建立更安全可靠的自动驾驶系统。

    Apr, 2020

  • 自动驾驶系统的动态对抗攻击

    通过在另一辆移动车辆上动态显示对抗性修补程序的屏幕，该研究介绍了一种攻击机制，旨在挑战自动驾驶系统的韧性。这种操纵对决策制定过程的方法对于交叉路口和变道等关键的多车辆交互非常重要，这对安全和高效的自动驾驶系统具有重大影响。

    Dec, 2023

  • 通过以人为中心的感知机制提高自动驾驶中的对抗机器学习韧性

    该研究探讨了自动驾驶系统对物理对抗攻击（胶带、涂鸦、照明）的弹性，并通过开发和评估多个机器学习模型，对道路标志和几何形状进行了测试，结果表明迁移学习在提高道路标志分类的可泛化性方面发挥了关键作用。该研究旨在改善自动驾驶车辆中目标分类器的安全性和鲁棒性，减轻对驾驶系统的对抗性示例影响。

    Nov, 2023

  • 在 Carla 模拟器中对车辆检测器实施物理对抗攻击

    本文提出了一种针对野外目标检测器的物理对抗样本生成方法，采用扩大重复和离散搜索两种技术，通过生成具有马赛克效果的对抗物体纹理，使其在视觉模拟器中不被检测器识别，实验结果证明了该方法的有效性。

    Jul, 2020

  • 破坏 3D 虚拟环境：可转移的对抗性 3D 对象

    本研究研究了如何通过改变材质，使用易于访问的元素构建具有敌对性的 3D 物体，以此欺骗神经分类器，以评估其在流行神经分类器中的影响。

    Sep, 2021

  • 评估自动驾驶语义分割在面对真实世界对抗性补丁攻击时的鲁棒性

    本文通过研究数字和现实中的对抗补丁，对流行的 SS 模型的稳健性进行了深入评估，并提出了场景特定攻击优化方法，似乎对自动驾驶等实际应用的影响不大。

    Aug, 2021

  • 自主驾驶实时语义分割模型的现实世界的对抗鲁棒性

    该研究评估并提出改进方法，以提高当受到数字、模拟和实际的对抗性补丁攻击时，对语义分割模型的稳健性。研究结果表明，尽管对抗效果在数字和真实攻击中可见，但其影响通常局限于图像周围的补丁区域，这就打开了进一步探讨实时语义分割模型的空间鲁棒性的问题。

    Jan, 2022

  • 物理对抗样本对自主驾驶是否真的重要？追寻对抗性物体规避攻击的系统级影响

    自动驾驶中的感知是实现安全和可靠驾驶不可或缺的。然而，存在的研究仅在目标的 AI 组件级别进行攻击效果评估，而未考虑整个系统语义和上下文的影响。本研究首次对已有设计在现实自动驾驶背景下是否能有效实现系统级攻击效果进行了测量研究，并提出了一种新颖的系统驱动攻击设计 SysAdv，结果表明系统级效果能够显著改善。

    Aug, 2023

  • 来自 RGB-D 扫描的对抗纹理优化

    该研究提出了一种基于条件对抗损失和面向补丁的条件鉴别器的方法，用于不准确的 RGB-D 重建图像，以生成逼真的彩色贴图。

    Mar, 2020