Dec, 2023

自动驾驶系统的动态对抗攻击

PDF
TL;DR通过在另一辆移动车辆上动态显示对抗性修补程序的屏幕，该研究介绍了一种攻击机制，旨在挑战自动驾驶系统的韧性。这种操纵对决策制定过程的方法对于交叉路口和变道等关键的多车辆交互非常重要，这对安全和高效的自动驾驶系统具有重大影响。
autonomous driving systemsadversarial attacksobject detection modelsmulti-vehicle interactionsdecision-making algorithms
发现论文，激发创造
  • 用于逃避物体检测模型的动态对抗贴片

    该研究使用动态对抗性贴片攻击实际场景下的对象检测器，并通过生成考虑目标物品与分类之间的语义距离的贴片方法进行优化，成功地在广阔的视角范围内将 YOLOv2 对象检测器误导了 90％，并在不同汽车模型之间成功误导检测器 71％。

    Oct, 2020

  • 评估自动驾驶语义分割在面对真实世界对抗性补丁攻击时的鲁棒性

    本文通过研究数字和现实中的对抗补丁，对流行的 SS 模型的稳健性进行了深入评估，并提出了场景特定攻击优化方法，似乎对自动驾驶等实际应用的影响不大。

    Aug, 2021

  • 针对端到端自动驾驶模型的简易物理对抗样本

    本研究使用简单的物理攻击，将黑线涂在路上，对自动驾驶的深度神经网络模型进行端对端的攻击，并探讨了针对直行的攻击与针对右转的攻击等场景的高度有效性。

    Mar, 2019

  • 自主驾驶实时语义分割模型的现实世界的对抗鲁棒性

    该研究评估并提出改进方法，以提高当受到数字、模拟和实际的对抗性补丁攻击时，对语义分割模型的稳健性。研究结果表明，尽管对抗效果在数字和真实攻击中可见，但其影响通常局限于图像周围的补丁区域，这就打开了进一步探讨实时语义分割模型的空间鲁棒性的问题。

    Jan, 2022

  • 针对基于 LiDAR 的自动驾驶系统的对抗性物体

    本文揭示了基于 LiDAR 的自动驾驶检测系统的潜在漏洞，并通过 LiDAR-Adv 的优化方法生成逃避 LiDAR 检测系统的对抗性物体，并在百度 Apollo 自动驾驶平台上测试和 3D 打印这些物体以证明实际世界中的存在性。

    Jul, 2019

  • 基于深度学习的自动驾驶系统：攻击和防御调研

    人工智能和深度学习技术的迅速发展促进了自动驾驶系统，但是这些系统仍受到来自不同攻击的威胁。此研究调查了可能危及自动驾驶系统的各种攻击，以及相应的最新防御机制，从而提出了一些有前途的研究方向以提高自动驾驶的安全性。

    Apr, 2021

  • 体现式对抗攻击：自主驾驶中的动态鲁棒物理攻击

    提出了一种全新的物理对抗攻击框架：具身对抗攻击（Embodied Adversarial Attack），通过感知 - 决策 - 控制的具身智能范式，实时动态调整最佳攻击策略以提高现实世界中物理对抗攻击的鲁棒性，特别适用于自动驾驶等复杂场景。

    Dec, 2023

  • 针对端到端自动驾驶模型的视觉感知攻击

    本文研究自动驾驶车辆中基于深度学习的对抗攻击，通过在路面上绘制黑色线条，实现对深度神经网络模型的干扰，并提出了一种新的高效攻击方式。同时，定义了新的路径劫持攻击，并通过 Bayesian Optimization 技术实现了对高维度攻击范围的搜索，最终提供了对攻击成功的洞察。

    Oct, 2019

  • 通过以人为中心的感知机制提高自动驾驶中的对抗机器学习韧性

    该研究探讨了自动驾驶系统对物理对抗攻击（胶带、涂鸦、照明）的弹性，并通过开发和评估多个机器学习模型，对道路标志和几何形状进行了测试，结果表明迁移学习在提高道路标志分类的可泛化性方面发挥了关键作用。该研究旨在改善自动驾驶车辆中目标分类器的安全性和鲁棒性，减轻对驾驶系统的对抗性示例影响。

    Nov, 2023

  • TPatch: 一种触发的物理对抗性补丁

    提出了一种由声音信号触发的物理对抗性贴片 TPatch，其具有声物质注入攻击引入的设计失真，可以在正常情况下保持良性，但可以通过触发来启动隐藏、创造或改变攻击。通过基于内容的伪装方法和攻击韧性增强方法，我们提出了避免引起人类驾驶员怀疑并使攻击在真实世界中实用和强韧的方法。使用三种对象检测器（YOLO V3/V5 和 Faster R-CNN）和八种图像分类器对 TPatch 进行评估，这既在模拟环境中也在真实世界中表明了 TPatch 的有效性。我们还讨论了传感器、算法和系统级别的可能防御方法。

    Dec, 2023