该论文介绍 SlowPerception，这是针对自主驾驶感知的第一个物理世界延迟攻击，通过生成基于投影仪的通用扰动。SlowPerception 通过在环境中各种表面上战略性地创建众多幽灵物体，显著增加了非极大抑制和多目标跟踪的计算负载，从而引发了重大的延迟。我们的 SlowPerception 在物理世界环境中实现了二级延迟，不同自主驾驶感知系统、情景和硬件配置下的平均延迟为 2.5 秒。此性能远远超过现有最先进的延迟攻击。另外，我们使用工业级自主驾驶系统和生产级自主驾驶模拟器进行了车辆碰撞等自主驾驶系统水平影响评估，平均成功率为 97%。我们希望我们的分析能够激发进一步研究，增强自主驾驶系统对新兴漏洞的鲁棒性。

Jun, 2024

通过在另一辆移动车辆上动态显示对抗性修补程序的屏幕，该研究介绍了一种攻击机制，旨在挑战自动驾驶系统的韧性。这种操纵对决策制定过程的方法对于交叉路口和变道等关键的多车辆交互非常重要，这对安全和高效的自动驾驶系统具有重大影响。

Dec, 2023

自动驾驶中的感知是实现安全和可靠驾驶不可或缺的。然而，存在的研究仅在目标的 AI 组件级别进行攻击效果评估，而未考虑整个系统语义和上下文的影响。本研究首次对已有设计在现实自动驾驶背景下是否能有效实现系统级攻击效果进行了测量研究，并提出了一种新颖的系统驱动攻击设计 SysAdv，结果表明系统级效果能够显著改善。

Aug, 2023

提出了一种由声音信号触发的物理对抗性贴片 TPatch，其具有声物质注入攻击引入的设计失真，可以在正常情况下保持良性，但可以通过触发来启动隐藏、创造或改变攻击。通过基于内容的伪装方法和攻击韧性增强方法，我们提出了避免引起人类驾驶员怀疑并使攻击在真实世界中实用和强韧的方法。使用三种对象检测器（YOLO V3/V5 和 Faster R-CNN）和八种图像分类器对 TPatch 进行评估，这既在模拟环境中也在真实世界中表明了 TPatch 的有效性。我们还讨论了传感器、算法和系统级别的可能防御方法。

Dec, 2023

本文对自动驾驶汽车中基于 LiDAR 传感器的感知系统进行了首次安全研究，将 LiDAR 欺骗攻击作为威胁模型，并探索了机器学习模型欺骗攻击的可能性，提出了优化方法和算法，同时讨论了针对自动驾驶汽车感知系统、传感器和机器学习模型的防御方向。

Jul, 2019

研究者正在研究深度神经网络的易受攻击性，并提出了一种新的基于相机的攻击方法，该方法引入了摄像头补丁以执行潜在的隐秘攻击，并提出了一个对抗相机补丁来解决多补丁复杂性的问题。

Dec, 2023

本文针对自动驾驶中的视觉感知进行了对抗机器学习攻击研究，发现了一种名为 ' 追踪器劫持 ' 的新攻击技术，并证明只需要少数几帧就能够有效地欺骗物体检测中的 MOT 模型，从而在头车中引入潜在的安全隐患。

May, 2019

该研究从激光雷达感知到预测车辆轨迹的角度进行了首次安全分析，提出了一种间接攻击方法，通过对受害者自动驾驶车辆的感知模块进行攻击来诱导轨迹预测错误，以实现可行的、单点式的攻击。实验结果表明，该攻击方法能导致高达 63％的碰撞率和各种危险情况，为自动驾驶的轨迹预测提供了现实的安全威胁。

Jun, 2024

该研究使用动态对抗性贴片攻击实际场景下的对象检测器，并通过生成考虑目标物品与分类之间的语义距离的贴片方法进行优化，成功地在广阔的视角范围内将 YOLOv2 对象检测器误导了 90％，并在不同汽车模型之间成功误导检测器 71％。

Oct, 2020

本文提出了一种基于优化的物体定向对抗攻击方法，针对深度学习驱动的单目深度估计系统，通过敏感区域本地化、自然样式伪装等技术生成隐蔽、有效和稳健的对抗补丁，并在实际驾驶场景中进行了评估，结果表明该攻击方法能够在多个目标物体和模型上达到超过 6 米的平均深度估计误差和 93％以上的攻击成功率。

Jul, 2022