Feb, 2018

DARTS：用有毒标志欺骗自动驾驶汽车

PDF
TL;DR本文介绍 DARTS（Deceiving Autonomous caRs with Toxic Signs）攻击，该攻击将有毒交通标志引入自动驾驶车辆的交通标志识别系统，包括 Out-of-Distribution 攻击和 Lenticular Printing 攻击，并在虚拟和实际世界中进行评估。结果表明，在黑盒和白盒威胁模型下，Out-of-Distribution 攻击可以优于 In-Distribution 攻击对抗对抗性训练防御。
autonomous carssign recognitionsecurity attacksout-of-distribution attackslenticular printing attack
发现论文，激发创造
  • 交通标志识别的对抗攻击：综述

    本文综述了在交通标志检测和分类模型上进行数字化或现实世界攻击的现有工作，探讨了最新发展并突出了需要进一步研究的领域。

    Jul, 2023

  • 通过以人为中心的感知机制提高自动驾驶中的对抗机器学习韧性

    该研究探讨了自动驾驶系统对物理对抗攻击（胶带、涂鸦、照明）的弹性，并通过开发和评估多个机器学习模型，对道路标志和几何形状进行了测试，结果表明迁移学习在提高道路标志分类的可泛化性方面发挥了关键作用。该研究旨在改善自动驾驶车辆中目标分类器的安全性和鲁棒性，减轻对驾驶系统的对抗性示例影响。

    Nov, 2023

  • 针对基于 LiDAR 的自动驾驶系统的对抗性物体

    本文揭示了基于 LiDAR 的自动驾驶检测系统的潜在漏洞，并通过 LiDAR-Adv 的优化方法生成逃避 LiDAR 检测系统的对抗性物体，并在百度 Apollo 自动驾驶平台上测试和 3D 打印这些物体以证明实际世界中的存在性。

    Jul, 2019

  • 自动驾驶系统的动态对抗攻击

    通过在另一辆移动车辆上动态显示对抗性修补程序的屏幕，该研究介绍了一种攻击机制，旨在挑战自动驾驶系统的韧性。这种操纵对决策制定过程的方法对于交叉路口和变道等关键的多车辆交互非常重要，这对安全和高效的自动驾驶系统具有重大影响。

    Dec, 2023

  • 利用对抗交通标志欺骗真实汽车

    该研究主要关注基于神经网络算法的分类器受到对抗性图像攻击的问题，研究了在实际生产环境下分类器遭到对抗性攻击的可能性，并提供了一个验证生产等级交通标志的对抗性攻击的流程。

    Jun, 2019

  • 自动驾驶车辆视觉欺骗：针对交通标志识别系统的强韧物理对抗样本

    本文提出了一种系统的流程来逆置真实世界物体探测器的健壮身体对抗性，通过扩展图像变换的分布，设计各种攻击向量和考虑各种不同的环境因素，生成的物理例外能够有效地欺骗 YOLO v5 基于 TSR 系统的其他最新物体探测器，并做出了基于图像预处理、AEs 检测和模型增强三种防御机制的讨论。

    Jan, 2022

  • 隐形反射：利用红外激光反射定位交通标识感知

    使用无滤波图像传感器和红外激光反射的物理攻击方式，研究了对连通自动驾驶车辆的交通标志感知系统进行的攻击，在室内和移动车辆场景中分别实现了 100% 和超过 80.5% 的攻击成功率，并提出了基于红外激光反射物理特性的检测策略，能够检测 96% 的攻击。

    Jan, 2024

  • MobilBye：使用相机欺骗攻击 ADAS

    本文通过对 Mobileye 的实际测试，注入环境干扰（比如颜色、形状、速度、直径和光线）来检验其鲁棒性，发现它可以被欺骗，判断无人机携带的冒牌交通标志为真实的事实

    Jun, 2019

  • 深度神经网络在交通标志识别中的物理对抗攻击：可行性研究

    本文研究通过不同攻击方法，包括黑盒攻击，来制造可以用于在不同环境中欺骗系统的扰动，并展示可靠的物理对抗攻击可以使用不同的方法进行执行，同时也可以降低扰动的可察觉程度。该发现强调了即使在黑盒情况下，需要通过可行的方法保护 DNN 的需求，同时也为使用对抗攻击增强原始训练数据的方法提供了基础。

    Feb, 2023

  • 一种基于 LiDAR 诱导误导的自动驾驶实体轨迹预测攻击

    该研究从激光雷达感知到预测车辆轨迹的角度进行了首次安全分析，提出了一种间接攻击方法，通过对受害者自动驾驶车辆的感知模块进行攻击来诱导轨迹预测错误，以实现可行的、单点式的攻击。实验结果表明，该攻击方法能导致高达 63％的碰撞率和各种危险情况，为自动驾驶的轨迹预测提供了现实的安全威胁。

    Jun, 2024