Feb, 2022

自主驾驶代理在 Carla 模拟器中的攻击与故障注入 -- 经验报告

PDF
TL;DR本文阐述了自动驾驶中机器学习应用在大多数驾驶任务中的基础地位，但加入训练有素的代理会使车辆暴露于新型攻击和故障，从而对驾驶任务构成安全威胁；文章实验研究了在驾驶模拟器中注入对抗攻击和软件故障对自主代理的影响，指出对训练有素的代理进行攻击注入和故障注入可能导致错误决策从而严重危及安全。本文提出了一个可行且易于重现的方法，基于开源模拟器和工具，并且旨在明显地促进保护措施和广泛的测试活动的必要性。
machine learningautonomous drivingadversarial attackssoftware faultssafety
发现论文，激发创造
  • 基于仿真的带机器学习组件的自动驾驶车辆对抗测试生成

    本文针对包含机器学习组件的自动驾驶系统，提出了一个测试框架，利用测试用例生成和自动实现方法进行评估，并演示了如何使用覆盖数组等测试用例生成方法以及需求实现方法来自动识别问题情景，从而提高自动驾驶系统的可靠性。

    Apr, 2018

  • 基于深度学习的自动驾驶系统：攻击和防御调研

    人工智能和深度学习技术的迅速发展促进了自动驾驶系统，但是这些系统仍受到来自不同攻击的威胁。此研究调查了可能危及自动驾驶系统的各种攻击，以及相应的最新防御机制，从而提出了一些有前途的研究方向以提高自动驾驶的安全性。

    Apr, 2021

  • ANTI-CARLA：一种用于 CARLA 自动驾驶车辆的对抗性测试框架

    提出一种基于 CARLA 模拟器的自动化测试框架 ANTI-CARLA，用于模拟令一般驾驶系统失灵的天气条件和传感器故障，该框架拥有高效的搜索机制，并成功地发现了一系列失败案例，该框架可用于任何给定驾驶管道的对抗性测试，作者在该框架下对 Learning By Cheating 方法训练的驾驶管道进行了测试。

    Jul, 2022

  • 用于评估交通网络虚假数据注入攻击的层次化多智能体强化学习

    通过异步多智能体强化学习，我们研究了驾驶导航应用程序中的数据操纵攻击对交通网络和驾驶路线选择的影响。

    Dec, 2023

  • AdvSim: 为自动驾驶车辆生成关键安全场景

    本文介绍了 AdvSim，这是一个对任何基于 LiDAR 的自主系统生成安全关键场景的对抗性框架，通过直接从传感器数据模拟获取针对全自主栈的安全关键场景。

    Jan, 2021

  • 通过以人为中心的感知机制提高自动驾驶中的对抗机器学习韧性

    该研究探讨了自动驾驶系统对物理对抗攻击（胶带、涂鸦、照明）的弹性，并通过开发和评估多个机器学习模型，对道路标志和几何形状进行了测试，结果表明迁移学习在提高道路标志分类的可泛化性方面发挥了关键作用。该研究旨在改善自动驾驶车辆中目标分类器的安全性和鲁棒性，减轻对驾驶系统的对抗性示例影响。

    Nov, 2023

  • 自动驾驶系统的动态对抗攻击

    通过在另一辆移动车辆上动态显示对抗性修补程序的屏幕，该研究介绍了一种攻击机制，旨在挑战自动驾驶系统的韧性。这种操纵对决策制定过程的方法对于交叉路口和变道等关键的多车辆交互非常重要，这对安全和高效的自动驾驶系统具有重大影响。

    Dec, 2023

  • 针对端到端自动驾驶模型的简易物理对抗样本

    本研究使用简单的物理攻击，将黑线涂在路上，对自动驾驶的深度神经网络模型进行端对端的攻击，并探讨了针对直行的攻击与针对右转的攻击等场景的高度有效性。

    Mar, 2019

  • 自动驾驶模型的敌对攻击和防御分析

    本文针对三种自动驾驶模型，分析了五种对抗性攻击和四种防御方法的效果。实验证明，与分类模型类似，这些模型仍然非常容易受到对抗性攻击，因此实践中应该考虑到这一点。对于系统和中间件构建者，需要同时部署多种防御方法来获得对各种攻击的良好覆盖。同时也需要保护好模型的细节信息，以降低黑盒攻击的效果。如果计算资源允许，则建议使用复杂的架构模型，因为该模型比简单模型更具弹性，更能抵御对抗性攻击。

    Feb, 2020

  • 针对车联网深度强化学习框架的对抗攻击

    本文通过实验研究了 Sybil-based 数据恶意攻击对基于深度强化学习技术的动态服务部署在 IoT 中的影响，结果表明在网络中存在 Sybil-based 数据恶意攻击时，性能会显著受到影响。

    Aug, 2021