Dec, 2023

利用后门操纵轨迹预测

PDF
TL;DR自动驾驶车辆需要预测周围车辆的轨迹，以在不确定和复杂的交通情况下进行安全操纵。本文重点研究了轨迹预测中被忽视的安全威胁 - 后门，并调查了影响轨迹预测的四个触发器。研究结果显示，这些触发器与期望输出相关联时，能够影响先进的轨迹预测模型的输出，从而暴露后门的漏洞。此外，本文评估了一些对抗后门的防御方法，其中聚类技术是一种有潜力的策略。
autonomous vehiclestrajectory predictionsecurity threatbackdoorsdefenses
发现论文，激发创造
  • 黑客攻击预测器即黑客攻击车辆：使用敏感性分析识别自动驾驶安全中的轨迹预测漏洞

    通过对两个轨迹预测模型 ——Trajectron++ 和 AgentFormer 的敏感性分析，本文发现 Trajectron++ 对最近状态历史时间点的扰动敏感性最高，而 AgentFormer 的扰动敏感性则分布在不同时间点的状态历史中。我们还证明，即使在存在主要敏感性于状态历史扰动的情况下，使用 Fast Gradient Sign Method 制作的难以检测的图像地图扰动也能够显著增加两个模型的预测误差。尽管图像地图可能对两个模型的预测输出有些微的贡献，但这个结果揭示了轨迹预测器对敌对图像扰动并不具备鲁棒性，而是易受图像攻击影响。通过对敏感性结果设计的优化规划器和示例扰动，我们展示了这种脆弱性如何导致车辆在中等行驶速度下突然停车。

    Jan, 2024

  • 自主车辆轨迹预测的对抗鲁棒性

    本研究分析了自主驾驶车辆轨迹预测的敌对鲁棒性并研究其是否仍可导致安全规划，提出一种新的敌对攻击方法来增加预测误差，并探讨了数据增强和轨迹平滑等可能的缓解技术。

    Jan, 2022

  • 通过微小扰动操作神经路径规划器

    提出了一种在神经路径规划器中注入隐藏的恶意行为（也称为后门）的新方法，并讨论了识别这些后门的潜在技术。

    Mar, 2024

  • 人类轨迹预测认证

    基于认证方法的轨迹预测模型提供了对于自主驾驶车辆中的鲁棒性问题、对抗性攻击和嘈杂观测的有效解决方案。

    Mar, 2024

  • 驾驶员安全：短期轨迹预测在自动驾驶车辆中的作用

    本研究使用 CARLA 模拟器开发了一个合成数据集，并使用卷积神经网络创建了一种端到端的短期轨迹预测模型，使得自动驾驶汽车能够更好地应对复杂情境，如行人穿越马路，车辆超车等，同时免去了对环境的显式编码。

    Jul, 2023

  • 使用可达性分析实现自主汽车的物理后门触发激活

    本研究揭示自动驾驶车辆（AVs）面临潜在的隐藏后门威胁，提出了在交通系统中识别激活风险区域及提供相应轨迹的方法，旨在提高 AVs 的安全性和解决其面临的漏洞问题。

    Mar, 2023

  • AdvDO：基于实际场景的轨迹预测对抗性攻击

    本文提出了一种优化型对抗攻击框架，旨在研究基于数据的轨迹预测系统的对抗鲁棒性。通过模拟实验，展示了该攻击框架可以有效地增加不同度量指标的预测误差，甚至可以导致自动驾驶汽车离开道路或与其他车辆碰撞。同时，本文还探讨并提出了一种对抗训练策略来减轻对抗攻击的影响。

    Sep, 2022

  • 一种基于 LiDAR 诱导误导的自动驾驶实体轨迹预测攻击

    该研究从激光雷达感知到预测车辆轨迹的角度进行了首次安全分析，提出了一种间接攻击方法，通过对受害者自动驾驶车辆的感知模块进行攻击来诱导轨迹预测错误，以实现可行的、单点式的攻击。实验结果表明，该攻击方法能导致高达 63％的碰撞率和各种危险情况，为自动驾驶的轨迹预测提供了现实的安全威胁。

    Jun, 2024

  • 自动驾驶的轨迹预测中真正重要的因素是什么？

    论文指出，当前轨迹预测模型的评估协议存在瑕疵，忽略了数据集和真实驾驶场景之间的动态差异以及预测模型的计算效率。为此，作者提出了一种基于任务的交互式评估方法，以更准确地反映轨迹预测在自动驾驶中的有效性。

    Jun, 2023

  • 安全自主驾驶的自我感知轨迹预测

    本文提出了一种自我感知的轨迹预测方法，结合两阶段训练过程来评估在线轨迹预测模块的性能，为实现安全可靠的自主驾驶创造了条件。

    May, 2023