Jan, 2024
黑客攻击预测器即黑客攻击车辆：使用敏感性分析识别自动驾驶安全中的轨迹预测漏洞
Hacking Predictors Means Hacking Cars: Using Sensitivity Analysis to Identify Trajectory Prediction Vulnerabilities for Autonomous Driving Security
Marsalis Gibson, David Babazadeh, Claire Tomlin, Shankar Sastry
TL;DR通过对两个轨迹预测模型 ——Trajectron++ 和 AgentFormer 的敏感性分析，本文发现 Trajectron++ 对最近状态历史时间点的扰动敏感性最高，而 AgentFormer 的扰动敏感性则分布在不同时间点的状态历史中。我们还证明，即使在存在主要敏感性于状态历史扰动的情况下，使用 Fast Gradient Sign Method 制作的难以检测的图像地图扰动也能够显著增加两个模型的预测误差。尽管图像地图可能对两个模型的预测输出有些微的贡献，但这个结果揭示了轨迹预测器对敌对图像扰动并不具备鲁棒性，而是易受图像攻击影响。通过对敏感性结果设计的优化规划器和示例扰动，我们展示了这种脆弱性如何导致车辆在中等行驶速度下突然停车。