Nov, 2023
利用对抗感知误差攻击运动规划器
Attacking Motion Planners Using Adversarial Perception Errors
Jonathan Sadeghi, Nicholas A. Lord, John Redford, Romain Mueller
TL;DR自动驾驶（AD）系统通常以模块化方式构建和测试，其中使用特定任务的度量标准来衡量不同模块的性能。我们展示了可以构建得分在各种感知质量度量方面非常高，但仍导致规划失败的规划输入，称之为对抗感知错误，并通过使用简单的边界攻击算法在 CARLA 模拟器中找到了针对两个不同黑盒规划器的攻击，适用于几种城市和高速公路驾驶场景。最后，我们分析了这些攻击的特性，表明它们在规划器的输入空间中是孤立的，并讨论了它们对自动驾驶系统部署和测试的影响。