本研究分析了自主驾驶车辆轨迹预测的敌对鲁棒性并研究其是否仍可导致安全规划，提出一种新的敌对攻击方法来增加预测误差，并探讨了数据增强和轨迹平滑等可能的缓解技术。

Jan, 2022

我们提供了两种鲁棒性定义（标签鲁棒性和纯鲁棒性），利用 PAC 框架进行鲁棒性验证，并通过 TrajPAC 工具评估了四种最先进的轨迹预测模型在多个场景下的鲁棒性性能。

Aug, 2023

本文介绍了一种在预测自动驾驶系统的轨迹时防御对抗性攻击的方法，该方法包括设计有效的对抗训练方法和添加特定领域的数据增强来减少在净数据上的性能损失。作者通过验证表明，相较于只使用纯净数据训练的模型，该方法在对抗数据上性能提高了 46％，并只降低了 3％的净数据性能。此外，相较于现有鲁棒方法，该方法在对抗样本上的性能提高了 21％，在干净数据上的性能提高了 9％。通过对规划器的评估，研究了我们的鲁棒模型对下游影响，证明该模型可以显著减少严重事故率（例如碰撞和越野驾驶）。

Jul, 2022

本研究使用 CARLA 模拟器开发了一个合成数据集，并使用卷积神经网络创建了一种端到端的短期轨迹预测模型，使得自动驾驶汽车能够更好地应对复杂情境，如行人穿越马路，车辆超车等，同时免去了对环境的显式编码。

Jul, 2023

为确保机器学习模型在自动驾驶车辆运动预测中的预测结果安全可靠，本研究构建了新型数据标准用于评估和提高模型鲁棒性，通过对现有数据进行扰动来识别场景中的因果因素，并在提供的 WOMD 中发布因果因素标签和鲁棒性基准来帮助社区更好地构建更可靠和安全的深度学习模型。

Jul, 2022

基于认证方法的轨迹预测模型提供了对于自主驾驶车辆中的鲁棒性问题、对抗性攻击和嘈杂观测的有效解决方案。

Mar, 2024

通过对两个轨迹预测模型 ——Trajectron++ 和 AgentFormer 的敏感性分析，本文发现 Trajectron++ 对最近状态历史时间点的扰动敏感性最高，而 AgentFormer 的扰动敏感性则分布在不同时间点的状态历史中。我们还证明，即使在存在主要敏感性于状态历史扰动的情况下，使用 Fast Gradient Sign Method 制作的难以检测的图像地图扰动也能够显著增加两个模型的预测误差。尽管图像地图可能对两个模型的预测输出有些微的贡献，但这个结果揭示了轨迹预测器对敌对图像扰动并不具备鲁棒性，而是易受图像攻击影响。通过对敏感性结果设计的优化规划器和示例扰动，我们展示了这种脆弱性如何导致车辆在中等行驶速度下突然停车。

Jan, 2024

本研究评估步行者轨迹预测领域的最新技术，并与自动驾驶车辆中的常速模型（CVM）进行比较。使用 ETH/UCY 数据集进行评估，报告了平均位移误差（ADE）和最终位移误差（FDE）。根据真实世界应用的要求，对最初提出的模型的输入特征进行了修改，通过消融研究来研究观察到的运动历史对预测性能的影响，从而更好地理解其影响。此外，还测量了每个模型的推理时间，以评估在面对不同数量的代理时每个模型的可扩展性。结果表明，在生成单一轨迹时，简单模型仍然具有竞争力，某些被普遍认为有用的特征对不同架构的整体性能几乎没有影响。基于这些发现，提出了建议，以指导未来轨迹预测算法的发展。

Aug, 2023

本篇论文提出了一种轨迹规划器，使用深度学习技术建立预测模型，通过集成网络结构来估计模型不确定性，并设计轨迹规划器以考虑出现的最坏情况，从而可以提高自动驾驶在现实世界中长尾数据分布情况下的安全性和可靠性。

Jul, 2022

本文提出了一种优化型对抗攻击框架，旨在研究基于数据的轨迹预测系统的对抗鲁棒性。通过模拟实验，展示了该攻击框架可以有效地增加不同度量指标的预测误差，甚至可以导致自动驾驶汽车离开道路或与其他车辆碰撞。同时，本文还探讨并提出了一种对抗训练策略来减轻对抗攻击的影响。

Sep, 2022