自动驾驶中多传感器感知系统的对抗鲁棒性探索
本文提出了一种生成通用三维对抗目标的方法,用以干扰自动驾驶系统中激光雷达探测器,这一方法成功率高达 80%,并开展了一些防御研究,旨在建立更安全可靠的自动驾驶系统。
Apr, 2020
本研究评估了 LiDAR - 相机融合模型在 3D 物体检测中的对抗鲁棒性。我们介绍了一种攻击技术,在汽车上简单添加一定数量的物理限制的对抗点后,可以使车辆在融合模型中无法检测到。实验结果表明,即使在图像数据通道没有变化的情况下,通过操纵 LiDAR 数据通道,融合模型仍然可以被欺骗。这一发现引发了自动驾驶领域的安全担忧。此外,我们还研究了对抗点数量、前方近处车辆与搭载 LiDAR 的车辆之间的距离以及不同角度因素对攻击成功率的影响。我们相信我们的研究可以增进对多传感器鲁棒性的理解,为增强自动驾驶的安全性提供见解和指导。
Dec, 2023
该论文通过第一次研究探索了当前利用 LiDAR 技术的自动驾驶系统的漏洞,并提出了 CARLO 和 SVF 两种方法用于检测和减轻 LiDAR 攻击,其中 SVF 进一步降低了攻击成功率。
Jun, 2020
该研究论文提出针对自动驾驶车辆中常用的多传感器融合技术进行攻击的框架,其中对摄像头模态进行针对性攻击,研究表明此攻击方式可以破坏多种融合模型,从而削弱其目标检测性能。
Apr, 2023
本文对自动驾驶汽车中基于 LiDAR 传感器的感知系统进行了首次安全研究,将 LiDAR 欺骗攻击作为威胁模型,并探索了机器学习模型欺骗攻击的可能性,提出了优化方法和算法,同时讨论了针对自动驾驶汽车感知系统、传感器和机器学习模型的防御方向。
Jul, 2019
本文针对现代自动驾驶采用的多传感器融合设计方案的安全问题进行研究,旨在探究该方案在多源攻击下的安全性。作者提出一种优化攻击方法,生成一种 3D 打印的欺骗物,用于误导自动驾驶系统,测试结果表明该攻击方法能够在真实世界驾驶场景中达到超过 90%的成功率,并在硬件捕捉后仍是真实可行的。
Jun, 2021
本文揭示了基于 LiDAR 的自动驾驶检测系统的潜在漏洞,并通过 LiDAR-Adv 的优化方法生成逃避 LiDAR 检测系统的对抗性物体,并在百度 Apollo 自动驾驶平台上测试和 3D 打印这些物体以证明实际世界中的存在性。
Jul, 2019
在现代自动驾驶领域中,感知系统是不可或缺的,它可以准确评估周围环境的状态,从而实现知情预测和规划。本研究重点研究了感知系统的鲁棒性、准确性和延迟性在实际情况下的评估,通过对基于摄像头、LiDAR 和多模态的 3D 物体检测算法进行全面评估,特别是在 KITTI-C 和 nuScenes-C 等数据集上进行公平比较,发现多模态的 3D 检测方法表现出更强的鲁棒性,并引入了一个新的分类系统以提高文献的清晰度。本调查旨在为当前三维物体检测算法在实际应用中的能力和限制提供更实用的视角,从而引导未来的研究朝向鲁棒性为中心的发展。
Jan, 2024
该研究探讨了自动驾驶系统对物理对抗攻击(胶带、涂鸦、照明)的弹性,并通过开发和评估多个机器学习模型,对道路标志和几何形状进行了测试,结果表明迁移学习在提高道路标志分类的可泛化性方面发挥了关键作用。该研究旨在改善自动驾驶车辆中目标分类器的安全性和鲁棒性,减轻对驾驶系统的对抗性示例影响。
Nov, 2023
本研究旨在分析多模态神经网络在单模态最坏情况下 (即对抗性攻击) 的鲁棒性,并提出了一种对抗性融合策略,该策略与现有方法相比,可显著提高单源鲁棒性,并在不影响干净数据性能的情况下,在多种多模态任务上实现了良好的表现。
Jun, 2022