体现式对抗攻击：自主驾驶中的动态鲁棒物理攻击

Dec, 2023

体现式对抗攻击：自主驾驶中的动态鲁棒物理攻击

Embodied Adversarial Attack: A Dynamic Robust Physical Attack in Autonomous Driving

Yitong Sun, Yao Huang, Xingxing Wei

TL;DR提出了一种全新的物理对抗攻击框架：具身对抗攻击（Embodied Adversarial Attack），通过感知 - 决策 - 控制的具身智能范式，实时动态调整最佳攻击策略以提高现实世界中物理对抗攻击的鲁棒性，特别适用于自动驾驶等复杂场景。

Abstract

As physical adversarial attacks become extensively applied in unearthing the potential risk of security-critical scenarios, especially in autonomous driving, their vulnerability to environmental changes has also been brought to light. The non-robust nature of physical adversarial attac

physical adversarial attacks robustness embodied adversarial attack dynamic adaptation autonomous driving

发现论文，激发创造

自动驾驶系统的动态对抗攻击

通过在另一辆移动车辆上动态显示对抗性修补程序的屏幕，该研究介绍了一种攻击机制，旨在挑战自动驾驶系统的韧性。这种操纵对决策制定过程的方法对于交叉路口和变道等关键的多车辆交互非常重要，这对安全和高效的自动驾驶系统具有重大影响。

Dec, 2023

针对端到端自动驾驶模型的简易物理对抗样本

本研究使用简单的物理攻击，将黑线涂在路上，对自动驾驶的深度神经网络模型进行端对端的攻击，并探讨了针对直行的攻击与针对右转的攻击等场景的高度有效性。

Mar, 2019

物理对抗样本对自主驾驶是否真的重要？追寻对抗性物体规避攻击的系统级影响

自动驾驶中的感知是实现安全和可靠驾驶不可或缺的。然而，存在的研究仅在目标的 AI 组件级别进行攻击效果评估，而未考虑整个系统语义和上下文的影响。本研究首次对已有设计在现实自动驾驶背景下是否能有效实现系统级攻击效果进行了测量研究，并提出了一种新颖的系统驱动攻击设计 SysAdv，结果表明系统级效果能够显著改善。

Aug, 2023

具身主动防御：利用循环反馈对抗对抗性补丁

通过活跃的感知和反馈机制，Embodied Active Defense（EAD）开发了一种主动的防御策略，积极地上下文化环境信息来解决 3D 实际环境中的对抗修补问题，提高模型的鲁棒性。

Mar, 2024

自动驾驶车辆视觉欺骗：针对交通标志识别系统的强韧物理对抗样本

本文提出了一种系统的流程来逆置真实世界物体探测器的健壮身体对抗性，通过扩展图像变换的分布，设计各种攻击向量和考虑各种不同的环境因素，生成的物理例外能够有效地欺骗 YOLO v5 基于 TSR 系统的其他最新物体探测器，并做出了基于图像预处理、AEs 检测和模型增强三种防御机制的讨论。

Jan, 2022

面向具身代理的时空攻击

本文研究关于具有动态环境和互动特性的实体代理的对抗攻击，通过生成时空扰动和利用历史观测数据的关键信息，成功实现基于纹理和 3D 模型形状的物理性质扰动攻击，并证明其在不同领域中的广泛应用和攻击性能。

May, 2020

AdvDO：基于实际场景的轨迹预测对抗性攻击

本文提出了一种优化型对抗攻击框架，旨在研究基于数据的轨迹预测系统的对抗鲁棒性。通过模拟实验，展示了该攻击框架可以有效地增加不同度量指标的预测误差，甚至可以导致自动驾驶汽车离开道路或与其他车辆碰撞。同时，本文还探讨并提出了一种对抗训练策略来减轻对抗攻击的影响。

Sep, 2022

基于深度学习的自动驾驶系统：攻击和防御调研

人工智能和深度学习技术的迅速发展促进了自动驾驶系统，但是这些系统仍受到来自不同攻击的威胁。此研究调查了可能危及自动驾驶系统的各种攻击，以及相应的最新防御机制，从而提出了一些有前途的研究方向以提高自动驾驶的安全性。

Apr, 2021

评估自动驾驶语义分割在面对真实世界对抗性补丁攻击时的鲁棒性

本文通过研究数字和现实中的对抗补丁，对流行的 SS 模型的稳健性进行了深入评估，并提出了场景特定攻击优化方法，似乎对自动驾驶等实际应用的影响不大。

Aug, 2021

为什么不清洁眼镜？利用动态光学扰动的感知攻击

使用 EvilEye 攻击的动态物理对抗样本生成方法在各种环境光照条件下更加稳健，并能绕过最新的物理对抗检测框架，为攻击者提供了适应多种物体的对抗样本的动态能力。最后，我们探讨了对抗 EvilEye 攻击的缓解策略。

Jul, 2023