评估自动驾驶语义分割在面对真实世界对抗性补丁攻击时的鲁棒性

Aug, 2021

评估自动驾驶语义分割在面对真实世界对抗性补丁攻击时的鲁棒性

Evaluating the Robustness of Semantic Segmentation for Autonomous Driving against Real-World Adversarial Patch Attacks

Federico Nesti, Giulio Rossolini, Saasha Nair, Alessandro Biondi, Giorgio Buttazzo

TL;DR本文通过研究数字和现实中的对抗补丁，对流行的 SS 模型的稳健性进行了深入评估，并提出了场景特定攻击优化方法，似乎对自动驾驶等实际应用的影响不大。

Abstract

Deep learning and convolutional neural networks allow achieving impressive performance in computer vision tasks, such as object detection and semantic segmentation (SS). However, recent studies have shown evident weaknesses of such models against adversarial perturbations. In a real-wo

adversarial patches semantic segmentation real-world scenarios robustness evaluation convolutional neural networks

发现论文，激发创造

自主驾驶实时语义分割模型的现实世界的对抗鲁棒性

该研究评估并提出改进方法，以提高当受到数字、模拟和实际的对抗性补丁攻击时，对语义分割模型的稳健性。研究结果表明，尽管对抗效果在数字和真实攻击中可见，但其影响通常局限于图像周围的补丁区域，这就打开了进一步探讨实时语义分割模型的空间鲁棒性的问题。

Jan, 2022

自动驾驶系统的动态对抗攻击

通过在另一辆移动车辆上动态显示对抗性修补程序的屏幕，该研究介绍了一种攻击机制，旨在挑战自动驾驶系统的韧性。这种操纵对决策制定过程的方法对于交叉路口和变道等关键的多车辆交互非常重要，这对安全和高效的自动驾驶系统具有重大影响。

Dec, 2023

针对端到端自动驾驶模型的简易物理对抗样本

本研究使用简单的物理攻击，将黑线涂在路上，对自动驾驶的深度神经网络模型进行端对端的攻击，并探讨了针对直行的攻击与针对右转的攻击等场景的高度有效性。

Mar, 2019

关于基于补丁的对抗攻击在语义分割问题上的可行性和普适性

本研究通过简单的案例研究，在模拟和实际生活中证明了补丁攻击可用于改变分割网络的输出。通过一些例子和网络复杂性的研究，我们还证明了在给定大小的补丁攻击中可以生成的可能输出图的数量通常小于它们影响的区域或在实际应用中应该攻击的区域。我们将证明，基于这些结果，大多数基于补丁的攻击在实践中不可能是通用的，即它们不能生成任意输出图或者如果可以，它们的空间范围明显小于补丁的感受野。

May, 2022

评估离线自主驾驶分割对抗攻击的鲁棒性：基于数据集的分析

本研究调查了在越野自动驾驶领域中，语义分割模型对于对抗性输入扰动的脆弱性。尽管在一般条件下表现良好，但现有的最先进分类器经常容易受到（甚至是）轻微扰动的影响，最终导致高自信度的不准确预测。我们的研究旨在填补这一空白，通过研究非鲁棒特征对越野数据集中的对抗性攻击的影响，并比较不同分割网络架构对对抗性攻击的效果。为实现这一目标，我们创建了一个鲁棒数据集，其中只包含鲁棒特征，并在这个鲁棒化数据集上训练网络。我们对研究结果进行了定性和定量分析，这对于提高越野自动驾驶应用中机器学习模型的鲁棒性具有重要意义。此外，本工作通过评估分割输出的鲁棒性，为 Unimog U5023 自主机器人在复杂越野无结构环境中的安全导航做出了贡献。该代码公开可用于 https://github.com/rohtkumar/adversarial_attacks_on_segmentation。

Feb, 2024

提高目标检测和分类 AI 模型对抗性贴纸攻击的鲁棒性

我们分析了攻击技术并提出了一种强大的防御方法，通过利用对象的形状、纹理和位置，成功降低了 20% 以上的模型置信度。利用修复预处理技术，有效地恢复了原始的置信水平，展示了强大防御在减轻这些威胁中的重要性。我们的修复防御方法在仿真像素化的基于补丁的物理对抗攻击中显著提高了模型的韧性，实现了高精度和可靠的定位，尽管受到了对抗性攻击。这项工作推动了对抗挑战中对象检测和分类网络的韧性和可靠性的发展，并为关键应用提供了强大的基础。

Mar, 2024

语义分割模型对抗攻击的鲁棒性

对现代语义分割模型的对抗攻击进行了深入评估，发现许多分类任务的观察结果并不能直接转移到更复杂的任务上，同时展示了深层结构模型中的平均场推理、多尺度处理等方法如何自然地实现最近提出的对抗性防御。这些发现有助于未来理解和防御对抗性攻击，并有效评估分割模型的鲁棒性。

Nov, 2017

SADA：自主应用程序语义对抗性诊断攻击

为了解决深度神经网络的鲁棒性问题，文中提出了一种针对训练代理的通用框架，覆盖了对代理环境进行语义扰动和像素级攻击的情况，主要针对自主导航的几个方面，BBGAN 攻击可以生成一致愚弄训练代理的失败案例。

Dec, 2018

自主驾驶多任务视觉感知的对抗攻击

本文针对自主驾驶感知任务中的多任务视觉感知深度网络，进行了细致的对抗攻击研究，并提出了简单的防御方法。实验考虑了针对性和非针对性的白盒和黑盒攻击，以及在攻击一个任务时检查对其他任务的影响，同时还检查了应用简单防御方法的效果。最后通过对实验结果进行比较和讨论，提出了一些结论和未来研究方向。

Jul, 2021

用于逃避物体检测模型的动态对抗贴片

该研究使用动态对抗性贴片攻击实际场景下的对象检测器，并通过生成考虑目标物品与分类之间的语义距离的贴片方法进行优化，成功地在广阔的视角范围内将 YOLOv2 对象检测器误导了 90％，并在不同汽车模型之间成功误导检测器 71％。

Oct, 2020