语义分割模型对抗攻击的鲁棒性

CVPRNov, 2017

On the Robustness of Semantic Segmentation Models to Adversarial Attacks

Anurag Arnab, Ondrej Miksik, Philip H.S. Torr

TL;DR对现代语义分割模型的对抗攻击进行了深入评估，发现许多分类任务的观察结果并不能直接转移到更复杂的任务上，同时展示了深层结构模型中的平均场推理、多尺度处理等方法如何自然地实现最近提出的对抗性防御。这些发现有助于未来理解和防御对抗性攻击，并有效评估分割模型的鲁棒性。

Abstract

deep neural networks (DNNs) have demonstrated exceptional performance on most recognition tasks such as image classification and segmentation. However, they have also been shown to be vulnerable to adversarial examples<

deep neural networks adversarial examples semantic segmentation model capacity robustness

发现论文，激发创造

鲁棒语义分割：强对抗攻击和鲁棒模型快速训练

本文探讨了在对语义分割模型进行敌对攻击时所面临的挑战性问题，并提出了相应的解决方案。最终我们得出的评估方案优于现有方法，同时表明敌对训练在语义分割中的应用因其更具挑战性的任务和更高的计算代价而受到限制。然而，通过利用强 Robust ImageNet 分类器的最新进展，我们可以在有限的计算成本下通过微调达到敌对训练和语义分割的效果

Jun, 2023

语义图像分割的对抗性样本

本文探讨了机器学习和深度神经网络在语义分割任务上遭受对抗性干扰的问题，证实了对抗性攻击对该任务也具有显著影响，可以通过不可察觉的对抗性扰动诱导深度神经网络对某一类别像素的错误分类而几乎不影响该类别以外像素的分类。

Mar, 2017

基于不确定性的语义分割对抗攻击检测

本研究提出基于不确定性的语义分割对抗攻击检测方法，不需修改模型或了解对抗样本生成过程，通过熵等指标区分干净和攻击图片，在多种对抗攻击类型下检测效果良好。

May, 2023

评估语义分割模型的对抗鲁棒性

该研究提出了一种基于梯度的迭代攻击方法来评估在语义图像分割领域中防御对抗扰动的模型的鲁棒性，并发现只有使用对抗样本进行训练才能获得鲁棒性，并分析了鲁棒性和准确性之间的权衡。

Jun, 2023

自主驾驶实时语义分割模型的现实世界的对抗鲁棒性

该研究评估并提出改进方法，以提高当受到数字、模拟和实际的对抗性补丁攻击时，对语义分割模型的稳健性。研究结果表明，尽管对抗效果在数字和真实攻击中可见，但其影响通常局限于图像周围的补丁区域，这就打开了进一步探讨实时语义分割模型的空间鲁棒性的问题。

Jan, 2022

对抗性对齐：打破攻击强度和其对人类感知的相关性之间的权衡

通过研究和比较多种神经网络，本文发现随着图片识别准确度的提高，对抗性攻击虽然越来越容易使模型改变分类决策，但同时攻击的特征也越来越远离与人类视觉识别相关的特征，即使人工以同样方式造成的影响。而通过神经协调器网络的训练，可以使神经网络更加接近人类视觉识别应有模式，从而提高对抗性攻击下的鲁棒性。

Jun, 2023

基于空间一致性信息的对抗样本特征刻画于语义分割

本文旨在通过空间上下文信息表征对语义分割中的对抗样本进行防御，发现空间一致性信息可以被潜在地利用来检测对抗样本，本文所考虑的攻击型对抗样本在模型之间几乎不能传递，这些观察结果为研究如何应对和理解 DNNs 的弱点提供了新的视角。

Oct, 2018

关于基于补丁的对抗攻击在语义分割问题上的可行性和普适性

本研究通过简单的案例研究，在模拟和实际生活中证明了补丁攻击可用于改变分割网络的输出。通过一些例子和网络复杂性的研究，我们还证明了在给定大小的补丁攻击中可以生成的可能输出图的数量通常小于它们影响的区域或在实际应用中应该攻击的区域。我们将证明，基于这些结果，大多数基于补丁的攻击在实践中不可能是通用的，即它们不能生成任意输出图或者如果可以，它们的空间范围明显小于补丁的感受野。

May, 2022

自主驾驶多任务视觉感知的对抗攻击

本文针对自主驾驶感知任务中的多任务视觉感知深度网络，进行了细致的对抗攻击研究，并提出了简单的防御方法。实验考虑了针对性和非针对性的白盒和黑盒攻击，以及在攻击一个任务时检查对其他任务的影响，同时还检查了应用简单防御方法的效果。最后通过对实验结果进行比较和讨论，提出了一些结论和未来研究方向。

Jul, 2021

对抗鲁棒性基准测试

本研究旨在建立一个全面、严谨、连贯的标准来评估对抗性鲁棒性，通过两个鲁棒性曲线作为公正的评估标准来进行大规模实验，全面掌握攻击与防御方法的表现并得出重要结论和未来研究的启示。

Dec, 2019