用于改进对语义分割的对抗攻击的不确定性加权损失函数

Oct, 2023

用于改进对语义分割的对抗攻击的不确定性加权损失函数

Uncertainty-weighted Loss Functions for Improved Adversarial Attacks on Semantic Segmentation

Kira Maag, Asja Fischer

TL;DR本文介绍了一种基于不确定性加权方案的损失函数，用于对抗攻击，通过将更容易受到干扰的像素分类放大并清零已经被错误分类的像素的损失，以提高扰动性能。在多个数据集和模型的实证分析中，我们证明了这些加权方案能够显著改善扰动性能。

Abstract

State-of-the-art deep neural networks have been shown to be extremely powerful in a variety of perceptual tasks like semantic segmentation. However, these networks are vulnerable to adversarial perturbations of the input which are imperceptible for humans but lead to incorrect predicti

deep neural networks adversarial attacks image segmentation uncertainty-based weighting schemes perturbation performance

发现论文，激发创造

基于不确定性的语义分割对抗攻击检测

本研究提出基于不确定性的语义分割对抗攻击检测方法，不需修改模型或了解对抗样本生成过程，通过熵等指标区分干净和攻击图片，在多种对抗攻击类型下检测效果良好。

May, 2023

针对语义图像分割的通用对抗扰动

本篇论文探究如何通过生成普遍的对抗扰动，使卷积神经网络的语义图像分割结果变为预设的结果，同时还研究了去除语义图像中某个目标类别的扰动。

Apr, 2017

语义图像分割的对抗性样本

本文探讨了机器学习和深度神经网络在语义分割任务上遭受对抗性干扰的问题，证实了对抗性攻击对该任务也具有显著影响，可以通过不可察觉的对抗性扰动诱导深度神经网络对某一类别像素的错误分类而几乎不影响该类别以外像素的分类。

Mar, 2017

语义分割时代的损失函数：调查与展望

本综述系统地评估了用于图像分割的 25 种损失函数，并提出了分类法和评估方法，以帮助研究人员找到适用于其应用的最佳损失函数。对医疗和自然图像数据集进行了中立评估，并指出了当前挑战和未来研究机会。

Dec, 2023

鲁棒语义分割：强对抗攻击和鲁棒模型快速训练

本文探讨了在对语义分割模型进行敌对攻击时所面临的挑战性问题，并提出了相应的解决方案。最终我们得出的评估方案优于现有方法，同时表明敌对训练在语义分割中的应用因其更具挑战性的任务和更高的计算代价而受到限制。然而，通过利用强 Robust ImageNet 分类器的最新进展，我们可以在有限的计算成本下通过微调达到敌对训练和语义分割的效果

Jun, 2023

自主驾驶实时语义分割模型的现实世界的对抗鲁棒性

该研究评估并提出改进方法，以提高当受到数字、模拟和实际的对抗性补丁攻击时，对语义分割模型的稳健性。研究结果表明，尽管对抗效果在数字和真实攻击中可见，但其影响通常局限于图像周围的补丁区域，这就打开了进一步探讨实时语义分割模型的空间鲁棒性的问题。

Jan, 2022

利用不确定性来加权损失的多任务学习，用于场景几何和语义

本文提出了一种基于系统中每个任务的均方差误差的权重的深度学习多任务学习方法，可以同时处理分类和回归任务，并在主管深度估计、语义和实例分割方面展示了比独立训练的模型更好的表现。

May, 2017

评估语义分割模型的对抗鲁棒性

该研究提出了一种基于梯度的迭代攻击方法来评估在语义图像分割领域中防御对抗扰动的模型的鲁棒性，并发现只有使用对抗样本进行训练才能获得鲁棒性，并分析了鲁棒性和准确性之间的权衡。

Jun, 2023

通过像素级不确定性估计实现通用性医学图像分割

本文提出一种新的基于不确定性估计的框架用于医学图像分割任务，以突出难以分类的像素，并提高深度神经网络的泛化能力。实验结果表明，该方法优于现有技术。

May, 2023

语义分割模型对抗攻击的鲁棒性

对现代语义分割模型的对抗攻击进行了深入评估，发现许多分类任务的观察结果并不能直接转移到更复杂的任务上，同时展示了深层结构模型中的平均场推理、多尺度处理等方法如何自然地实现最近提出的对抗性防御。这些发现有助于未来理解和防御对抗性攻击，并有效评估分割模型的鲁棒性。

Nov, 2017