通过对语义分割的案例研究，本文首次探索了对语义分割的黑盒决策攻击，并提出了一种名为离散线性攻击（DLA）的决策攻击方法，通过随机搜索和代理指数实现了高效攻击效果，评估了 5 个模型在 8 种攻击下的对抗鲁棒性。DLA 在 Cityscapes 任务上表现出强大的能力，仅通过 50 个查询将 PSPNet 的 mIoU 从 77.83% 大幅降至 2.14%。

Feb, 2024

生成通用分割模型可以从各种提示（包括视觉和文本提示）中生成语义分割掩码，作者提出了一种生成与提示无关的对抗性攻击方法，通过在潜空间中最大化原始图像和扰动图像的编码之间的 L2 距离来扰乱各种提示下分割掩码。该攻击能在几乎无法察觉到的篡改下改变最新的分割模型对于点、框和文本提示的掩码预测，并探索了创建通用攻击的可能性，即能够直接应用于任何输入而无需进一步的计算成本。

Nov, 2023

本文探讨了在对语义分割模型进行敌对攻击时所面临的挑战性问题，并提出了相应的解决方案。最终我们得出的评估方案优于现有方法，同时表明敌对训练在语义分割中的应用因其更具挑战性的任务和更高的计算代价而受到限制。然而，通过利用强 Robust ImageNet 分类器的最新进展，我们可以在有限的计算成本下通过微调达到敌对训练和语义分割的效果

Jun, 2023

本研究提出基于不确定性的语义分割对抗攻击检测方法，不需修改模型或了解对抗样本生成过程，通过熵等指标区分干净和攻击图片，在多种对抗攻击类型下检测效果良好。

May, 2023

本文提出了一种基于黑盒技术的新型对抗样本攻击方法，针对原始图像最小化 l0 距离。实验证明，该攻击方法优于或与现有技术相当。同时，我们可引入部件约束来提高分类器对稀疏和不可察觉的对抗性操纵的鲁棒性。

Sep, 2019

本文探讨了机器学习和深度神经网络在语义分割任务上遭受对抗性干扰的问题，证实了对抗性攻击对该任务也具有显著影响，可以通过不可察觉的对抗性扰动诱导深度神经网络对某一类别像素的错误分类而几乎不影响该类别以外像素的分类。

Mar, 2017

本研究提出了一种名为 PSGL 的方法，通过攻击廓清晰度和深度神经网络的训练过程，并引入贴近梯度方法来防御模型反演攻击，并在公开数据集上取得 14.0％、17.9％和 36.9％的诊断准确率提升。

Jan, 2022

对现代语义分割模型的对抗攻击进行了深入评估，发现许多分类任务的观察结果并不能直接转移到更复杂的任务上，同时展示了深层结构模型中的平均场推理、多尺度处理等方法如何自然地实现最近提出的对抗性防御。这些发现有助于未来理解和防御对抗性攻击，并有效评估分割模型的鲁棒性。

Nov, 2017

本文介绍了一种基于不确定性加权方案的损失函数，用于对抗攻击，通过将更容易受到干扰的像素分类放大并清零已经被错误分类的像素的损失，以提高扰动性能。在多个数据集和模型的实证分析中，我们证明了这些加权方案能够显著改善扰动性能。

Oct, 2023

本研究探索了对语义分割数据进行通用对抗训练的方法，提出了动态分治对抗训练（DDC-AT）策略，将像素分为多个分支，以增强对抗攻击的防御效果。实验表明，DDC-AT 在白盒和黑盒攻击下都具有令人满意的性能。

Mar, 2020