本文介绍了一种算法，用于分析操作 3D 数据的神经网络的点对点健壮性，并展示了当前方法过度估计模型的韧性，进而评估了一系列最先进模型的韧性，指出它们对于遮挡攻击的脆弱性，并最终发现这些网络在最坏情况下，可以在占据输入空间不超过 6.5％的遮挡下降至 0％的分类准确率。

Apr, 2019

本文探讨了在对语义分割模型进行敌对攻击时所面临的挑战性问题，并提出了相应的解决方案。最终我们得出的评估方案优于现有方法，同时表明敌对训练在语义分割中的应用因其更具挑战性的任务和更高的计算代价而受到限制。然而，通过利用强 Robust ImageNet 分类器的最新进展，我们可以在有限的计算成本下通过微调达到敌对训练和语义分割的效果

Jun, 2023

该研究评估并提出改进方法，以提高当受到数字、模拟和实际的对抗性补丁攻击时，对语义分割模型的稳健性。研究结果表明，尽管对抗效果在数字和真实攻击中可见，但其影响通常局限于图像周围的补丁区域，这就打开了进一步探讨实时语义分割模型的空间鲁棒性的问题。

Jan, 2022

对现代语义分割模型的对抗攻击进行了深入评估，发现许多分类任务的观察结果并不能直接转移到更复杂的任务上，同时展示了深层结构模型中的平均场推理、多尺度处理等方法如何自然地实现最近提出的对抗性防御。这些发现有助于未来理解和防御对抗性攻击，并有效评估分割模型的鲁棒性。

Nov, 2017

室内自由空间分割方法，利用无监督掩蔽技术根据纹理均匀性和深度均匀性生成分割标签，结合密集预测 Transformer 中提取的特征与高深度区域生成超像素，通过在自定义室内数据集上对估计的自由空间掩码和 DPT 特征表示进行精调，展示了在复杂场景中表现良好，包括拥挤障碍物和自由空间较难识别的情况。

Nov, 2023

本研究调查了在越野自动驾驶领域中，语义分割模型对于对抗性输入扰动的脆弱性。尽管在一般条件下表现良好，但现有的最先进分类器经常容易受到（甚至是）轻微扰动的影响，最终导致高自信度的不准确预测。我们的研究旨在填补这一空白，通过研究非鲁棒特征对越野数据集中的对抗性攻击的影响，并比较不同分割网络架构对对抗性攻击的效果。为实现这一目标，我们创建了一个鲁棒数据集，其中只包含鲁棒特征，并在这个鲁棒化数据集上训练网络。我们对研究结果进行了定性和定量分析，这对于提高越野自动驾驶应用中机器学习模型的鲁棒性具有重要意义。此外，本工作通过评估分割输出的鲁棒性，为 Unimog U5023 自主机器人在复杂越野无结构环境中的安全导航做出了贡献。该代码公开可用于 https://github.com/rohtkumar/adversarial_attacks_on_segmentation。

Feb, 2024

该研究提出了一种基于梯度的迭代攻击方法来评估在语义图像分割领域中防御对抗扰动的模型的鲁棒性，并发现只有使用对抗样本进行训练才能获得鲁棒性，并分析了鲁棒性和准确性之间的权衡。

Jun, 2023

本文旨在研究一种多光谱（RGB 和近红外）图像分割模型在遭受对抗攻击和自然扰动时的性能和鲁棒性，并发现，无论是 RGB 模型还是多光谱模型都容易受到数据污染攻击的影响。然而，自然扰动的影响取决于融合架构和输入数据的不同。

May, 2023

本文介绍了一种在预测自动驾驶系统的轨迹时防御对抗性攻击的方法，该方法包括设计有效的对抗训练方法和添加特定领域的数据增强来减少在净数据上的性能损失。作者通过验证表明，相较于只使用纯净数据训练的模型，该方法在对抗数据上性能提高了 46％，并只降低了 3％的净数据性能。此外，相较于现有鲁棒方法，该方法在对抗样本上的性能提高了 21％，在干净数据上的性能提高了 9％。通过对规划器的评估，研究了我们的鲁棒模型对下游影响，证明该模型可以显著减少严重事故率（例如碰撞和越野驾驶）。

Jul, 2022

医学影像分割模型容易受到对抗性攻击，参数大小与对抗性攻击成功率之间没有明显的相关性，并使用不同于训练所用的损失函数可提高对抗性攻击的成功率。

Jan, 2024