ECCVOct, 2018

基于空间一致性信息的对抗样本特征刻画于语义分割

PDF
TL;DR本文旨在通过空间上下文信息表征对语义分割中的对抗样本进行防御，发现空间一致性信息可以被潜在地利用来检测对抗样本，本文所考虑的攻击型对抗样本在模型之间几乎不能传递，这些观察结果为研究如何应对和理解 DNNs 的弱点提供了新的视角。
deep neural networksadversarial examplessemantic segmentationspatial context informationadversarial attacks
发现论文，激发创造
  • 语义分割模型对抗攻击的鲁棒性

    对现代语义分割模型的对抗攻击进行了深入评估，发现许多分类任务的观察结果并不能直接转移到更复杂的任务上，同时展示了深层结构模型中的平均场推理、多尺度处理等方法如何自然地实现最近提出的对抗性防御。这些发现有助于未来理解和防御对抗性攻击，并有效评估分割模型的鲁棒性。

    Nov, 2017

  • SemanticAdv: 基于属性条件图像编辑的生成对抗样本方法

    本研究旨在探索语义干扰对深度神经网络预测结果的影响，并通过提出的算法 SemanticAdv 来生成对各种 “对抗性” 目标偏离的扰动，从而欺骗深度神经网络。实验结果表明，具有控制语义干扰的对抗性例子不仅可以迷惑不同的学习任务，还可以对抗基于迁移的真实世界黑盒服务。

    Jun, 2019

  • 语义图像分割的对抗性样本

    本文探讨了机器学习和深度神经网络在语义分割任务上遭受对抗性干扰的问题，证实了对抗性攻击对该任务也具有显著影响，可以通过不可察觉的对抗性扰动诱导深度神经网络对某一类别像素的错误分类而几乎不影响该类别以外像素的分类。

    Mar, 2017

  • 针对语义分割和物体检测的对抗样本

    本文研究了在语义分割和物体检测领域中存在的对抗样本，并通过一种名为 DAG（Dense Adversary Generation）的算法来产生大量对抗样本，可以应用于各种先进的深度网络架构，除此之外还发现了对抗扰动可以在不同的训练数据、不同的架构以及不同的任务之间进行传递，尤其是在具有相同架构的网络之间的可传递性更加显著；此外，对多个异构扰动进行求和通常会导致更好的传递性能，这提供了一种有效的黑盒对抗攻击方法。

    Mar, 2017

  • 语义对抗样本

    本文提出了一种新类的对抗样本 ——“语义对抗样本”，即通过对图像进行任意扰动来欺骗模型，但修改后的图像在语义上代表的仍是原始图像，通过构建约束优化问题和基于人类认知系统的形状偏置特性的对抗变换，生成对抗图像的颜色转移极大影响了 Deep neural networks 模型精度。

    Mar, 2018

  • 基于不确定性的语义分割对抗攻击检测

    本研究提出基于不确定性的语义分割对抗攻击检测方法，不需修改模型或了解对抗样本生成过程，通过熵等指标区分干净和攻击图片，在多种对抗攻击类型下检测效果良好。

    May, 2023

  • 遥感中的对抗性样本

    本文研究机器学习算法在遥感应用中的攻击，并在卫星图像分类问题的背景下对对抗样本进行了新的研究，同时考虑了现实世界的实际问题。

    May, 2018

  • 利用多物体关系检测复杂场景中的对抗攻击

    通过使用语言模型，我们开发了一种新方法来检测图像义务的一致性，即在自然场景的语言描述中捕捉物体共现关系，这种方法不仅适用于特定模型，而且对于多个物体的实际场景中检测对抗性样本具有非常高的精度。

    Aug, 2021

  • 连接点：利用语境不一致性检测敌对扰动

    本研究提出了一种基于上下文一致性规则学习的深度神经网络攻击检测方法，通过建立了一组自动编码器来检测违反上下文一致性规则的对抗扰动，实验证明该方法可以有效检测各种对抗攻击。

    Jul, 2020

  • 通过语义操纵生成无限制对抗性样本

    通过引入语义感知扰动来生成有效和逼真的对抗性样本，该方法在复杂数据集（如 ImageNet 和 MSCOCO）上针对图像分类和图像字幕任务进行了有效应用，且经综合用户研究证明其较其他攻击更为逼真。

    Apr, 2019