ICCVMar, 2017

针对语义分割和物体检测的对抗样本

PDF
TL;DR本文研究了在语义分割和物体检测领域中存在的对抗样本，并通过一种名为 DAG（Dense Adversary Generation）的算法来产生大量对抗样本，可以应用于各种先进的深度网络架构，除此之外还发现了对抗扰动可以在不同的训练数据、不同的架构以及不同的任务之间进行传递，尤其是在具有相同架构的网络之间的可传递性更加显著；此外，对多个异构扰动进行求和通常会导致更好的传递性能，这提供了一种有效的黑盒对抗攻击方法。
发现论文，激发创造
  • 语义图像分割的对抗性样本

    本文探讨了机器学习和深度神经网络在语义分割任务上遭受对抗性干扰的问题，证实了对抗性攻击对该任务也具有显著影响，可以通过不可察觉的对抗性扰动诱导深度神经网络对某一类别像素的错误分类而几乎不影响该类别以外像素的分类。

    Mar, 2017

  • 语义对抗样本

    本文提出了一种新类的对抗样本 ——“语义对抗样本”，即通过对图像进行任意扰动来欺骗模型，但修改后的图像在语义上代表的仍是原始图像，通过构建约束优化问题和基于人类认知系统的形状偏置特性的对抗变换，生成对抗图像的颜色转移极大影响了 Deep neural networks 模型精度。

    Mar, 2018

  • 基于不确定性的语义分割对抗攻击检测

    本研究提出基于不确定性的语义分割对抗攻击检测方法，不需修改模型或了解对抗样本生成过程，通过熵等指标区分干净和攻击图片，在多种对抗攻击类型下检测效果良好。

    May, 2023

  • 图像和视频对象检测的可传递对抗性攻击

    本研究提出了一种基于生成对抗网络（GAN）框架的方法，通过联合训练高级别类别损失和低级别特征损失，获得生成对抗图像和视频，并成功解决了对目标检测模型的对抗攻击中存在的二合一问题：低的迁移能力和高的计算成本。

    Nov, 2018

  • 分割模型的对抗样本易于传递

    该研究探讨了深度神经网络中对抗样本的传递性问题，研究发现在语义分割模型中，由于其具有多尺度目标识别的特性，传递性存在限制。提出了一种称之为动态尺度调节的简单而有效的方法来解决该问题。经过大量实验证明，该方法能够实现高效的传递性。

    Nov, 2021

  • 带有目标的对抗样本的通用框架

    本文提出了一种通用方法 - 对抗生成网络（AGNs），通过训练一个生成器神经网络输出满足特定目标的对抗样本来解决扰动图像误分类的问题，并在两个应用领域进行了演示。

    Dec, 2017

  • 针对语义图像分割的通用对抗扰动

    本篇论文探究如何通过生成普遍的对抗扰动，使卷积神经网络的语义图像分割结果变为预设的结果，同时还研究了去除语义图像中某个目标类别的扰动。

    Apr, 2017

  • 基于感知度量的任务通用性对抗攻击

    提出一种基于永续度量的方法，通过创造高度扭曲网络特征空间的攻击来达到高度通用的敌对样本，旨在打破相对有限的目前攻击的限制，并可将其通过多个网络扩展到多个任务。

    Nov, 2018

  • 深度网络的简单黑盒对抗扰动

    研究表明，即使没有内部知识，对深度卷积神经网络进行黑盒攻击并制造对抗性样本是可行的，这暴露了深度神经网络的弱点，为设计安全的网络提供了检验。

    Dec, 2016

  • 生成对抗扰动

    该研究提出了新型生成模型，用于制造近似自然图像但又能欺骗先前训练好的模型的略微扰动的对抗性样本。通过在具有挑战性的高分辨率数据集上的实验，它证明了这种扰动具有高弄虚率和较小的扰动规模，并且比当前的迭代方法更快。

    Dec, 2017