CVPRMay, 2016

对抗多样性与艰难正样例生成

PDF
TL;DR我们提出了一种新的心理测量感知对抗性相似性评分（PASS）方法，用于量化对抗性图像，并引入了艰难正例生成的概念，使用广泛的对抗扰动 - 而不仅仅是最接近的对抗扰动 - 进行数据增强。我们介绍了一种新颖的热 / 冷方法来生成对抗性例子，为每个单独的图像提供多个可能的对抗扰动，这些扰动通常对应于语义上有意义的图像结构，并允许更大的灵活性来缩放扰动幅度，从而产生更多样化的对抗图像。最后，我们证明了在 MNIST 和 ImageNet 数据集上通过使用我们的方法训练的深度神经网络相对于现有方法的鲁棒性更强。
deep neural networksadversarial examplesperceptual adversarial similarity scoredata augmentationhard positive generation
发现论文，激发创造
  • 生成对抗扰动

    该研究提出了新型生成模型，用于制造近似自然图像但又能欺骗先前训练好的模型的略微扰动的对抗性样本。通过在具有挑战性的高分辨率数据集上的实验，它证明了这种扰动具有高弄虚率和较小的扰动规模，并且比当前的迭代方法更快。

    Dec, 2017

  • 语义对抗样本

    本文提出了一种新类的对抗样本 ——“语义对抗样本”，即通过对图像进行任意扰动来欺骗模型，但修改后的图像在语义上代表的仍是原始图像，通过构建约束优化问题和基于人类认知系统的形状偏置特性的对抗变换，生成对抗图像的颜色转移极大影响了 Deep neural networks 模型精度。

    Mar, 2018

  • 基于感知度量的任务通用性对抗攻击

    提出一种基于永续度量的方法，通过创造高度扭曲网络特征空间的攻击来达到高度通用的敌对样本，旨在打破相对有限的目前攻击的限制，并可将其通过多个网络扩展到多个任务。

    Nov, 2018

  • 深度网络的简单黑盒对抗扰动

    研究表明，即使没有内部知识，对深度卷积神经网络进行黑盒攻击并制造对抗性样本是可行的，这暴露了深度神经网络的弱点，为设计安全的网络提供了检验。

    Dec, 2016

  • 使用对抗网络生成对抗性样本

    本文提出了 AdvGAN，一种使用生成对抗网络产生高感知质量的对抗样本的方法，可以更高效地生成对抗性的扰动用于敌对训练，同时在半白盒和黑盒攻击设置下，AdvGAN 都能在 MNIST 黑盒攻击竞赛中取得 92.76％的攻击成功率。

    Jan, 2018

  • 通过语义操纵生成无限制对抗性样本

    通过引入语义感知扰动来生成有效和逼真的对抗性样本，该方法在复杂数据集（如 ImageNet 和 MSCOCO）上针对图像分类和图像字幕任务进行了有效应用，且经综合用户研究证明其较其他攻击更为逼真。

    Apr, 2019

  • NAG: 对抗生成网络

    本文提出了一种基于生成对抗网络的方法，通过优化骗过分类器的目标和增加多样性的目标训练生成器，从而模拟对抗性扰动的分布，生成多样的对抗性扰动，实现了在各种分类器上实现骗过率最大化，展示出了更好的通用性。

    Dec, 2017

  • GAP++: 学习生成目标条件下对抗性样本

    提出一种更通用的框架，该框架可以推断基于输入图像和目标标签的目标条件扰动，通过学习攻击目标与图像中的语义关系。在 MNIST 和 CIFAR10 数据集的广泛实验中，该方法实现了超越单目标攻击模型的优异性能，并以小扰动范数获得高愚弄率。

    Jun, 2020

  • 通过输入多样性来提高对抗性样本的可迁移性

    利用多样化的输入模式来生成对抗样本，实现更好的对抗样本传递性，评估该方法在不同防御方法下的对抗成功率，并在 NIPS 2017 对抗比赛中获得了 73.0% 的平均成功率，从而提高了对抗攻击的基准线。

    Mar, 2018

  • 针对语义分割和物体检测的对抗样本

    本文研究了在语义分割和物体检测领域中存在的对抗样本，并通过一种名为 DAG（Dense Adversary Generation）的算法来产生大量对抗样本，可以应用于各种先进的深度网络架构，除此之外还发现了对抗扰动可以在不同的训练数据、不同的架构以及不同的任务之间进行传递，尤其是在具有相同架构的网络之间的可传递性更加显著；此外，对多个异构扰动进行求和通常会导致更好的传递性能，这提供了一种有效的黑盒对抗攻击方法。

    Mar, 2017