Apr, 2019

通过激活增强和抑制解释对抗样本

PDF
TL;DR本文旨在更好地理解对 CNNs 的对抗扰动机制，并从像素、图像和网络视角提供可视化解释，证明对抗扰动具有促进 - 抑制效应（PSE），并可以主要分类为三种类型：压制型扰动、推广型扰动和平衡扰动。 它在像素级扰动的 PSE 与定位的类特定判别性图像区域之间提供图像级可解释性，并通过网络分解检查了对抗性的效应，这提供了隐藏单元的概念级可解释性。 在我们的解释下，提供了一些新的见解来提高网络的对抗性强度。
发现论文，激发创造
  • 通过语义操纵生成无限制对抗性样本

    通过引入语义感知扰动来生成有效和逼真的对抗性样本，该方法在复杂数据集（如 ImageNet 和 MSCOCO）上针对图像分类和图像字幕任务进行了有效应用，且经综合用户研究证明其较其他攻击更为逼真。

    Apr, 2019

  • 语义图像分割的对抗性样本

    本文探讨了机器学习和深度神经网络在语义分割任务上遭受对抗性干扰的问题，证实了对抗性攻击对该任务也具有显著影响，可以通过不可察觉的对抗性扰动诱导深度神经网络对某一类别像素的错误分类而几乎不影响该类别以外像素的分类。

    Mar, 2017

  • 深度网络的简单黑盒对抗扰动

    研究表明，即使没有内部知识，对深度卷积神经网络进行黑盒攻击并制造对抗性样本是可行的，这暴露了深度神经网络的弱点，为设计安全的网络提供了检验。

    Dec, 2016

  • 从图像和扰动的相互影响理解对抗性样本

    通过利用 DNN logits 向量，并基于 Pearson 相关系数（PCC）分析两个独立输入的相互影响，我们提出了一种新的对抗样本分析方法。我们的结果表明，通用扰动包含显著特征，而图像对它们则表现得像噪声。利用代理数据集实现的我们发现的一种新的攻击方法，可以生成面向目标的通用对抗性扰动，其性能与使用原始训练数据的最先进基线相当。

    Jul, 2020

  • 通过通道级激活抑制来提高对抗性鲁棒性

    本文从渠道角度分析对抗 perturbations 特性，提出了一种基于通道的抑制策略 (CAS) 用于训练一个本质上抑制对抗激活的模型，进一步改善现有防御方法的鲁棒性。

    Mar, 2021

  • 通过输入转换、防御扰动和投票检测对抗性样本

    本文探讨在可对抗的变形情况下检测对抗攻击，并提出一种名为 defense perturbation 的新方法来检测具有相同输入变换与可靠的对抗攻击。同时介绍了多网络对抗例子，这种对抗例子可以同时欺骗多个网络。

    Jan, 2021

  • SemanticAdv: 基于属性条件图像编辑的生成对抗样本方法

    本研究旨在探索语义干扰对深度神经网络预测结果的影响，并通过提出的算法 SemanticAdv 来生成对各种 “对抗性” 目标偏离的扰动，从而欺骗深度神经网络。实验结果表明，具有控制语义干扰的对抗性例子不仅可以迷惑不同的学习任务，还可以对抗基于迁移的真实世界黑盒服务。

    Jun, 2019

  • 深度神经网络对抗性图像注意力降低

    通过分析 Saliency Maps 和 Gradient-weighted Class Activation Maps 的方式，研究 Adversarial algorithms 如何影响神经网络的关注点，防止了一些防御成功而留下另一些迎接攻击的漏洞。

    Jun, 2021

  • 攻击遇上可解释性：基于特征的对抗样本检测

    该论文提出基于解释性的对抗样本检测技术，通过对神经元的双向对应推断来对抗样本进行检测，实验表明该方法在检测 7 种不同类型的攻击时能够达到 94% 的准确率， 误判率为 9.91%。

    Oct, 2018

  • 学习对抗性扰动的理论理解

    理论框架揭示了扰动中包含了足够的类别特征以实现泛化，并且学习扰动的决策边界与标准样本的决策边界在大部分区域上相一致。

    Feb, 2024