Jun, 2020

利用逐层自编码器进行敌对样本检测与分析

HTML
PDF
TL;DR本研究提出了一种基于目标网络隐藏层数据表示的机制来检测对抗性样本，该机制训练了目标网络中间层的单独的自编码器，可以描述真实数据的流形，从而判断一个给定的例子是否具有与真实数据相同的特征，并探究对抗性样本在深度神经网络层中的行为。实验结果表明，我们的方法在监督和无监督环境中表现优于现有技术水平。
发现论文，激发创造
  • 面向对抗样本具鲁棒性的深度神经网络架构

    该研究论文研究了深度神经网络的鲁棒性问题，特别是针对对抗样本的攻击。通过探索神经网络的结构，拓扑结构，预处理和训练策略等方面来提高深度神经网络的抗干扰能力，并且通过引入平滑性惩罚来提高其稳健性。

    Dec, 2014

  • 解释和利用对抗样本

    机器学习模型因神经网络的线性特性容易受到对抗性扰动的影响，该现象不同于过拟合和非线性，但可以通过生成对抗性训练样本来减小MNIST数据集中maxout网络的误差。

    Dec, 2014

  • 对抗样本的统一梯度正则化方法族

    本文提出了一种统一框架来构建抵御对抗样本的强大机器学习模型，并通过梯度正则化方法有效地对代价函数的梯度进行惩罚，从而达到鲁棒性的目的。实验证明，该方法在两个基准数据集上达到了最佳精度。

    Nov, 2015

  • 针对变分自编码器的对抗性图像

    研究了对自编码器的对抗攻击，提出了一种畸变输入图像的方法来产生与目标图像不同的自编码器输出，发现自编码器比分类器更抗对抗攻击，同时研究表明，对分类器的常规对抗攻击存在输入畸变和输出误导之间的直接比例关系。

    Dec, 2016

  • 使用卷积滤波器统计量检测深度网络中的对抗性样本

    本文提出了一种基于卷积层输出统计的级联分类器来有效检测深度神经网络中的对抗性样本，并且这种分类器是不可微分的，从而难以通过添加梯度干扰攻击；此外，利用小型均值滤波器可以恢复传统的对抗性样本，并且结果提供了更多关于深度卷积神经网络分类机制的见解。

    Dec, 2016

  • 对抗样本不容易被检测到：绕过十种检测方法

    对10种检测对抗样本的最新提议进行比较后得出：它们都可以被利用新的损失函数打败，因此推测对抗样本的固有属性实际上是不存在的。作者提出了一些简单的评估准则来评估未来提出的防御措施。

    May, 2017

  • 通过输入转换、防御扰动和投票检测对抗性样本

    本文探讨在可对抗的变形情况下检测对抗攻击，并提出一种名为 defense perturbation 的新方法来检测具有相同输入变换与可靠的对抗攻击。同时介绍了多网络对抗例子，这种对抗例子可以同时欺骗多个网络。

    Jan, 2021

  • 通过分解表示进行自监督的对抗样本检测

    该论文提出了一种名为DRR的新方法，它使用自编码器结构进行对抗性样本检测，并采用解缠表示来减少不必要的自编码器泛化能力，能够在视觉任务和自然语言任务中提供抗适应性对抗性攻击，并在各种度量标准下表现出更好的性能。

    May, 2021

  • 无监督模型解释技术检测对抗样本

    本文提出一种使用模型解释方法检测异常样例的无监督方法，并在 MNIST 数据集上展现了该方法高效检测最先进算法所产生的对手样本。

    Jul, 2021

  • AdvCheck: 通过本地梯度检查特征对抗性示例

    介绍一种新的针对深度神经网络攻击问题的检测方法 AdvCheck，其利用 local gradient 对对抗样本和误分类自然输入进行精确区分，能够获得比现有技术更高的检测率和更低的计算成本。

    Mar, 2023