无监督模型解释技术检测对抗样本

KDDJul, 2021

无监督模型解释技术检测对抗样本

Unsupervised Detection of Adversarial Examples with Model Explanations

Gihyuk Ko, Gyumin Lim

TL;DR本文提出一种使用模型解释方法检测异常样例的无监督方法，并在 MNIST 数据集上展现了该方法高效检测最先进算法所产生的对手样本。

Abstract

deep neural networks (DNNs) have shown remarkable performance in a diverse range of machine learning applications. However, it is widely known that DNNs are vulnerable to simple adversarial perturbations, which causes the model to incorrectly classify inputs. In this paper, we propose

deep neural networks adversarial examples detection unsupervised defense method model explanations

发现论文，激发创造

高效的对抗攻击防御

本文提出了一种基于实践观察的新的防御方法，旨在强化深度神经网络的结构，提高其预测稳定性，从而更难受到针对性攻击，并在多种攻击实验中证明了该方法的有效性，相比其他防御方法具有更好的表现，而且在训练过程中的开销几乎可以忽略不计。

Jul, 2017

检测来自伪像的对抗性样本

本文介绍了一种利用深度学习神经网络中 Bayesian 不确定性估计和密度估计的方法，可以实现对于对抗样本的检测，具有很好的泛化性能，并在标准分类任务上取得了 85-93% 的 ROC-AUC 表现。

Mar, 2017

当可解释性遇上对抗学习：使用 SHAP 签名检测对抗样本

本文介绍了一种新的检测方法，该方法使用计算深度神经网络分类器的内部层的 Shapley 加性解释（SHAP）值来区分正常和对抗输入。通过针对流行的 CIFAR-10 和 MNIST 数据集构建数据集，训练基于神经网络的检测器去区分正常和对抗性输入，并评估了该方法在对抗攻击生成的对抗性数据上的检测能力。结果表明，该检测器具有高的检测准确性和对使用不同攻击方法生成的对抗性输入的强大泛化能力。

Sep, 2019

解释和利用对抗样本

机器学习模型因神经网络的线性特性容易受到对抗性扰动的影响，该现象不同于过拟合和非线性，但可以通过生成对抗性训练样本来减小 MNIST 数据集中 maxout 网络的误差。

Dec, 2014

深度神经网络抵抗对抗样本攻击

该研究提出了一种基于深度神经网络的拒绝机制来检测恶意样本，可以有效地防止对抗性攻击，并且具有更高的效率和普适性。

Oct, 2019

面向神经网络的不可察觉且强韧对抗样本攻击

该研究提出了一种新的对抗样本攻击方法，考虑到人类感知系统并最大化制作的对抗样本的噪声容忍度，实验结果证明了该技术的有效性。

Jan, 2018

深度网络的简单黑盒对抗扰动

研究表明，即使没有内部知识，对深度卷积神经网络进行黑盒攻击并制造对抗性样本是可行的，这暴露了深度神经网络的弱点，为设计安全的网络提供了检验。