Dec, 2017
探索对深度神经网络的黑箱攻击空间
Exploring the Space of Black-box Attacks on Deep Neural Networks
Arjun Nitin Bhagoji, Warren He, Bo Li, Dawn Song
TL;DR提出了一种新的基于梯度估计的黑盒攻击方法,攻击者可以查询目标模型的类概率,无需使用可转移性。该攻击在 MNIST 和 CIFAR-10 数据集上的攻击成功率均超过 100%,同时成功攻击了 Clarifai 的实时图像分类器和最新防御方法。