Square Attack：一种通过随机搜索的高效黑盒对抗攻击

ECCVNov, 2019

Square Attack：一种通过随机搜索的高效黑盒对抗攻击

Square Attack: a query-efficient black-box adversarial attack via random search

Maksym Andriushchenko, Francesco Croce, Nicolas Flammarion, Matthias Hein

TL;DR《Square Attack》提出了一种基于分数的黑盒 l2 和 l - 无穷攻击，该攻击不依赖于局部梯度信息，因此不受梯度掩盖影响。Square Attack 基于随机搜索方案，它选择位于随机位置的局部方形更新，以便在每次迭代中扰动约在可行集的边界处。我们的方法在查询效率方面显着提高了攻击成功率，特别是在非针对性环境下，在 ImageNet 上，相对于 Al-Dujaili＆O'Reilly 最近的高阶 L - 无穷攻击，我们提高了各种深度网络的非针对性设置的平均查询效率，至少提高了 1.8 倍，最多提高了 3 倍。此外，虽然我们的攻击是黑盒的，但它在标准基准测试中也可以胜过基于梯度的白盒攻击，取得了新的成功率创纪录。

Abstract

We propose the square attack, a score-based black-box $l_2$- and $l_\infty$-adversarial attack that does not rely on local gradient information and thus is not affected by gradient masking. square attack is based

square attack l2-adversarial attack l-infinity-adversarial attack randomized search scheme query efficiency

发现论文，激发创造

简单黑盒对抗攻击

本文介绍了一个基于连续数值置信度分数的、高效构建黑盒中敌对图像的简单迭代算法，并且该算法同样适用于有目标和无目标攻击。作者使用少于 20 行的 PyTorch 代码在 Google Cloud Vision API 中展示了该算法的高效和有效性。

May, 2019

高效组合优化的简约黑盒对抗攻击

本文提出了一种离散替代方法来解决黑匣子攻击的问题，该方法可以在不需要估计导数的情况下有效地攻击神经网络，降低了之前所提出方法所需的查询次数。

May, 2019

低查询预算环境中，简单高效且硬标签黑盒对抗攻击

提出了一种使用贝叶斯优化来进行黑盒攻击的方法，通过在结构性低维子空间中搜索对抗样本来避免 BO 在高维度下的性能问题，实验结果显示该方法相较现有黑盒攻击算法需要更少的查询次数，并且攻击成功率提高了 2 到 10 倍。

Jul, 2020

一种更高效的黑盒对抗攻击方法：平铺和进化策略

介绍一种新的黑盒攻击方法，它使用一种新的目标函数并扩展了以前的黑盒对抗攻击方法，证明深度神经网络不具有单次平铺攻击的鲁棒性，并在预算限制下（对抗攻击成功率能达到 99.2%），在有限的预算下（对抗攻击成功率能达到 100%），比当前最先进的方法分别使用了 90 个查询和 800 个查询少。

Oct, 2019

子空间攻击：利用有前途的子空间进行查询高效黑盒攻击

本文介绍如何在黑箱攻击中利用参考模型的梯度来降低查询复杂度，提高黑箱攻击的效率和成功率，实验结果表明，与现有技术相比，本文提出的方法可以在查询数量上获得 2x 到 4x 的降低，并且具有更低的失败率。

Jun, 2019

一种高效且有效的对抗攻击的 Frank-Wolfe 框架

本文提出一种基于 Frank-Wolfe 算法的新型优化算法框架，可同时用于白盒和黑盒情况下的对抗攻击，并表示该算法具有高效性、有效性和优越的性能。

Nov, 2018

黑盒攻击中，符号位没有二进制位拆分

本研究提出了一种黑盒敌对攻击算法，通过基于符号而非基于大小的梯度估计方法，将黑盒优化从连续转移为二进制黑盒优化，从而达到了最新的模型逃避率和高效查询率，在 MNIST、CIFAR10 和 IMAGENET 数据集方面比现有算法更加准确和快速。

Feb, 2019

高效率黑盒对抗样本查询（已被取代）

本文提出了一种新的方法，利用自然进化策略在黑盒攻击下生成可靠的对抗样本，并通过新的算法在部分信息下进行有针对性的攻击，无需使用梯度，可以使用少量的请求操作，成功地对商业部署的机器学习系统进行了第一次有针对性的攻击。

Dec, 2017

一种查询效率高的硬标签黑盒攻击：基于优化的方法

本文提出一种用于攻击离散和非连续的机器学习模型的新方法，将难标记黑盒攻击转化为实值优化问题，并且在 MNIST，CIFAR 和 ImageNet 数据集上展示出比现有方法更优异的表现。

Jul, 2018

Sparse-RS: 一种用于高效查询稀疏黑盒对抗攻击的通用框架

提出了一种基于随机搜索的多用途框架 Sparse-RS，可用于黑盒设置下的基于得分的稀疏目标攻击和非目标攻击，并达到了多个稀疏攻击模型的最先进的成功率和查询效率。

Jun, 2020