Dec, 2017

高效率黑盒对抗样本查询（已被取代）

PDF
TL;DR本文提出了一种新的方法，利用自然进化策略在黑盒攻击下生成可靠的对抗样本，并通过新的算法在部分信息下进行有针对性的攻击，无需使用梯度，可以使用少量的请求操作，成功地对商业部署的机器学习系统进行了第一次有针对性的攻击。
neural network-based image classifiersadversarial examplesblack-box attackslimited queriestargeted adversarial attacks
发现论文，激发创造
  • 具有查询次数和信息限制的黑盒对抗攻击

    本文通过定义三种现实世界分类系统的威胁模型（查询限制，部分信息和仅标签），并开发了新的攻击方法，成功的攻击了一个 ImageNet 分类器，并成功的突破了 Google Cloud Vision API 的限制来进行有针对性的黑盒攻击。

    Apr, 2018

  • 黑盒对抗攻击查询效率提升

    本文提出了一种基于神经过程的黑盒对抗攻击方法（NP-Attack），利用神经过程对图像结构信息进行建模，以提高查询效率，实验结果表明，NP-Attack 能显著减少黑盒情况下的查询次数。

    Sep, 2020

  • 主动学习实现的查询效率高的黑盒攻击

    本文探究了 DNN 的黑盒攻击方案，使用现有的白盒攻击方法产生的采样样本进行训练替代模型，并提出主动学习策略和多样性准则以优化其表现，实验证明该方法可以将查询数量减少超过 90% 并保持黑盒攻击成功率。

    Sep, 2018

  • 高效组合优化的简约黑盒对抗攻击

    本文提出了一种离散替代方法来解决黑匣子攻击的问题，该方法可以在不需要估计导数的情况下有效地攻击神经网络，降低了之前所提出方法所需的查询次数。

    May, 2019

  • 混合批量攻击：使用有限查询找到黑盒对抗样本

    通过使用本地模型的候选对抗性示例作为优化攻击的起点，并使用优化攻击中学习的标签来调整本地模型以查找转移候选项，我们提出了一种混合攻击策略，并引入了一种种子优先策略，从而使攻击者能够专注于最有前途的种子。结合我们的种子优先策略，混合攻击可以可靠地找到具有仅有少量查询的对抗性示例。

    Aug, 2019

  • 面向查询高效的黑盒攻击：一种无输入视角

    本文提出了一种名为 “无需输入” 的攻击方法，用于深度神经网络的对抗攻击，该方法不需要进行大量的查询，可以通过任意图像添加可以感知的扰动来生成对抗性图像。该方法通过灰度图像的初始化和局部扰动与平铺技术来显着降低了查询复杂度，并成功击败了 Clarifai 食品检测 API 和百度动物识别 API。

    Sep, 2018

  • GenAttack：基于梯度自由优化的实用黑盒攻击

    这篇论文提出了 GenAttack—— 一种基于遗传算法的无梯度黑盒对抗攻击优化技术，在 MNIST、CIFAR-10 和 ImageNet 数据集上成功地生成了对抗性样本，攻击了最新的图像识别模型，且所需的查询量比之前的攻击方法少了几个数量级，且还能攻击一些针对对抗性训练的防御措施，通过实验证明了遗传算法在黑盒攻击研究中的可行性和前景。

    May, 2018

  • 简单黑盒对抗攻击

    本文介绍了一个基于连续数值置信度分数的、高效构建黑盒中敌对图像的简单迭代算法，并且该算法同样适用于有目标和无目标攻击。作者使用少于 20 行的 PyTorch 代码在 Google Cloud Vision API 中展示了该算法的高效和有效性。

    May, 2019

  • 针对 DNN 的实用无盒对抗攻击

    通过使用少量的样本，本研究提出了三种机制进行训练，其中原型重建是最有效的，生成的对抗性样本可成功地转移至各种图像分类和面部验证模型，最终的应用结果显示我们的方法能够显著降低商业名人识别系统的预测准确率近 15.4％。

    Dec, 2020

  • 从白到黑：高效黑盒对抗攻击蒸馏

    本研究通过训练一个能够模拟白盒攻击行为的更高效神经网络，证明了白盒攻击优化过程所隐含的知识可以被提取并泛化，可在黑盒情况下攻击 Google Perspective API 并暴露其脆弱性，扰乱 API 的预测结果，而人类对黄金标签的预测准确率仍然很高。

    Apr, 2019