ICLRMar, 2022

使用基于代理的对抗性黑盒攻击方法攻击深度网络很容易

PDF
TL;DR通过使用代理网络的类分数梯度而不需要其他先验知识或启发式方法，本文提出了一种简单的算法，其通过搜索实现了最先进的结果，有效地从一个网络传输攻击到另一个网络。
black-box adversarial attackstransfer learningsurrogate modelsquery-based searchstate-of-the-art results
发现论文，激发创造
  • 基于可转移模型嵌入的黑盒对抗攻击

    本文提出了一种新的黑盒对抗攻击方法，通过使用预训练模型学习低维嵌入，然后在此嵌入空间内进行高效搜索，从而攻击未知目标网络。该方法能够生成具有高级语义模式的对抗性扰动，易于迁移，可大大提高黑盒对抗攻击的查询效率。作者在 MNIST、ImageNet 和 Google Cloud Vision API 上进行评估，并在 CIFAR10 和 ImageNet 上攻击对抗性防御网络，取得了良好的攻击效果。

    Nov, 2019

  • 来自贝叶斯神经网络的有效且可迁移的对抗样本

    使用贝叶斯深度学习技术，以神经网络权重的后验分布进行抽样建立一个 surrogate，可以进一步提高黑盒攻击的可转移性，本文探究了提高攻击可转移性的训练方法， 将我们方法的表现与几种已有方法进行了比较，能够在 ImageNet 上获得 94% 的准确率。

    Nov, 2020

  • 基于硬标签的小样本黑盒对抗攻击

    提出了一种新的针对硬标签的黑盒攻击的优化方法，利用经预训练的替代模型指导优化过程，实验证明该方法在不同目标模型架构下显著提高了攻击的查询效率，攻击成功率较基准测试提高了约 5 倍，特别是在 100 和 250 个查询预算下。

    Mar, 2024

  • 利用可迁移的先验知识和查询反馈学习黑盒攻击者

    提出了一种名为 “Learnable Black-Box Attack” 的新方法，将基于转移和基于查询的黑盒攻击相结合，在 Surrogate Model 下进行攻击，并通过高阶梯度逼近（HOGA）有效地利用了查询反馈。实验结果表明，“Learnable Black-Box Attack” 方法明显优于现有技术。

    Oct, 2020

  • 通过少量查询提高对抗样本的可迁移性

    本文提出了一种名为查询先验方法的新方法，通过使用少量的查询来增强快速梯度符号法的攻击可传递性，理论分析和广泛的实验表明，我们的方法可以显著提高基于梯度的对抗攻击在 CIFAR10/100 和 ImageNet 上的可传递性，并优于具有相同少量查询的黑盒查询攻击。

    May, 2022

  • 转移攻击再探：在实际计算机视觉环境下的大规模经验研究

    本文通过大规模系统的实证研究，探究了云端机器学习服务平台的漏洞和其普遍存在的在深度神经网络中的 “对抗攻击” 问题，发现先前的假设和结论在真实世界环境下不再一致，并指出了对未来研究方向的启示。

    Apr, 2022

  • 高效组合优化的简约黑盒对抗攻击

    本文提出了一种离散替代方法来解决黑匣子攻击的问题，该方法可以在不需要估计导数的情况下有效地攻击神经网络，降低了之前所提出方法所需的查询次数。

    May, 2019

  • 模拟未知目标模型进行查询效率高的黑盒攻击

    研究了在黑盒情况下深度神经网络的安全问题，并提出一种称为 “模拟器” 的广义替代模型来模拟任何未知目标模型的功能，从而降低了大量查询的复杂度。

    Sep, 2020

  • 用基于迁移的先验知识加强黑盒对抗攻击

    介绍了一种基于先验指导的随机无梯度（P-RFF）攻击方法，它利用了传输先验和查询信息，需要的查询次数更少、攻击黑盒模型的成功率更高，相较于现有最先进的方法。

    Jun, 2019

  • 又一种中等级攻击

    本文提出了一种通过建立中间层次的线性映射以增强基线对抗样本的黑盒可迁移性的方法，实现了在 CIFAR-100 和 ImageNet 上的实验验证以及比之前的最新技术表现强大。

    Aug, 2020