GeoDA: 一个基于几何的黑盒对抗攻击框架

CVPRMar, 2020

GeoDA: 一个基于几何的黑盒对抗攻击框架

GeoDA: a geometric framework for black-box adversarial attacks

Ali Rahmati, Seyed-Mohsen Moosavi-Dezfooli, Pascal Frossard, Huaiyu Dai

TL;DR本文提出一种有效的黑盒攻击算法，用于生成三维深度神经网络的对抗样例，该算法利用网络决策边界以及小曲率特性来生成具有小 l_p 范数的有效迭代算法，该算法获得了比现有算法更好的结果。

Abstract

adversarial examples are known as carefully perturbed images fooling image classifiers. We propose a geometric framework to generate adversarial examples in one of the most challenging black-box settings where th

adversarial examples deep neural networks black-box attack query-efficient perturbations decision boundary

发现论文，激发创造

对抗样本的几何性质

该研究提出了一种基于几何框架和流形重建方法的方法，以分析对抗样本的高维几何形状，并证明了不同规范的鲁棒性、球形对抗性训练的样本编号和最近邻分类器与基于球面的对抗训练的充分采样条件。

Nov, 2018

CGBA：曲率感知的几何黑盒攻击

提出了一种新的查询高效的曲率感知几何决策黑盒攻击方法，使用半圆路径在受限的 2D 平面上进行边界搜索，有效地利用较低曲率来构造高质量的对抗样本，相比最先进的非目标和目标攻击方法显示出更优越的性能。

Aug, 2023

一种基于几何形态的攻击方法，用于生成自然语言对抗样本

本文介绍了一种用于生成自然语言对抗性样本的几何灵感攻击方法，该攻击通过迭代逼近深度神经网络（DNNs）的决策边界生成对抗性样本，并实验证明该攻击方法可以快速欺骗自然语言模型，并表明对抗训练可以提高模型对我们的攻击方法的鲁棒性。

Oct, 2020

高效率黑盒对抗样本查询（已被取代）

本文提出了一种新的方法，利用自然进化策略在黑盒攻击下生成可靠的对抗样本，并通过新的算法在部分信息下进行有针对性的攻击，无需使用梯度，可以使用少量的请求操作，成功地对商业部署的机器学习系统进行了第一次有针对性的攻击。

Dec, 2017

GenAttack：基于梯度自由优化的实用黑盒攻击

这篇论文提出了 GenAttack—— 一种基于遗传算法的无梯度黑盒对抗攻击优化技术，在 MNIST、CIFAR-10 和 ImageNet 数据集上成功地生成了对抗性样本，攻击了最新的图像识别模型，且所需的查询量比之前的攻击方法少了几个数量级，且还能攻击一些针对对抗性训练的防御措施，通过实验证明了遗传算法在黑盒攻击研究中的可行性和前景。

May, 2018

一种基于几何启发的决策攻击

该研究提出了 qFool 算法，它是一种基于决策的攻击算法，可以使用少量的查询生成对抗样本。该算法可以在减少查询数量的同时，在低频子空间中限制对抗扰动，从而使其更具计算效率。最终，该算法在商业图像识别系统中获得了欺骗效果的证明。

Mar, 2019

深度网络的简单黑盒对抗扰动

研究表明，即使没有内部知识，对深度卷积神经网络进行黑盒攻击并制造对抗性样本是可行的，这暴露了深度神经网络的弱点，为设计安全的网络提供了检验。

Dec, 2016

利用几何变换的对黑盒视频分类器的对抗攻击

本文介绍了一种新的迭代算法 Geometric TRAnsformed Perturbations (GEO-TRAP)，使用几何变换来降低有效梯度的搜索空间，从而实现黑盒攻击视频分类模型。该算法在广泛使用的 Jester 数据集上的攻击成功率比最先进的视频对抗攻击方法少了约 73.55% 的查询次数，同时在两个大型数据集上战胜了现有的黑盒攻击设置下的最新结果。

Oct, 2021

使用有限的查询和 GAN 进行无限制黑盒对抗攻击

本文通过使用 GAN 生成无约束对抗样本并在潜空间中成功操纵潜向量以欺骗分类模型，提出了一个新的方法：Latent-HSJA，该方法在黑盒设置中只能访问分类模型的前 k 项决策，是对少量查询的分类模型强度评估的有效方法。

Aug, 2022

针对语义分割和物体检测的对抗样本

本文研究了在语义分割和物体检测领域中存在的对抗样本，并通过一种名为 DAG（Dense Adversary Generation）的算法来产生大量对抗样本，可以应用于各种先进的深度网络架构，除此之外还发现了对抗扰动可以在不同的训练数据、不同的架构以及不同的任务之间进行传递，尤其是在具有相同架构的网络之间的可传递性更加显著；此外，对多个异构扰动进行求和通常会导致更好的传递性能，这提供了一种有效的黑盒对抗攻击方法。

Mar, 2017