利用逐步放大的随机梯度自由对抗攻击揭示了使用成熟攻击方法对稳健性的高估

Mar, 2019

利用逐步放大的随机梯度自由对抗攻击揭示了使用成熟攻击方法对稳健性的高估

Scaling up the randomized gradient-free adversarial attack reveals overestimation of robustness using established attacks

PDF

Francesco Croce, Jonas Rauber, Matthias Hein

TL;DR对 ReLu 神经网络进行梯度自由攻击可以提供对抗性攻击下的网络鲁棒性评估，相比于之前的最先进方法，可以更紧确地估计网络鲁棒性

Abstract

Modern neural networks are highly non-robust against adversarial manipulation. A significant amount of work has been invested in techniques to compute lower bounds on robustness through formal guarantees and to b

neural networks robustness adversarial attacks gradient-free relu

发现论文，激发创造

ReLU 网络的随机无梯度攻击

本文提出了一种基于直接优化的攻击方案，针对 ReLU 网络进行优化，相比 Carlini-Wagner 攻击方案，在 18 个实验中除了一个实验外均有提升，并提高了最多 9％。

Nov, 2018

可证明的对抗性防御的扩展

本文提出了一种技术，能够将深度学习分类器的防御性能从较小的前馈神经网络拓展到更广泛的网络结构，同时采用非线性随机投影的方式进行训练，并通过级联模型进一步提高分类器的鲁棒性能。在 MNIST 和 CIFAR 数据集上进行实验，证明了该方法在可证明的抗干扰错误率上有着明显的提升。

May, 2018

精准、可靠、快速的鲁棒性评估

在神经网络的研究中，我们开发了一种新的梯度基础的对抗攻击方法，相较于已有的攻击方法，它更可靠，可以适应广泛的对抗标准，并且在提高效率的同时，不需要进行超参数调整，这将对神经网络的鲁棒性评估做出有益的贡献。

Jul, 2019

神经网络的 Wasserstein 分布鲁棒性

对于图像识别任务，深度神经网络易受到针对性攻击，本文使用 Wasserstein 分布鲁棒优化技术重新构建问题模型，并提出了新的攻击算法，包括 FGSM 和 PGD，并给出了对分布威胁模型的渐进估计。

Jun, 2023

通过正则化对抗梯度实现神经网络的鲁棒训练

通过限制神经网络的对抗梯度并增加对抗性样本生成的难度，提高了神经网络的鲁棒性，使其能够抵御各种类型的对抗性攻击，特别是迁移攻击。

May, 2018

一组不同参数攻击的集成用于可靠评估对抗鲁棒性

本文提出两个方法以提高 PGD 攻击的效率，进而结合现有方法构成一个全新的攻击集合，用于测试对抗鲁棒性，并在 50 多个模型上进行了测试，发现一些已经被攻破的防御机制。

Mar, 2020

朝着对大幅扰动有抵抗力的深度学习模型

本文提出了一种网络权重初始化的方法，使其能够在更高噪声水平下学习，同时评估了在 MNIST 和 CIFAR10 数据集上增强对抗噪声对学习范围的影响，并通过对简单多维伯努利分布的理论结果进行研究，提出了一些关于 MNIST 数据集可行扰动范围的见解。

Mar, 2020

扩展对抗训练以应对大扰动界限

本文提出一种新的方法，通过 Oracle-Aligned Adversarial Training (OA-AT) 的方式来提高神经网络对抗攻击的鲁棒性，可以在大的扰动（如 L-inf bound 为 16/255 时）达到最先进的性能，同时在标准边界（8/255）也胜过现有的防御机制。

Oct, 2022

基于信赖域的神经网络对抗攻击

基于信任区域的对抗攻击方法对深度神经网络的决策做出了非常有效的攻击，同时在计算攻击扰动的速度上也得到了显著的优化。

Dec, 2018

多扰动模型联合的对抗鲁棒性

本研究提出了一种基于 PGD-based 的方法，该方法融合多种扰动模型来提高深度学习系统的鲁棒性，并在 MNIST 和 CIFAR10 数据集上进行了测试。

Sep, 2019