深度卷积网络黑盒攻击的过程噪声对抗样本

MMSep, 2018

深度卷积网络黑盒攻击的过程噪声对抗样本

Procedural Noise Adversarial Examples for Black-Box Attacks on Deep Convolutional Networks

Kenneth T. Co, Luis Muñoz-González, Sixte de Maupeou, Emil C. Lupu

TL;DR本文介绍了一种使用程序噪声函数生成通用对抗扰动 (Universal Adversarial Perturbations，UAPs) 的方法，发现常见 DCN 模型（如 Inception v3 和 YOLO v3）具有系统漏洞，同时提出使用贝叶斯优化来构建廉价的非针对性黑盒攻击。此外，还探讨了采用输入不可知防御方法增加模型对抗扰动的稳定性，并指出 DCN 模型可能对底层类不可知特征的聚合敏感，这些结果为通用对抗扰动类型提供了启示和生成思路。

Abstract

deep convolutional networks (DCNs) have been shown to be vulnerable to adversarial examples---perturbed inputs specifically designed to produce intentional errors in the learning algorithms at test time. Existing input-agnostic adversarial perturbations exhibit interesting visual patte

deep convolutional networks universal adversarial perturbations procedural noise bayesian optimization input-agnostic defences

发现论文，激发创造

深度卷积网络对 Gabor 噪声的敏感度

本研究发现深度卷积神经网络对于一些特定的噪声图案，如 Gabor 噪声图案和程式化噪声图案，存在易受干扰性，仍需进一步研究其原因和影响。

Jun, 2019

深度网络的简单黑盒对抗扰动

研究表明，即使没有内部知识，对深度卷积神经网络进行黑盒攻击并制造对抗性样本是可行的，这暴露了深度神经网络的弱点，为设计安全的网络提供了检验。

Dec, 2016

图像分类中最新通用对抗扰动的比较评估

本文综述了最近在图像分类任务中的 UAPs 的进展，并将其分类为噪声攻击和生成器攻击，并提供了每个类别中代表性方法的全面概述，同时还评估了不同的损失函数在一致的培训框架内的各种攻击设置的有效性，最后提供了扰动的一些可视化及未来的潜在研究方向。

Jun, 2023

通用对抗扰动：一次调查