EdgeFool: 对抗性图像增强滤波器

Oct, 2019

EdgeFool: An Adversarial Image Enhancement Filter

Ali Shahin Shamsabadi, Changjae Oh, Andrea Cavallaro

TL;DR本文提出了 EdgeFool 这种对抗图像增强滤波器，通过训练具有多任务损失函数的完全卷积神经网络生成增强图像细节变换的修改来实现误分类。在 ImageNet 和 Private-Places365 上使用三个分类器（ResNet-50，ResNet-18 和 AlexNet）评估 EdgeFool，并将其与六种对抗方法（DeepFool，SparseFool，Carlini-Wagner，SemanticAdv，Non-targeted 和 Private Fast Gradient Sign Methods）进行比较。

Abstract

adversarial examples are intentionally perturbed images that mislead classifiers. These images can, however, be easily detected using denoising algorithms, when high-frequency spatial perturbations are used, or c

adversarial examples edgefool image enhancement neural network classifiers

发现论文，激发创造

DeepFool：欺骗深度神经网络的一种简单而准确的方法

本文提出了 DeepFool 算法，通过欺骗深度神经网络来计算对其进行扰动的鲁棒性，从而比现有方法更好地计算对抗扰动和提高分类器的鲁棒性。

Nov, 2015

生成对抗扰动

该研究提出了新型生成模型，用于制造近似自然图像但又能欺骗先前训练好的模型的略微扰动的对抗性样本。通过在具有挑战性的高分辨率数据集上的实验，它证明了这种扰动具有高弄虚率和较小的扰动规模，并且比当前的迭代方法更快。

Dec, 2017

语义对抗样本

本文提出了一种新类的对抗样本 ——“语义对抗样本”，即通过对图像进行任意扰动来欺骗模型，但修改后的图像在语义上代表的仍是原始图像，通过构建约束优化问题和基于人类认知系统的形状偏置特性的对抗变换，生成对抗图像的颜色转移极大影响了 Deep neural networks 模型精度。

Mar, 2018

快速特征愚弄：一种数据无关的通用对抗扰动方法

本文提出了一种新的数据独立方法，可生成用于对象识别训练的多个 CNN 的图像无关扰动，这些扰动显示出令人惊讶的可转移性和印迹性能，并没有要求攻击者访问训练数据。

Jul, 2017

使用 DeepFool 算法定制深度神经网络的针对性类别操控的对抗攻击

通过提出 “Targeted DeepFool” 算法，该研究通过在深度神经网络上训练特定的攻击样本来应对对抗攻击，以提高图像质量的完整性和准确性。

Oct, 2023

语义对抗彩色化

本文提出一种基于图像语义的黑盒对抗攻击方法 ColorFool，可以生成无限制扰动并通过颜色选择实现隐藏，相较于其他五种方法在场景和对象分类任务中对三种深度神经网络的对抗攻击中表现出更高的成功率，对防御框架表现更强，具有更强的传递性。

Nov, 2019

一种基于几何启发的决策攻击

该研究提出了 qFool 算法，它是一种基于决策的攻击算法，可以使用少量的查询生成对抗样本。该算法可以在减少查询数量的同时，在低频子空间中限制对抗扰动，从而使其更具计算效率。最终，该算法在商业图像识别系统中获得了欺骗效果的证明。

Mar, 2019

SparseFool：少数像素造成的巨大差异

本文提出了一种基于几何学思想、利用决策边界低平滑性的攻击方法 SparseFool，能快速计算稀疏扰动，并且经过充分的评估，发现该方法能在高维数据中高效地尺度化，对视觉效果具有一定的可转移性，同时对稀疏加性扰动具有较好的鲁棒性，与对抗训练相比仅能有微小的改进。

Nov, 2018

使用自适应噪声降低在深度网络中检测对抗样本

该文章提出了一种直接部署到标准深度神经网络模型中的简单方法，通过引入两个经典图像处理技术，标量量化和平滑空间滤波，将图像中的扰动降低到最小，使用图像熵作为度量标准，可以有效地检测出对基于多种攻击技术的先进深度学习模型的 20,000 多个对抗样本，最终的实验结果表明，该检测方法可以取得 96.39％的高整体 F1 评分。

May, 2017

AdvFilter：基于多域学习的预测性扰动感知过滤对抗攻击

本文旨在探究使用滤波技术的像素去噪方法对于神经网络的鲁棒性增强效果，研究表明相比于基于像素加法的方法，像素滤波技术不仅能取得更高的图像质量而且对于对抗性样本的准确率也有更好的提高。为了解决滤波方法在训练过程中依赖于对抗样本敌扰幅度的问题，文章提出了一种名为 AdvFilter 的方法，该方法集成了双扰动滤波和不确定性感知模块，在训练和测试的过程中能够自动感知其噪声水平，提高了准确率。通过在多个数据集上的实验，研究者还发现考虑数据和模型的联合训练方法能够进一步提高神经网络的鲁棒性。

Jul, 2021