SpectralDefense: 在傅里叶域中检测 CNN 的对抗攻击

Mar, 2021

SpectralDefense: 在傅里叶域中检测 CNN 的对抗攻击

SpectralDefense: Detecting Adversarial Attacks on CNNs in the Fourier Domain

Paula Harder, Franz-Josef Pfreundt, Margret Keuper, Janis Keuper

TL;DR该研究使用傅里叶域的分析方法和特征图的相位和振幅识别方法，成功地区分了对抗示例和良性测试图片，并提出了两种新颖的对抗检测方法。

Abstract

Despite the success of convolutional neural networks (CNNs) in many computer vision and image analysis tasks, they remain vulnerable against so-called adversarial attacks: Small, crafted perturbations in the inpu

convolutional neural networks adversarial attacks fourier domain detection methods feature maps

发现论文，激发创造

在空间频域中评估对抗鲁棒性

CNN 模型易受到对抗攻击的脆弱性为安全关键应用的部署带来了担忧，本研究通过在频域中构建空间频率图层来探讨 CNN 模型的脆弱性，通过广泛的实验观察到空间频率 CNN 模型在白盒和黑盒攻击下比常规 CNN 模型更加稳健，此外，发现低频成分对空间频率 CNN 模型的鲁棒性有重大贡献，这些发现将有助于未来设计更加鲁棒的 CNN 模型。

May, 2024

利用对抗图像的频谱特性提高鲁棒性能

本研究通过对卷积神经网络进行频率数据增强，提出了基于分量的对抗训练方法，成功实现了对不同类型干扰包括对抗性干扰的通用鲁棒性，这有助于提升神经网络对图像扰动的抵抗力。

May, 2023

针对对抗攻击的带限制神经网络

使用傅里叶分析的方法研究了深度学习中对抗攻击和防御问题，发现神经网络的高频分量是其漏洞产生的重要原因，于是提出了一种简单的后验平均方法来平滑这些高频分量，使神经网络的鲁棒性得到了提高，可以有效地防御多种对抗攻击方法，且不会对原始图像产生显著的性能下降。

May, 2019

通过输入转换、防御扰动和投票检测对抗性样本

本文探讨在可对抗的变形情况下检测对抗攻击，并提出一种名为 defense perturbation 的新方法来检测具有相同输入变换与可靠的对抗攻击。同时介绍了多网络对抗例子，这种对抗例子可以同时欺骗多个网络。

Jan, 2021

探索基于频率对抗性攻击的人脸造假检测

本文提出了一种基于离散余弦变换（DCT）的频率对抗攻击方法，以欺骗面部伪造检测器。通过引入融合模块来捕获对手在频率域中显着的区域，我们的方法比空间域中的现有对抗攻击更为难以察觉，并且不会降低原始图像的视觉质量。在实验中，我们发现该方法有效地欺骗了空间域和最先进的频率域检测器，并增强了面部伪造检测器之间的可靠性。

Mar, 2022

基于局部直方图均衡化的增强图像差异特征对抗样本检测

基于高频信息增强策略，提出了一种针对对抗性样本的检测框架，可以在不修改现有检测模型的情况下，提高检测器的性能和降低部署成本。

May, 2023

针对对抗扰动的准确安全检测器

本文提出了一种基于空间频率判别分解的密钥安全对抗样本检测方法，相比现有算法更能准确识别和防御深度模型的对抗攻击，并防止防御感知攻击。

May, 2023

人脸识别领域中卷积神经网络的对抗性攻击

本文以 Fast Gradient Sign Method 为基础，对面部图像数据集进行扰动，测试不同黑盒攻击算法的鲁棒性，并重点研究修改单个最佳像素或所有像素的攻击方法。研究结果表明，所有像素攻击方法能使分类器置信度平均下降至 84％，且 81.6％的误分类率，但这些图像始终可以被人类识别。该研究可为防御性对抗攻击、自适应噪声降低技术等方面的 DNNs 训练和研究提供宝贵的参考。

Jan, 2020

通过抑制高频成分进行对抗性防御

该研究通过去除高频分量训练出具有鲁棒性的图像分类模型，并在 IJCAI-2019 阿里巴巴对抗 AI 挑战中获得了第五名。

Aug, 2019

使用自适应噪声降低在深度网络中检测对抗样本

该文章提出了一种直接部署到标准深度神经网络模型中的简单方法，通过引入两个经典图像处理技术，标量量化和平滑空间滤波，将图像中的扰动降低到最小，使用图像熵作为度量标准，可以有效地检测出对基于多种攻击技术的先进深度学习模型的 20,000 多个对抗样本，最终的实验结果表明，该检测方法可以取得 96.39％的高整体 F1 评分。

May, 2017