深度学习框架的对抗噪声攻击 -- 利用稀疏模型信号的稳定性分析

May, 2018

深度学习框架的对抗噪声攻击 -- 利用稀疏模型信号的稳定性分析

Adversarial Noise Attacks of Deep Learning Architectures -- Stability Analysis via Sparse Modeled Signals

Yaniv Romano, Aviad Aberdam, Jeremias Sulam, Michael Elad

TL;DR本研究分析了最新深度学习分类器对抗性扰动的稳定性，结论表明，基于稀疏表示模型的 CNNs 对噪声更为稳健，且基于阈值深度网络方法的稳健性更佳，并通过实验在三种数据集上验证结论。

Abstract

Despite their impressive performance, deep convolutional neural networks (CNNs) have been shown to be sensitive to small adversarial perturbations. These nuisances, which one can barely notice, are powerful enoug

deep convolutional neural networks adversarial perturbations sparse representation model deep-learning classification machines adversarial attacks

发现论文，激发创造

稀疏深度神经网络的改进对抗鲁棒性

本文研究了基于深度神经网络的分类模型中稀疏性与鲁棒性之间的关系，并理论和实证分析表明，适当的模型稀疏化可以提高非线性 DNN 的鲁棒性，但过度稀疏化会使模型更难抵抗对抗性样本攻击。

Oct, 2018

图像分类器的鲁棒性和不变性属性

本文研究了深度神经网络在噪声环境中的鲁棒性和不变性，提出了快速计算稀疏对抗扰动和数据增强方法，与数据之间的特征联系起来，以实现更可靠的机器学习系统。

Aug, 2022

对抗噪声下的鲁棒卷积神经网络

这篇论文提出了一种新的前馈卷积神经网络模型，通过引入随机加性噪音来增强网络对抗噪音的鲁棒性，其模型仅基于每个像素的均值和方差来简化计算，训练效果优于其他方法，特别是对于更难的分类任务或更强的对抗性噪声。

Nov, 2015

调查和揭示卷积神经网络对对抗扰动的特征级漏洞

通过对深度学习模型的不同层进行敌对性扰动攻击验证，研究表明浅层的通道组合对模型的干扰较大，在不同攻击类型中具有共享的易受攻击通道组合，而不同攻击对隐藏表示的影响存在差异且与卷积核大小呈正相关，以此为基础为未来应用开发高效的应对性防御机制奠定技术基础。

May, 2024

利用稀疏表示来对抗对抗攻击

本篇论文研究了针对深度神经网络的对抗攻击问题，表明对于稀疏输入数据表示，我们可以利用线性分类器的稀疏编码来有效减缓攻击，并将其扩展到深度神经网络中，发现使用局部线性模型可以有效降低 MNIST 数据集上的攻击成功率。

Mar, 2018

深度网络的简单黑盒对抗扰动

研究表明，即使没有内部知识，对深度卷积神经网络进行黑盒攻击并制造对抗性样本是可行的，这暴露了深度神经网络的弱点，为设计安全的网络提供了检验。

Dec, 2016

建筑对抗鲁棒性：深度追踪的案例

该研究提出了一种名为 Deep Pursuit 的全局优化方法，通过将前向传播网络的每一层重新框架为一个稀疏编码问题来解决深度神经网络的对抗性攻击问题，其实现稳定且在对抗性噪声下表现更优。

Nov, 2020

检测来自伪像的对抗性样本

本文介绍了一种利用深度学习神经网络中 Bayesian 不确定性估计和密度估计的方法，可以实现对于对抗样本的检测，具有很好的泛化性能，并在标准分类任务上取得了 85-93% 的 ROC-AUC 表现。

Mar, 2017

针对黑盒深度学习模型的高效决策稀疏攻击

本文针对深度学习模型的脆弱性与展开的攻击方式，研究了基于模型决策的稀疏攻击，提出了 SparseEvo 算法，并将其应用于卷积深度神经网络和视觉 Transformer 等模型上进行评估。SparseEvo 与之前的算法相比具有更高的攻击效率，但仍需要进一步探究，以增强模型安全性。

Jan, 2022

人脸识别领域中卷积神经网络的对抗性攻击

本文以 Fast Gradient Sign Method 为基础，对面部图像数据集进行扰动，测试不同黑盒攻击算法的鲁棒性，并重点研究修改单个最佳像素或所有像素的攻击方法。研究结果表明，所有像素攻击方法能使分类器置信度平均下降至 84％，且 81.6％的误分类率，但这些图像始终可以被人类识别。该研究可为防御性对抗攻击、自适应噪声降低技术等方面的 DNNs 训练和研究提供宝贵的参考。

Jan, 2020