本文提出了一种攻击不可知的防御框架,通过在目标卷积神经网络中嵌入去噪和图像恢复模块以及限制分类层的 Lipschitz 常数来提高神经网络的固有鲁棒性,针对各种白盒和黑盒攻击进行了评估,证明了通过本文所提出的 Feature Pyramid Decoder 增强 CNN 可以获得足够的鲁棒性,特别是当进一步进行对抗训练时,性能比非增强版本更好。
May, 2020
通过将输入图像分成多个块,对每个块进行去噪并重构图像来提高深度神经网络对抗攻击的鲁棒性,在灰盒测试方案下,该方法比现有技术提高了 19.7% 的准确度,并且在黑盒测试方案下具有可比拟的表现,在白盒测试方案下取得 34.4% 的准确率,这是最近研究中没有出现的。
Feb, 2018
通过卷积神经网络,我们提出了一种新的盲目图像降噪 CNN 架构,该架构综合了三个架构组件,包括多尺度特征提取层,l_p 规范化器以及三步训练方法,并与现有方法相比表现出具有竞争力的降噪性能。
Aug, 2017
本文研究表明通过对深度图像去噪模型的分析,研究者发现神经网络在面对对抗性攻击时具有脆弱性,但加入对抗性训练后可以提高鲁棒性。
Jun, 2023
本文旨在探究使用滤波技术的像素去噪方法对于神经网络的鲁棒性增强效果,研究表明相比于基于像素加法的方法,像素滤波技术不仅能取得更高的图像质量而且对于对抗性样本的准确率也有更好的提高。为了解决滤波方法在训练过程中依赖于对抗样本敌扰幅度的问题,文章提出了一种名为 AdvFilter 的方法,该方法集成了双扰动滤波和不确定性感知模块,在训练和测试的过程中能够自动感知其噪声水平,提高了准确率。通过在多个数据集上的实验,研究者还发现考虑数据和模型的联合训练方法能够进一步提高神经网络的鲁棒性。
Jul, 2021
本文提出了一个有效的图像增强方法,通过深度图像恢复网络来将离散的对抗噪声样本转换回自然图像流形,从而提高对抗性的鲁棒性,同时提高图像质量和保持干净图像上的性能表现。
Jan, 2019
我们设计了一种新颖的网络架构,用于学习区分图像模型,以有效地解决灰度和彩色图像去噪问题。所提出的模型能够使用一组学习参数来处理广泛的噪声水平,同时对于降低潜在图像的噪声与训练期间使用的噪声统计不匹配时表现出非常强的稳健性。
Nov, 2017
该文章提出了一种直接部署到标准深度神经网络模型中的简单方法,通过引入两个经典图像处理技术,标量量化和平滑空间滤波,将图像中的扰动降低到最小,使用图像熵作为度量标准,可以有效地检测出对基于多种攻击技术的先进深度学习模型的 20,000 多个对抗样本,最终的实验结果表明,该检测方法可以取得 96.39%的高整体 F1 评分。
May, 2017
本文提出了一种名为 'denoised smoothing' 的方法,通过添加定制训练的去噪器和使用随机平滑,可以将现有的图像分类器转化为 Robust 分类器以防御 'adversarial attacks',针对 ImageNet 和 CIFAR-10 数据集进行了广泛实验,并成功对 Azure,Google,AWS 和 ClarifAI 的图像分类 API 进行了 'robustness' 测试。
Mar, 2020
这篇论文提出了一种新的前馈卷积神经网络模型,通过引入随机加性噪音来增强网络对抗噪音的鲁棒性,其模型仅基于每个像素的均值和方差来简化计算,训练效果优于其他方法,特别是对于更难的分类任务或更强的对抗性噪声。
Nov, 2015