对抗噪声层：通过添加噪声正则化神经网络

May, 2018

对抗噪声层：通过添加噪声正则化神经网络

Adversarial Noise Layer: Regularize Neural Network By Adding Noise

Zhonghui You, Jinmian Ye, Kunming Li, Zenglin Xu, Ping Wang

TL;DR本研究介绍了一种新的正则化方法 —— 对抗性噪声层（ANL）及其高效版本 —— 类对抗性噪声层（CANL），通过在中间层激活中添加巧妙裁剪的噪声，能够明显提高 CNN 的泛化能力。与传统的对抗训练方法相比，使用 ANL 或 CANL 训练的模型更能抵御 FGSM 生成的对抗性样本。

Abstract

In this paper, we introduce a novel regularization method called Adversarial Noise Layer (ANL) and its efficient version called Class Adversarial Noise Layer (CANL), which are able to significantly improve cnn's

regularization method adversarial noise layer cnn generalization ability adversarial training

发现论文，激发创造

通过对抗性噪声传播训练强大的深度神经网络

本篇论文提出了一种名为 Adversarial Noise Propagation 的训练算法，将噪声注入隐藏层以提高深度模型的鲁棒性，并证明不同的隐藏层对模型鲁棒性和整洁的准确性有不同的贡献。该算法可有效地与其他对抗性训练方法相结合，进一步提高模型的鲁棒性。在 MNIST、CIFAR-10、CIFAR-10-C、CIFAR-10-P 和 ImageNet 上的广泛实验表明，ANP 实现了深度模型对对抗性和受损数据均具有强大的鲁棒性，并明显优于各种对抗性防御方法。

Sep, 2019

对抗噪声下的鲁棒卷积神经网络

这篇论文提出了一种新的前馈卷积神经网络模型，通过引入随机加性噪音来增强网络对抗噪音的鲁棒性，其模型仅基于每个像素的均值和方差来简化计算，训练效果优于其他方法，特别是对于更难的分类任务或更强的对抗性噪声。

Nov, 2015

NoiseCAM：噪声与对抗攻击边界的可解释人工智能

本论文使用 “梯度类激活图”(GradCAM) 数据分析了深度学习中的 “VGG-16” 网络在遭受对抗性干扰和高斯噪声的影响下的行为偏差，并针对这种情况提出了基于噪声加权类激活图的新算法 “NoiseCAM”，该算法不易受到对抗性干扰的干扰。研究结果表明，NoiseCAM 的整体性能优于行为偏差建模方法，可以提供一种有用的工具来防御深度神经网络的某些对抗攻击。

Mar, 2023

生成对抗训练可以提高神经语言模型的表现

本文提出了一种基于生成对抗网络和对抗性训练的正则化方法，可以在神经语言模型中防止过拟合，与常见的对抗性训练方法相比，本方法不需要经过时间的二次反向传播，并且其开销不超过基准方法的 20%。

Nov, 2022

基于卷积神经网络的图像去噪：对抗性方法

通过卷积神经网络，我们提出了一种新的盲目图像降噪 CNN 架构，该架构综合了三个架构组件，包括多尺度特征提取层，l_p 规范化器以及三步训练方法，并与现有方法相比表现出具有竞争力的降噪性能。

Aug, 2017

在训练中隐式生成随机噪声模型以提高对抗鲁棒性

本文介绍了一种基于噪声的先验学习（NoL）方法，用于训练神经网络，使其具有内在的对抗攻击鲁棒性。该方法将具有相同损失函数的随机噪声进行隐式生成建模，并通过主成分分析的可视化工具来进一步理解对抗数据。我们的分析表明，在高排名的主成分上具有更高方差的模型，通常表现出对抗鲁棒性。我们展示了使用我们方法学习的模型对广泛攻击具有很好的性能，即使在白盒和黑盒攻击情况下和与最先进的对抗训练相结合，扩展了模型的鲁棒性，甚至超出其对抗训练的范围。

Jul, 2018

通过像素级噪声感知对抗训练学习生成逼真噪声图像

该研究提出了一种生成高度仿真的实际噪声图像的方法，为深度学习去噪提供了更加真实的数据集，克服了过去需要大量真实噪声 - 干净图像对来进行监督的限制。该方法使用噪声模型进行噪声分布对齐和图像对齐，并通过 Pixel-level 噪声感知生成对抗网络（PNGAN）进行像素级别的噪声域对齐，实现了高质量的去噪效果。

Apr, 2022

DNN 文本分类的有效标签噪声模型

本文提出了一种训练深度网络抵抗标签噪声的方法，通过引入非线性处理层（噪声模型）来将标签噪声的统计模型化到卷积神经网络中，通过实验证明这种方法使得 CNN 可以学习到更好的句子表示，即使在极端的标签噪声情况下仍然很稳健。同时，本文发现正确的噪声模型初始化和正则化对训练结果至关重要，而和图像分类不同的是，改变 batch size 并不会对分类性能有明显影响。

Mar, 2019

参数噪声注入：可训练随机化提高深度神经网络对抗性攻击稳健性

本文提出了一种 Parametric-Noise Injection (PNI) 技术，使用可训练的高斯噪声注入到神经网络的不同层中，解决 min-max 优化问题，通过对抗训练来提高网络的鲁棒性，实验表明该方法能有效提高对抗攻击下的网络鲁棒性。

Nov, 2018

分析标签噪声下分类器的鲁棒性

该研究探讨了标签噪声分类器的稳健性，旨在提高模型对复杂实际场景中的噪声数据的抵抗能力，并通过整合对抗机器学习和重要性重新加权技术来解决标签噪声对实际应用的影响。

Dec, 2023