愿噪声与你同在：没有对抗样本的对抗训练

Dec, 2023

愿噪声与你同在：没有对抗样本的对抗训练

May the Noise be with you: Adversarial Training without Adversarial Examples

Ayoub Arous, Andres F Lopez-Lopera, Nael Abu-Ghazaleh, Ihsen Alouani

TL;DR我们的研究目的在于探究一种不依赖对抗样本训练的对抗训练模型方法，通过在神经网络模型的层中嵌入高斯噪声以引入内在的随机性，并通过优化参数时考虑到随机性，我们证实了在正态分布训练下获得的随机体系结构模型在对抗环境中具有鲁棒性，并且发现所用的高斯噪声标准差对鲁棒性和基准准确性的影响与对抗训练中所使用的噪声大小影响相似。

Abstract

In this paper, we investigate the following question: Can we obtain adversarially-trained models without training on adversarial examples? Our intuition is that training a model with inherent stochasticity, i.e.,

adversarially-trained models stochasticity gaussian noise robustness adversarial training

发现论文，激发创造

在训练中隐式生成随机噪声模型以提高对抗鲁棒性

本文介绍了一种基于噪声的先验学习（NoL）方法，用于训练神经网络，使其具有内在的对抗攻击鲁棒性。该方法将具有相同损失函数的随机噪声进行隐式生成建模，并通过主成分分析的可视化工具来进一步理解对抗数据。我们的分析表明，在高排名的主成分上具有更高方差的模型，通常表现出对抗鲁棒性。我们展示了使用我们方法学习的模型对广泛攻击具有很好的性能，即使在白盒和黑盒攻击情况下和与最先进的对抗训练相结合，扩展了模型的鲁棒性，甚至超出其对抗训练的范围。

Jul, 2018

对抗样本是噪声下测试误差的自然结果

该研究提供了实证和理论证据表明对抗鲁棒性和图像损坏鲁棒性研究项目之间存在紧密联系，从而建议未来的对抗性防御应该考虑评估它们的方法对分布转移的鲁棒性。

Jan, 2019

加性噪声认证对抗鲁棒性

本文提出一种可扩展的用于构造对抗样本的方法，通过建立抵抗对抗扰动和加法噪声之间的联系，提出了一种训练策略，并在 MNIST 等数据集上进行了评估。

Sep, 2018

参数噪声注入：可训练随机化提高深度神经网络对抗性攻击稳健性

本文提出了一种 Parametric-Noise Injection (PNI) 技术，使用可训练的高斯噪声注入到神经网络的不同层中，解决 min-max 优化问题，通过对抗训练来提高网络的鲁棒性，实验表明该方法能有效提高对抗攻击下的网络鲁棒性。

Nov, 2018

对抗噪声下的鲁棒卷积神经网络

这篇论文提出了一种新的前馈卷积神经网络模型，通过引入随机加性噪音来增强网络对抗噪音的鲁棒性，其模型仅基于每个像素的均值和方差来简化计算，训练效果优于其他方法，特别是对于更难的分类任务或更强的对抗性噪声。