通过对抗性噪声传播训练强大的深度神经网络

Sep, 2019

通过对抗性噪声传播训练强大的深度神经网络

Training Robust Deep Neural Networks via Adversarial Noise Propagation

Aishan Liu, Xianglong Liu, Chongzhi Zhang, Hang Yu, Qiang Liu...

TL;DR本篇论文提出了一种名为 Adversarial Noise Propagation 的训练算法，将噪声注入隐藏层以提高深度模型的鲁棒性，并证明不同的隐藏层对模型鲁棒性和整洁的准确性有不同的贡献。该算法可有效地与其他对抗性训练方法相结合，进一步提高模型的鲁棒性。在 MNIST、CIFAR-10、CIFAR-10-C、CIFAR-10-P 和 ImageNet 上的广泛实验表明，ANP 实现了深度模型对对抗性和受损数据均具有强大的鲁棒性，并明显优于各种对抗性防御方法。

Abstract

In practice, deep neural networks have been found to be vulnerable to various types of noise, such as adversarial examples and corruption. Various adversarial defense methods have accordingly been developed to im

deep neural networks adversarial defense methods hidden layers adversarial noise propagation model robustness

发现论文，激发创造

对抗神经元剪枝净化植入后门的深度模型

通过 Adversarial Neuron Pruning (ANP) 修复易崩溃的 DNN 神经元，即可在不影响性能的情况下去除后门攻击。

Oct, 2021

参数噪声注入：可训练随机化提高深度神经网络对抗性攻击稳健性

本文提出了一种 Parametric-Noise Injection (PNI) 技术，使用可训练的高斯噪声注入到神经网络的不同层中，解决 min-max 优化问题，通过对抗训练来提高网络的鲁棒性，实验表明该方法能有效提高对抗攻击下的网络鲁棒性。

Nov, 2018

对抗噪声层：通过添加噪声正则化神经网络

本研究介绍了一种新的正则化方法 —— 对抗性噪声层（ANL）及其高效版本 —— 类对抗性噪声层（CANL），通过在中间层激活中添加巧妙裁剪的噪声，能够明显提高 CNN 的泛化能力。与传统的对抗训练方法相比，使用 ANL 或 CANL 训练的模型更能抵御 FGSM 生成的对抗性样本。

May, 2018

对抗噪声下的鲁棒卷积神经网络

这篇论文提出了一种新的前馈卷积神经网络模型，通过引入随机加性噪音来增强网络对抗噪音的鲁棒性，其模型仅基于每个像素的均值和方差来简化计算，训练效果优于其他方法，特别是对于更难的分类任务或更强的对抗性噪声。

Nov, 2015

用反对手对抗对手

通过提出反对抗层，解决深度神经网络对小幅度输入扰动的脆弱性问题，并在 CIFAR10、CIFAR100 和 ImageNet 数据集上进行实验，结果显示该方法显著提高了模型的稳健性能且对准确率没有成本影响。

Mar, 2021

深度网络的简单黑盒对抗扰动

研究表明，即使没有内部知识，对深度卷积神经网络进行黑盒攻击并制造对抗性样本是可行的，这暴露了深度神经网络的弱点，为设计安全的网络提供了检验。

Dec, 2016

使用对抗网络进行鲁棒性深度学习的直接方法

该论文提出了一种基于生成对抗网络 (GAN) 框架下的新防御机制来对抗黑盒攻击，在经验上表现良好并能与利用梯度下降的集成对抗训练和对抗训练等最先进的方法媲美。

May, 2019

朝着对大幅扰动有抵抗力的深度学习模型

本文提出了一种网络权重初始化的方法，使其能够在更高噪声水平下学习，同时评估了在 MNIST 和 CIFAR10 数据集上增强对抗噪声对学习范围的影响，并通过对简单多维伯努利分布的理论结果进行研究，提出了一些关于 MNIST 数据集可行扰动范围的见解。

Mar, 2020

深度防御：用改进的对抗训练训练 DNNs 提高其鲁棒性

本文提出了一种名为 “deep defense” 的训练方法来解决深度神经网络易受到对抗样本攻击的问题，通过将对抗扰动的正则化器与分类目标相结合，得到的模型能够直接且准确地学习抵御潜在的攻击，实验证明该方法在不同数据集上对比对抗 / Parseval 正则化方法有更好的效果。

Feb, 2018

基于深度提议模型的强健性对抗扰动

本文提出了一种有效的 Robust Adversarial Perturbation（R-AP）方法，通过攻击 Region Proposal Network（RPN）的普遍组件，来通用地降低深度自学习物体检测器和实例分割算法的性能，并在 MS COCO 2014 数据集上进行实验，结果表明该方法具有很高的有效性。

Sep, 2018