通过 DNN 瓶颈强化来防御对抗性样本

MMAug, 2020

Defending Adversarial Examples via DNN Bottleneck Reinforcement

Wenqing Liu, Miaojing Shi, Teddy Furon, Li Li

TL;DR本文提出了一种基于 DNN 的信息瓶颈增强方案，以减轻 DNN 对抗攻击的脆弱性。通过引入多尺度低通目标和多尺度高频通信来增强信息瓶颈，本方案能够有效地过滤冗余信息，对 MNIST、CIFAR-10 和 ImageNet 等数据集的实验结果表明其抵御各种对抗攻击的强大防御效果。

Abstract

This paper presents a dnn bottleneck reinforcement scheme to alleviate the vulnerability of Deep Neural Networks (dnn) against adversarial attack

发现论文，激发创造

该研究论文研究了深度神经网络的鲁棒性问题，特别是针对对抗样本的攻击。通过探索神经网络的结构，拓扑结构，预处理和训练策略等方面来提高深度神经网络的抗干扰能力，并且通过引入平滑性惩罚来提高其稳健性。

Dec, 2014

本文提出了一种基于实践观察的新的防御方法，旨在强化深度神经网络的结构，提高其预测稳定性，从而更难受到针对性攻击，并在多种攻击实验中证明了该方法的有效性，相比其他防御方法具有更好的表现，而且在训练过程中的开销几乎可以忽略不计。

Jul, 2017

本篇研究提出了一种基于自编码器的混合辨别 - 生成训练方案，通过对抗威胁模型来增强模型对于预测信号和快捷信号的鲁棒性，实验结果表明该方案相比传统方案在多项可靠性上均表现良好。

Mar, 2023

本文研究了视觉强化学习中自主代理的鲁棒性，发现在 CNN 体系结构中添加瓶颈注意力模块 (BAM) 可以提高抵御对抗性攻击的能力。作者表明学习到的注意力映射可以用来恢复卷积层的激活，并在一些 RL 场景中展示出加强了的鲁棒性。

Aug, 2022

结合特征可视化和输入修改的简单防御方法，能够应用于各种预训练模型，可对付对神经网络造成的敌对攻击。本文在 ImageNet 数据集上以 VGG19 为例，通过新的评估指标验证了该防御方法的有效性。

Mar, 2020

本文提出了一种名为 “deep defense” 的训练方法来解决深度神经网络易受到对抗样本攻击的问题，通过将对抗扰动的正则化器与分类目标相结合，得到的模型能够直接且准确地学习抵御潜在的攻击，实验证明该方法在不同数据集上对比对抗 / Parseval 正则化方法有更好的效果。

Feb, 2018

本文提出了一种新的解释对抗扰动的方法，即通过模拟分类器实际使用的有效输入信号，应用特殊训练的自编码器作为防御机制，称为 S2SNets。该方法在白盒和灰盒场景下实现了可比较的鲁棒性，并且分析了 AlexNet、VGG 16、ResNet 50 和 Inception v3 在对抗空间中的关系。

Mar, 2018

基于卷积自编码器的方法提高目标分类器对抗性攻击的鲁棒性，通过生成与输入图像相似的图像来恢复模型的准确性。

Dec, 2023

本文介绍了一种新的端到端框架来检测深度神经网络中可能存在的对抗样本，采用神经元覆盖率引导测试来分析 DNN 的密集层激活模式，以实现实时检测，能够覆盖各种类型的 DNN 架构，包括 LSTM，防御了最先进的攻击，同时提供确保无法轻易绕过的白盒自适应攻击。

Nov, 2019

本文利用信息瓶颈理论，研究消除易受攻击的非鲁棒特征，提取任务特定的鲁棒特征。通过大量实验证明，我们的方法可在 SST-2、AGNEWS 和 IMDB 数据集上除了几乎不受性能下降的情况下，在鲁棒准确度上实现显著提高，超过以往任何被报道的方法。

Jun, 2022