ICLRMar, 2021

通过通道级激活抑制来提高对抗性鲁棒性

PDF
TL;DR本文从渠道角度分析对抗 perturbations 特性，提出了一种基于通道的抑制策略 (CAS) 用于训练一个本质上抑制对抗激活的模型，进一步改善现有防御方法的鲁棒性。
adversarial examplesneural networksactivationadversarial trainingrobustness
发现论文，激发创造
  • 通过激活增强和抑制解释对抗样本

    本文旨在更好地理解对 CNNs 的对抗扰动机制，并从像素、图像和网络视角提供可视化解释，证明对抗扰动具有促进 - 抑制效应（PSE），并可以主要分类为三种类型：压制型扰动、推广型扰动和平衡扰动。 它在像素级扰动的 PSE 与定位的类特定判别性图像区域之间提供图像级可解释性，并通过网络分解检查了对抗性的效应，这提供了隐藏单元的概念级可解释性。 在我们的解释下，提供了一些新的见解来提高网络的对抗性强度。

    Apr, 2019

  • 使用逐元素激活缩放增强卷积神经网络的鲁棒性

    本文研究了通过精细调整激活元素以改进 CNN 模型的对抗鲁棒性的 Element-Wise 激活缩放方法，实验结果在 CIFAR10 和 SVHN 上表明，EWAS 显著提高了 ResNet-18 的对抗性准确性达到了 82.35％，是对提高模型对抗鲁棒性简单且有效的方法。

    Feb, 2022

  • 使用对称激活函数增强卷积神经网络稳健性

    该研究论文提出使用对称激活函数（SAF）改善深度卷积神经网络（CNN）对类似于对抗样本的干扰输入的鲁棒性，并通过实验证明在 MNIST 和 CIFAR-10 数据集上该方法显著提高了 CNN 在对抗和非意义样本上的分类精度。

    Mar, 2016

  • 基于通道重要性特征选择的 CNN 敌对鲁棒性改善

    通过比较没有鲁棒性的 CNN（一般训练）和有鲁棒性的 CNN（对抗性训练），我们从通道层面研究了 CNN 的对抗性鲁棒性，发现对抗性训练通过使对抗数据与相应的自然数据的通道层次之间对齐来增强 CNN 的鲁棒性，并且引入 CIFS 机制进一步压制了对预测贡献不利的通道并增加了对预测贡献有益的通道。

    Feb, 2021

  • 通过固定和动态量化激活函数来防御深度神经网络对抗性示例

    本研究发现神经网络量化和抵御对抗攻击这两条不同的路线可以合并，提出了动态量化激活方法以训练鲁棒神经网络，并在 MNIST 和 CIFAR-10 数据集上的广泛实验证明了该方法能够有效提高深度神经网络的鲁棒性。

    Jul, 2018

  • 末隐藏层激活的非合理有效性对于对抗性稳健性的影响

    研究了在输出层使用高温度值的激活函数对于防御基于梯度的对抗攻击的效果，并在 MNIST 数据集上实验验证了其方式可以显著提高对抗攻击的鲁棒性。

    Feb, 2022

  • 固定的神经元协变性引起对抗性稳健性

    通过引入自相关激活层，该研究以人类感知的特性为依据，改善了深度神经网络对敌对扰动的抵抗能力，从而提高了图像和声音识别任务的准确率并显著降低了对最新的自动 PGD 敌对攻击的脆弱性。

    Aug, 2023

  • 双重关注抑制攻击：在物理世界中生成对抗伪装

    本文提出了双重关注抑制攻击 (Dual Attention Suppression，DAS) 来对抗深度学习模型中的物理对抗性样本，该方法具有模型无关性和人类特定模式，在数字和实体世界中均进行了广泛实验，表明该方法优于当前最先进的对抗性攻击方法。

    Mar, 2021

  • 通用后门缓解和测试时间检测的改进激活剪裁

    深度神经网络容易受到后门攻击，通过限制内部激活层的界限，可以有效减轻此类攻击及提高分类性能，在测试时还可以检测和校正激活界限网络与原网络之间的输出差异。

    Aug, 2023

  • DLA: 密集层分析用于对抗样本检测

    本文介绍了一种新的端到端框架来检测深度神经网络中可能存在的对抗样本，采用神经元覆盖率引导测试来分析 DNN 的密集层激活模式，以实现实时检测，能够覆盖各种类型的 DNN 架构，包括 LSTM，防御了最先进的攻击，同时提供确保无法轻易绕过的白盒自适应攻击。

    Nov, 2019