Feb, 2022

末隐藏层激活的非合理有效性对于对抗性稳健性的影响

PDF
TL;DR研究了在输出层使用高温度值的激活函数对于防御基于梯度的对抗攻击的效果，并在 MNIST 数据集上实验验证了其方式可以显著提高对抗攻击的鲁棒性。
deep neural networkactivation functionsadversarial evasion attacksgradient-based attacksmnist
发现论文，激发创造
  • 低曲率激活减少对抗训练中的过拟合

    本文研究在对抗训练中如何选择合适的激活函数，发现使用具有低曲率值的激活函数可以有效减小一般化误差，包括标准误差和稳健误差，并且这种现象适用于可微的平滑激活函数和不可微的非平滑激活函数。此外，对于具有低曲率的激活函数，没有出现模型的双下降现象。

    Feb, 2021

  • 通过固定和动态量化激活函数来防御深度神经网络对抗性示例

    本研究发现神经网络量化和抵御对抗攻击这两条不同的路线可以合并，提出了动态量化激活方法以训练鲁棒神经网络，并在 MNIST 和 CIFAR-10 数据集上的广泛实验证明了该方法能够有效提高深度神经网络的鲁棒性。

    Jul, 2018

  • 通用后门缓解和测试时间检测的改进激活剪裁

    深度神经网络容易受到后门攻击，通过限制内部激活层的界限，可以有效减轻此类攻击及提高分类性能，在测试时还可以检测和校正激活界限网络与原网络之间的输出差异。

    Aug, 2023

  • DLA: 密集层分析用于对抗样本检测

    本文介绍了一种新的端到端框架来检测深度神经网络中可能存在的对抗样本，采用神经元覆盖率引导测试来分析 DNN 的密集层激活模式，以实现实时检测，能够覆盖各种类型的 DNN 架构，包括 LSTM，防御了最先进的攻击，同时提供确保无法轻易绕过的白盒自适应攻击。

    Nov, 2019

  • 基于数据依赖激活函数和总变差最小化的对抗防御

    采用插值函数作为输出激活函数，能够显著提高深度神经网络在对抗攻击下的鲁棒性，通过结合总变分最小化技术和训练数据增强，我们将 ResNet20 的对抗训练提高了约 23％的鲁棒度，并通过对特征空间的几何形态进行分析提供了相应的直观解释。

    Sep, 2018

  • 学习激活函数以提高深度神经网络性能

    使用自适应激活函数，设计了一种用于改进深层神经网络架构的分段线性激活函数，并在 CIFAR-10 等数据集上取得了最先进的表现。

    Dec, 2014

  • 利用对抗训练模型中的潜在层漏洞

    本研究通过对鲁棒性模型的分析，发现相对于输入层抗攻击性较强的特征层是高度容易受到小幅度形变攻击的。在此基础上，我们提出了一种名为 LAT 的新技术，通过对已经进行对抗性训练的模型进行微调，以保证其特征层的鲁棒性。研究表明此方法对 MNIST、CIFAR-10 和 CIFAR-100 数据集的前沿对抗准确度有轻微提升。

    May, 2019

  • 副通道攻击破坏嵌入式人工智能的黑箱特性

    通过利用边信道攻击以提取 logits，我们提出了一种架构无关的黑盒攻击方法用于生成具有欺骗性的对抗样本，以证明边信道攻击在攻击神经网络时的有效性。

    Nov, 2023

  • ReLU 是否具有对抗鲁棒性？

    通过实验证明修正线性单元（ReLU）激活函数在生成对抗性样本方面的不足，我们提出了一种改进版本的 ReLU 函数，以提高对抗性样本的鲁棒性，并通过对抗训练进一步增强了我们的自定义模型相比于通用模型的鲁棒性。

    May, 2024

  • 用反对手对抗对手

    通过提出反对抗层，解决深度神经网络对小幅度输入扰动的脆弱性问题，并在 CIFAR10、CIFAR100 和 ImageNet 数据集上进行实验，结果显示该方法显著提高了模型的稳健性能且对准确率没有成本影响。

    Mar, 2021