MMMay, 2019

针对对抗攻击的带限制神经网络

PDF
TL;DR使用傅里叶分析的方法研究了深度学习中对抗攻击和防御问题，发现神经网络的高频分量是其漏洞产生的重要原因，于是提出了一种简单的后验平均方法来平滑这些高频分量，使神经网络的鲁棒性得到了提高，可以有效地防御多种对抗攻击方法，且不会对原始图像产生显著的性能下降。
adversarial attackdefencefourier analysisneural networkpost-averaging
发现论文，激发创造
  • 通过抑制高频成分进行对抗性防御

    该研究通过去除高频分量训练出具有鲁棒性的图像分类模型，并在 IJCAI-2019 阿里巴巴对抗 AI 挑战中获得了第五名。

    Aug, 2019

  • SpectralDefense: 在傅里叶域中检测 CNN 的对抗攻击

    该研究使用傅里叶域的分析方法和特征图的相位和振幅识别方法，成功地区分了对抗示例和良性测试图片，并提出了两种新颖的对抗检测方法。

    Mar, 2021

  • LFAA：使用低频扰动创建可转移的定向对抗样本

    通过利用深度神经网络对图像高频分量的扰动的脆弱性，我们提出了一种新方法来生成可转移的有针对性对抗样本，该方法通过训练条件生成器生成针对性的对抗扰动，并将其添加到图像的低频分量中，实验证明我们的方法显著优于现有的方法，将有针对性攻击成功率提高了 3.2% 至 15.5%。

    Oct, 2023

  • 频率正则化提高对抗鲁棒性

    本研究在深度神经网络安全领域提出了一种方法，即通过频率正则化和随机权重平均方法，提高 Adversarial Training 的鲁棒性，实现对 PGD-20、C&W、Autoattack 等方式的攻击具有更加强大的抵抗能力。

    Dec, 2022

  • 通过傅里叶稳定性增强神经网络的鲁棒性

    本文介绍了一种名为 “Fourier Stabilization” 的方法，使用傅里叶分析工具来设计抗拒逃避攻击的神经网络，提高了神经网络在多种安全检测环境下的鲁棒性，并证明这种方法与对抗性训练有效组成。

    Jun, 2021

  • 利用超宽带信道脉冲响应进行人体本地化的测试时间对抗性检测和鲁棒性

    本论文提出了一种通过量化预训练神经网络的局部中间响应和辅助 softmax 层的置信度得出输入的对抗样本的测试时间对抗样本例探测器，并通过非迭代输入样本剪辑来减弱非相关特征，从而提高了 15 种对抗扰动水平下的平均性能，其中快速梯度符号法（FGSM）提高了 55.33％，而基本迭代法（BIM）和投影梯度法（PGD）分别提高了 6.3％。

    Nov, 2022

  • BlurNet：通过滤波特征图来进行防御

    本文研究对抗机器学习中的 $RP_2$ 攻击，并提出一种名为 BlurNet 的防御方法，该方法通过低通滤波来减少噪声，并采用正则化策略将其融入网络训练过程中，进而显著提高抵御攻击的能力。

    Aug, 2019

  • 频率驱动的对抗样本的一种新视角

    通过对频域内对抗扰动的详细频率分析，我们的研究表明低频带的高频部分中存在显著的对抗扰动，并基于此提出了一种基于不同频率带组合的黑盒对抗攻击算法，可显著提高攻击效率。实验结果显示平均攻击成功率达到 99％，超过使用单一频率段的攻击。此外，我们引入了归一化扰动可见性指数，为评估连续和离散扰动的 $L_2$ 范数的局限性提供了解决方案。

    Apr, 2024

  • 光谱视角理解和提高对抗鲁棒性

    本研究从频谱的角度探讨对抗性训练机制（AT），展示在低频区保留偏向形状的表示能够提高深度神经网络（DNNs）的鲁棒性，并提出了一种名称为 “频谱对齐正则化”（SAR）的训练方法，在多个数据集和攻击下显著提高 DNNs 的鲁棒准确性。

    Jun, 2023

  • 利用逐步放大的随机梯度自由对抗攻击揭示了使用成熟攻击方法对稳健性的高估

    对 ReLu 神经网络进行梯度自由攻击可以提供对抗性攻击下的网络鲁棒性评估，相比于之前的最先进方法，可以更紧确地估计网络鲁棒性

    Mar, 2019