Jul, 2023

基于采样的快速梯度重缩放方法用于高度可转移的对抗性攻击

PDF
TL;DR深度神经网络易受对抗样本攻击的影响，提出了一种基于采样的快速梯度缩放方法 (S-FGRM) 来提高攻击的可转移性。该方法可用于任何基于梯度的攻击，并可与各种输入转换或集成方法相结合，以进一步提高对抗性的可转移性。实验证明，该方法能够显著提高梯度攻击的可转移性，并优于现有的基准方法。
adversarial examplestransferabilitydeep neural networksgradient-based attackssampling-based fast gradient rescaling method
发现论文，激发创造
  • Nesterov 加速梯度和尺度不变性用于对抗性攻击

    本文从优化过程的角度和深度学习模型的尺度不变性出发，提出了两种新的方法来改善对抗样本的传递性，并演示这些攻击方法对抗网络防御模型的高攻击成功率。

    Aug, 2019

  • 使对抗样本更易于迁移和难以区分

    通过应用 Adam 迭代快速梯度 tanh 方法 (AI-FGTM) 来生成具有高传递性的难以区分的对抗性例子，其成功率更高，具有更好的传递性和难以区分性。

    Jul, 2020

  • 梯度细化改善对抗迁移能力

    采用梯度修正的方法，可进一步提高对抗性转移性，通过对多个转换引入的无用梯度进行修正，我们的方法在 ImageNet 数据集上可以实现 82.07％的平均转移成功率，在单模型设置下胜过其他最先进的方法的平均 6.0％，并且我们已将所提出的方法应用于由阿里巴巴组织的 CVPR 2021 ImageNet 无限制对抗攻击比赛中，攻击成功率在 1558 支队伍中排名第二。

    May, 2021

  • FGSM 和 PGD 对抗训练之间性能差距的缩小

    该研究利用弯曲正则化方法，将快速梯度符号方法（FGSM）扩展为可实现 adversarial robustness，并比 adversarial projected gradient decent 攻击方法（PGD）具有更高的训练效率。在 MNIST 数据集白盒攻击下，表现与 adv.PGD 相当，在 CIFAR-10 数据集转移攻击上表现更好。

    Nov, 2020

  • 利用逐步放大的随机梯度自由对抗攻击揭示了使用成熟攻击方法对稳健性的高估

    对 ReLu 神经网络进行梯度自由攻击可以提供对抗性攻击下的网络鲁棒性评估，相比于之前的最先进方法，可以更紧确地估计网络鲁棒性

    Mar, 2019

  • 消除对抗攻击在计算机网络间的传递能力整理

    我们提出了一种新颖和全面的方法，以提高对卷积神经网络（CNNs）中对抗性示例的攻击强度和传递性的评估，以及验证计算机网络应用中是否存在传递性问题。我们的研究结果表明，即使在计算机网络应用中，对抗性示例对安全的威胁需要开发新的防御机制来增强深度学习技术的安全性。

    Oct, 2023

  • 针对易样本的扰动改善目标对抗可迁移性

    在黑盒攻击中，敌对扰动的可迁移性为攻击提供了一种有效的捷径。本文实验和理论上证明相同数据集训练的神经网络，在每个类别的高样本密度区域（High-Sample-Density-Regions，HSDR）具有更一致的性能。在目标场景中，朝目标类别的 HSDR 添加扰动对于提高迁移性效果更好。此外，低损失的简单样本更有可能位于 HSDR，因此朝目标类别的这些简单样本添加扰动可以避免 HSDR 位置的密度估计。基于以上事实，我们验证了向目标类别的简单样本添加扰动可以提高现有攻击方法的目标敌对迁移性，提出了一种生成式目标攻击策略称为 Easy Sample Matching Attack（ESMA），它在目标攻击的成功率上具有更高的表现并且优于 SOTA 生成式方法。此外，与当前的 SOTA 相比，ESMA 只需 5% 的存储空间和更少的计算时间，因为 ESMA 使用单个模型攻击所有类别，而不是为每个类别分别创建模型。我们的代码可在此 URL 中获取。

    Jun, 2024

  • 快速优于免费：再探对抗训练

    通过使用快速梯度符号方法（FGSM）来作为对抗样本的构造方法，使得对抗训练的代价不比标准训练更高，而且 FGSM 对抗训练与 PGD 对抗训练效果相当。最后，我们还研究了 FGSM 对抗训练的 “灾难性过拟合” 失败模式。

    Jan, 2020

  • 神经网络的 Wasserstein 分布鲁棒性

    对于图像识别任务，深度神经网络易受到针对性攻击，本文使用 Wasserstein 分布鲁棒优化技术重新构建问题模型，并提出了新的攻击算法，包括 FGSM 和 PGD，并给出了对分布威胁模型的渐进估计。

    Jun, 2023

  • GE-AdvGAN：基于梯度编辑的对抗生成模型改进对抗样本的可传递性

    通过优化生成器参数的训练过程并引入梯度编辑机制，GE-AdvGAN 算法能够生成高度可迁移的对抗样本并在执行时间上与现有方法相比保持最小化。

    Jan, 2024