CVPRMar, 2021

通过方差调整增强对抗攻击的可转移性

PDF
TL;DR在攻击模型的黑盒情况下，特别是在有防御机制的情况下，传统的对抗攻击往往会表现出弱的可迁移性。本文提出了一种新的名为方差调整的方法来改善梯度攻击的可迁移性，并在标准 ImageNet 数据集上证明了该方法的有效性，成功率平均提高了 85.1％。
adversarial attacksneural networkstransferabilityvariance tuningimagenet dataset
发现论文，激发创造
  • 理解和提升对抗样本的可迁移性

    本文系统研究了影响对抗样本传递性的两类因素，包括网络结构、测试精度等模型特定因素和构建对抗样本的损失函数的局部光滑性。基于这些理解，提出了一种简单而有效的策略来增强传递性，称为方差降低攻击，因为它利用方差降低梯度来生成对抗样本，实验结果表明其有效性。

    Feb, 2018

  • 梯度细化改善对抗迁移能力

    采用梯度修正的方法，可进一步提高对抗性转移性，通过对多个转换引入的无用梯度进行修正，我们的方法在 ImageNet 数据集上可以实现 82.07％的平均转移成功率，在单模型设置下胜过其他最先进的方法的平均 6.0％，并且我们已将所提出的方法应用于由阿里巴巴组织的 CVPR 2021 ImageNet 无限制对抗攻击比赛中，攻击成功率在 1558 支队伍中排名第二。

    May, 2021

  • 提升对抗传递性的技巧包

    通过对现有对抗性攻击的仔细研究，我们提出了一系列技巧来增强对抗性传递性，包括动量初始化、计划的步长、双重示例、基于频谱的输入变换和几种集成策略。在 ImageNet 数据集上的大量实验验证了我们提出的技巧的高效性，并表明结合它们可以进一步增强对抗性传递性。我们的工作提供了实用的见解和技术，以增强对抗性传递性，并通过简单的调整指导提高对现实世界应用的攻击性能。

    Jan, 2024

  • 通过平移不变攻击规避转移对抗样本的防御

    本文提出了一种翻译不变攻击方法，该方法利用一个翻译图像集合上的扰动以生成更易于转移的对抗示例，并表明该方法通常适用于任何梯度攻击方法。作者在 ImageNet 数据集上广泛实验验证了该方法的有效性，并证明该攻击技术的存在不安全性。

    Apr, 2019

  • 增强动量提升对抗转移能力

    本文提出了一种增强的动量迭代梯度法，通过将先前迭代中梯度方向的数据点采样的平均梯度积累，稳定更新方向并逃离局部最大值，有效提高了动量迭代梯度法的对抗迁移性能，进一步结合各种输入转换方法可显著提升对抗迁移性能，实验证明平均提高 11.1%。同时，在集成模型设置下攻击多种尝试性高的防御模型，达到 7.8% 的显著提高。

    Mar, 2021

  • 利用方差迁移和学习速率自适应增量式生长神经网络加速训练

    通过考虑参数化和优化策略对训练动态的影响，我们开发了一种高效增长神经网络的方法，该方法动态稳定权重、激活和梯度缩放，提出一种学习率适应机制来解决不平衡训练问题，并取得了与训练大型固定模型相当或更好的准确性和训练速度加快。

    Jun, 2023

  • 通过输入多样性来提高对抗性样本的可迁移性

    利用多样化的输入模式来生成对抗样本，实现更好的对抗样本传递性，评估该方法在不同防御方法下的对抗成功率，并在 NIPS 2017 对抗比赛中获得了 73.0% 的平均成功率，从而提高了对抗攻击的基准线。

    Mar, 2018

  • 来自贝叶斯神经网络的有效且可迁移的对抗样本

    使用贝叶斯深度学习技术，以神经网络权重的后验分布进行抽样建立一个 surrogate，可以进一步提高黑盒攻击的可转移性，本文探究了提高攻击可转移性的训练方法， 将我们方法的表现与几种已有方法进行了比较，能够在 ImageNet 上获得 94% 的准确率。

    Nov, 2020

  • 又一种中等级攻击

    本文提出了一种通过建立中间层次的线性映射以增强基线对抗样本的黑盒可迁移性的方法，实现了在 CIFAR-100 和 ImageNet 上的实验验证以及比之前的最新技术表现强大。

    Aug, 2020

  • Admix: 提高对抗攻击的可转移性

    该研究旨在提高对抗转移性能，在理论和实验的基础上设计了一种称为 Admix 的输入变换攻击方法，该方法能够利用附加图像集合进行攻击并优于现有方法。

    Jan, 2021