CVPRMar, 2022

研究前 $k$ 名白盒和可转移黑盒攻击

PDF
TL;DR本文探讨了在实际应用中的黑盒情况下，提出了对攻击强度的评估。作为摘要，我们从几何角度出发，提出了新的 CE 损失函数，该函数针对攻击强度和 ICR 等方面进行了有效的实现和验证。
transferable attackasrwhite-boxnormalized ce losslogit gradient
发现论文，激发创造
  • 关于成功和简单性的再探：可传递的有针对性攻击

    通过发现简单易用的可转移攻击可以取得很高的目标转移性能，本文提出了新的针对传输设置的评估方法，并显示了使用 logit loss 方法生成目标通用对抗扰动的有效性。

    Dec, 2020

  • 转移攻击再探：在实际计算机视觉环境下的大规模经验研究

    本文通过大规模系统的实证研究，探究了云端机器学习服务平台的漏洞和其普遍存在的在深度神经网络中的 “对抗攻击” 问题，发现先前的假设和结论在真实世界环境下不再一致，并指出了对未来研究方向的启示。

    Apr, 2022

  • 通过少量查询提高对抗样本的可迁移性

    本文提出了一种名为查询先验方法的新方法，通过使用少量的查询来增强快速梯度符号法的攻击可传递性，理论分析和广泛的实验表明，我们的方法可以显著提高基于梯度的对抗攻击在 CIFAR10/100 和 ImageNet 上的可传递性，并优于具有相同少量查询的黑盒查询攻击。

    May, 2022

  • 基于可转移模型嵌入的黑盒对抗攻击

    本文提出了一种新的黑盒对抗攻击方法，通过使用预训练模型学习低维嵌入，然后在此嵌入空间内进行高效搜索，从而攻击未知目标网络。该方法能够生成具有高级语义模式的对抗性扰动，易于迁移，可大大提高黑盒对抗攻击的查询效率。作者在 MNIST、ImageNet 和 Google Cloud Vision API 上进行评估，并在 CIFAR10 和 ImageNet 上攻击对抗性防御网络，取得了良好的攻击效果。

    Nov, 2019

  • 通过标准化逻辑输出校准和截断特征混合改进可转移的有针对性对抗攻击

    本文旨在提高有针对性攻击中对抗样本的可转移性，通过在损失和特征方面提出两种不同的改进方法。首先，我们引入了一种新的规范化对数准确度校准方法，它同时考虑了对数边界和对数的标准差。其次，我们进一步研究了截断特征混合方法来减小源训练模型的影响，从而实现了额外的改进。在 ImageNet-Compatible 和 CIFAR-10 数据集上进行的实验证明了我们提出的两个组件的个别和相互优势，在黑盒有针对性攻击中取得了领先于现有方法的大幅度改进。

    May, 2024

  • 推进泛化迁移攻击：基于初始化衍生的双层优化和动态序列截断

    提出了一种基于双层优化框架的转移攻击方法 (BETAK)，通过引入超梯度响应 (HGR) 估计和动态序列截断 (DST) 技术，提供了算法分析和收敛保证，显著提升对不同受害者和防御方法的攻击成功率。

    Jun, 2024

  • 又一种中等级攻击

    本文提出了一种通过建立中间层次的线性映射以增强基线对抗样本的黑盒可迁移性的方法，实现了在 CIFAR-100 和 ImageNet 上的实验验证以及比之前的最新技术表现强大。

    Aug, 2020

  • GNP 攻击：通过梯度范数惩罚产生可迁移的对抗样本

    通过梯度范数惩罚的新方法大大提高了对抗样本的可传递性，使其能够在各种目标模型上进行黑盒攻击，对源模型的体系结构和特征表示的拟合度较低，同时也能与其他基于梯度的方法进行整合以实现更强的基于传递的攻击。

    Jul, 2023

  • 防御来自公共模型的转移攻击

    通过传输攻击和博弈论的视角，在新的威胁模型下提出了一种有效的防御方法，该方法在公共模型和多个数据集上进行了评估，并且在最强的传输攻击下相较于最好的对抗训练模型具有明显优势。

    Oct, 2023

  • 消除对抗攻击在计算机网络间的传递能力整理

    我们提出了一种新颖和全面的方法，以提高对卷积神经网络（CNNs）中对抗性示例的攻击强度和传递性的评估，以及验证计算机网络应用中是否存在传递性问题。我们的研究结果表明，即使在计算机网络应用中，对抗性示例对安全的威胁需要开发新的防御机制来增强深度学习技术的安全性。

    Oct, 2023