Dec, 2020

关于成功和简单性的再探：可传递的有针对性攻击

PDF
TL;DR通过发现简单易用的可转移攻击可以取得很高的目标转移性能，本文提出了新的针对传输设置的评估方法，并显示了使用 logit loss 方法生成目标通用对抗扰动的有效性。
transferabilitytargeted attacksmodel traininglogit lossuniversal adversarial perturbations
发现论文，激发创造
  • 转移攻击再探：在实际计算机视觉环境下的大规模经验研究

    本文通过大规模系统的实证研究，探究了云端机器学习服务平台的漏洞和其普遍存在的在深度神经网络中的 “对抗攻击” 问题，发现先前的假设和结论在真实世界环境下不再一致，并指出了对未来研究方向的启示。

    Apr, 2022

  • 通过标准化逻辑输出校准和截断特征混合改进可转移的有针对性对抗攻击

    本文旨在提高有针对性攻击中对抗样本的可转移性，通过在损失和特征方面提出两种不同的改进方法。首先，我们引入了一种新的规范化对数准确度校准方法，它同时考虑了对数边界和对数的标准差。其次，我们进一步研究了截断特征混合方法来减小源训练模型的影响，从而实现了额外的改进。在 ImageNet-Compatible 和 CIFAR-10 数据集上进行的实验证明了我们提出的两个组件的个别和相互优势，在黑盒有针对性攻击中取得了领先于现有方法的大幅度改进。

    May, 2024

  • 研究前 $k$ 名白盒和可转移黑盒攻击

    本文探讨了在实际应用中的黑盒情况下，提出了对攻击强度的评估。作为摘要，我们从几何角度出发，提出了新的 CE 损失函数，该函数针对攻击强度和 ICR 等方面进行了有效的实现和验证。

    Mar, 2022

  • 利用相似目标的增强对抗攻击

    在这篇论文中，我们提出了一种名为 Similar Target（ST）的类似目标攻击方法，通过促进每个模型梯度的余弦相似性，我们的方法规范化了优化方向，从而同时攻击所有替代模型，验证了我们的方法在提高对抗迁移性方面的有效性。在 ImageNet 上的实验结果证实了我们的方法在提高对抗迁移性方面的有效性，优于 18 个判别分类器和对抗训练模型的最先进攻击方法。

    Aug, 2023

  • 防御来自公共模型的转移攻击

    通过传输攻击和博弈论的视角，在新的威胁模型下提出了一种有效的防御方法，该方法在公共模型和多个数据集上进行了评估，并且在最强的传输攻击下相较于最好的对抗训练模型具有明显优势。

    Oct, 2023

  • 如何选择可转移攻击的最佳盟友？

    本文提出了一种基于失真度量方法的新的迁移性攻击成功率评估工具，并针对随机选择源模型可能导致的问题，提出了一种称为 FiT 的新型选择机制。实验结果表明，FiT 对于多种攻击类型的源模型选择具有高效性。

    Apr, 2023

  • 针对深度模型的目标无关攻击：利用迁移学习的安全漏洞

    该论文研究了在迁移学习中使用公共预训练模型会存在安全漏洞的问题，因为攻击者可以使用基于暴力破解的方法，通过已知的预训练模型，生成能够触发目标分类器的实例，从而破解安全防护措施。此外，论文也提到了 Softmax 层的基本安全漏洞。

    Apr, 2019

  • 重新审视可转移对抗图像示例：攻击分类、评估准则和新见解

    通过建立新的评估准则，我们在 ImageNet 上对 23 种典型攻击与 9 种代表性防御进行了首次大规模的可传递对抗样本评估，发现既有的评估存在误导性结论和遗漏点，从而阻碍了该领域的实际进展评估。

    Oct, 2023

  • 攻击方式太过低级：对于对抗性可迁移性的攻击方案进行形式化

    本文研究在机器学习模型中对抗样本的转移性，提出了 DUMB 攻击模型并设计了测试环境验证实验，证明在数据源、平衡度和模型架构不匹配时，攻击的效果会受到严重影响。

    Jun, 2023

  • 可转移对抗攻击的基准评估

    本研究首次详细审查了对抗性攻击的可转移性方面，系统地分类和评估了各种用于增强对抗性攻击可转移性的方法学。同时，本文引入了一个基准框架 TAA-Bench，集成了十种领先的对抗性攻击可转移性方法，为跨不同模型结构的比较分析提供了一种标准化和系统化的平台。通过全面审查，我们描述了每种方法的有效性和限制，并揭示了它们的操作原理和实际效用，旨在成为该领域学者和实践者的基本资源，为对抗性可转移性的复杂领域绘制地图并为未来的探索奠定基础。

    Feb, 2024