Nov, 2023

系统性、实践性和公正性地评估基于传递的攻击

PDF
TL;DR该论文探讨了深度神经网络（DNNs）的对抗性脆弱性，并建立了一个基于转移的攻击基准（TA-Bench）来评估和比较 30 多种方法在 ImageNet 上的 25 个受害模型，从而提供了这些方法的有效性新见解和未来评估的指导。
adversarial vulnerabilitydeep neural networkstransfer-based methodsbenchmarkimagenet
发现论文，激发创造
  • 可转移对抗攻击的基准评估

    本研究首次详细审查了对抗性攻击的可转移性方面，系统地分类和评估了各种用于增强对抗性攻击可转移性的方法学。同时，本文引入了一个基准框架 TAA-Bench，集成了十种领先的对抗性攻击可转移性方法，为跨不同模型结构的比较分析提供了一种标准化和系统化的平台。通过全面审查，我们描述了每种方法的有效性和限制，并揭示了它们的操作原理和实际效用，旨在成为该领域学者和实践者的基本资源，为对抗性可转移性的复杂领域绘制地图并为未来的探索奠定基础。

    Feb, 2024

  • 深度神经网络中对抗性样本的可迁移性调查

    深度神经网络的关键问题之一是对抗性攻击和转移性，考虑到安全性和未来的发展，需要加强对抗性漏洞的防御。

    Oct, 2023

  • 又一种中等级攻击

    本文提出了一种通过建立中间层次的线性映射以增强基线对抗样本的黑盒可迁移性的方法，实现了在 CIFAR-100 和 ImageNet 上的实验验证以及比之前的最新技术表现强大。

    Aug, 2020

  • 使代替模型更贝叶斯化可以增强对抗样本的可转移性

    本文提出了使用贝叶斯模型对深度神经网络的对抗样本进行攻击的方法，并通过实验验证了其在改善模型迁移性方面的有效性以及攻击效果，攻击成功率平均提升约 19%。

    Feb, 2023

  • 对对抗传递性的可靠评估

    本文重新评估了 12 种常见的对抗样本转移攻击方法，得出结论：对抗转移性经常被高估，在不同的流行模型之间不存在能够传递的单个对抗样本，并提出了一个可靠的基准，包括三个评估协议，以便未来的研究。

    Jun, 2023

  • 重新审视可转移对抗图像示例：攻击分类、评估准则和新见解

    通过建立新的评估准则，我们在 ImageNet 上对 23 种典型攻击与 9 种代表性防御进行了首次大规模的可传递对抗样本评估，发现既有的评估存在误导性结论和遗漏点，从而阻碍了该领域的实际进展评估。

    Oct, 2023

  • 基于感知度量的任务通用性对抗攻击

    提出一种基于永续度量的方法，通过创造高度扭曲网络特征空间的攻击来达到高度通用的敌对样本，旨在打破相对有限的目前攻击的限制，并可将其通过多个网络扩展到多个任务。

    Nov, 2018

  • 转移攻击再探：在实际计算机视觉环境下的大规模经验研究

    本文通过大规模系统的实证研究，探究了云端机器学习服务平台的漏洞和其普遍存在的在深度神经网络中的 “对抗攻击” 问题，发现先前的假设和结论在真实世界环境下不再一致，并指出了对未来研究方向的启示。

    Apr, 2022

  • 来自贝叶斯神经网络的有效且可迁移的对抗样本

    使用贝叶斯深度学习技术，以神经网络权重的后验分布进行抽样建立一个 surrogate，可以进一步提高黑盒攻击的可转移性，本文探究了提高攻击可转移性的训练方法， 将我们方法的表现与几种已有方法进行了比较，能够在 ImageNet 上获得 94% 的准确率。

    Nov, 2020

  • 探究可转移的对抗样本和黑盒攻击

    本文首次对大规模数据集和大型模型进行了对抗样本的可迁移性的研究，同时也是首次研究了设计有目标的对抗样本在其目标标签之间的可转移性。通过新颖的集成方法，本文发现大量有目标的对抗样本可以成功地与其目标标签一起转移，并且这些使用集成方法生成的对抗样本可以成功地攻击黑匣子图像分类系统 Clarifai.com。

    Nov, 2016