ECCVApr, 2019

基于区域同质性：学习可传递的通用对抗扰动攻击策略（破解防御机制）

PDF
TL;DR本文研究了如何对抗防御模型的可转移对抗样本，特别是展示出一种简单的通用扰动可以欺骗一系列最先进的防御模型。通过观察到对抗扰动中的区域同质性，我们建议采用一种有效的转换范式和定制的梯度变换器模块将现有扰动转化为区域同质性扰动。通过全面实验，我们发现本文的工作在转移攻击设置下比先前的攻击算法提高了 14.0% 的效果。
发现论文，激发创造
  • 通过平移不变攻击规避转移对抗样本的防御

    本文提出了一种翻译不变攻击方法，该方法利用一个翻译图像集合上的扰动以生成更易于转移的对抗示例，并表明该方法通常适用于任何梯度攻击方法。作者在 ImageNet 数据集上广泛实验验证了该方法的有效性，并证明该攻击技术的存在不安全性。

    Apr, 2019

  • 对抗扰动的跨域可转移性

    本研究首次证明存在领域不变的对抗性攻击，提出了一个用于在不同领域中高度转移的攻击框架，核心是一个可生成网络，具有相对论监督信号，能够实现领域不变的扰动。该方法在白盒和黑盒情况下均创新了欺骗率的最佳性能，并且尽管它是一个无实例特定扰动的函数，但优于传统上更强的实例特定攻击方法。

    May, 2019

  • 区域性图像扰动能够降低 $L_p$ 范数的对抗样本，同时保持模型对模型的可转移性

    本研究通过使用交叉熵符号等简单方法，生成有效的区域性对抗扰动，这些局部攻击可能比非本地对抗例子需要更少的扰动，从而潜在地破坏了在 $L_p$ 范数下具有稳健性的防御。

    Jul, 2020

  • 理解和提升对抗样本的可迁移性

    本文系统研究了影响对抗样本传递性的两类因素，包括网络结构、测试精度等模型特定因素和构建对抗样本的损失函数的局部光滑性。基于这些理解，提出了一种简单而有效的策略来增强传递性，称为方差降低攻击，因为它利用方差降低梯度来生成对抗样本，实验结果表明其有效性。

    Feb, 2018

  • 面向可迁移的对抗攻击与集中扰动

    在频率域中进行细粒度扰动优化的可传递对抗攻击方法能够增强攻击传递性，有效绕过各种防御措施。

    Dec, 2023

  • 使用生成模型的可传递通用对抗扰动

    本文提出了一种针对深度网络易受对抗扰动攻击的问题的方法，使用预训练网络生成图像无关对抗扰动（UAPs），并通过在源模型的第一层仅关注对抗能量的损失，提高了 UAPs 的传递性，并在实验中展示了该方法的优越性。

    Oct, 2020

  • 一种噪音统治一切：具有通用扰动的多视角对抗攻击

    本研究提出了一种新颖的通用干扰方法，用于生成 3D 物体识别中的强健的多视角对抗样本。与仅限于单个视角的传统攻击不同，我们的方法在多个 2D 图像上操作，为增强模型的可扩展性和鲁棒性提供实用且可扩展的解决方案。这种通用方法将 2D 干扰和类似 3D 攻击能力之间的差距缩小，适用于实际应用。

    Apr, 2024

  • 深度神经网络中对抗性样本的可迁移性调查

    深度神经网络的关键问题之一是对抗性攻击和转移性，考虑到安全性和未来的发展，需要加强对抗性漏洞的防御。

    Oct, 2023

  • 生成可转移的有针对性扰动

    该论文提出了一种新的生成方法 —— 高度可转移的有目标扰动（TTP），该方法不依赖于源或目标域标签，能够自适应地合成特定于给定输入的扰动，并且在广泛的攻击设置下始终表现优异。

    Mar, 2021

  • 通过输入多样性来提高对抗性样本的可迁移性

    利用多样化的输入模式来生成对抗样本，实现更好的对抗样本传递性，评估该方法在不同防御方法下的对抗成功率，并在 NIPS 2017 对抗比赛中获得了 73.0% 的平均成功率，从而提高了对抗攻击的基准线。

    Mar, 2018