Jun, 2024

针对易样本的扰动改善目标对抗可迁移性

PDF
TL;DR在黑盒攻击中，敌对扰动的可迁移性为攻击提供了一种有效的捷径。本文实验和理论上证明相同数据集训练的神经网络，在每个类别的高样本密度区域（High-Sample-Density-Regions，HSDR）具有更一致的性能。在目标场景中，朝目标类别的 HSDR 添加扰动对于提高迁移性效果更好。此外，低损失的简单样本更有可能位于 HSDR，因此朝目标类别的这些简单样本添加扰动可以避免 HSDR 位置的密度估计。基于以上事实，我们验证了向目标类别的简单样本添加扰动可以提高现有攻击方法的目标敌对迁移性，提出了一种生成式目标攻击策略称为 Easy Sample Matching Attack（ESMA），它在目标攻击的成功率上具有更高的表现并且优于 SOTA 生成式方法。此外，与当前的 SOTA 相比，ESMA 只需 5% 的存储空间和更少的计算时间，因为 ESMA 使用单个模型攻击所有类别，而不是为每个类别分别创建模型。我们的代码可在此 URL 中获取。
adversarial perturbationsblack-box attackshigh-sample-density-regionstargeted adversarial transferabilityeasy sample matching attack
发现论文，激发创造
  • 探究深层水印安全性：对抗性迁移角度

    利用生成性神经网络和深度水印技术对生成内容进行了知识产权保护研究，通过引入可转移攻击来评估深度水印的脆弱性，发现通过针对目标类的高样本密度区域进行样本干扰有助于提高有针对性的攻击转移率，在模型的输出一致性上定义了局部样本密度的概念，并引入了容易样本选择机制和容易样本匹配攻击方法，同时还提出了信息瓶颈理论集成的瓶颈增强混合方法，通过实验证明了针对转移攻击的成功率在提高。

    Feb, 2024

  • 生成可转移的有针对性扰动

    该论文提出了一种新的生成方法 —— 高度可转移的有目标扰动（TTP），该方法不依赖于源或目标域标签，能够自适应地合成特定于给定输入的扰动，并且在广泛的攻击设置下始终表现优异。

    Mar, 2021

  • 面向可迁移的对抗攻击与集中扰动

    在频率域中进行细粒度扰动优化的可传递对抗攻击方法能够增强攻击传递性，有效绕过各种防御措施。

    Dec, 2023

  • 通过特征层次扰动来提高黑盒攻击的标准和严格可转移性

    该研究讨论在深度神经网络（DNN）图像分类器范围内的黑盒传递目标对抗攻击威胁模型，提出的方法通过扰动特征层级上的表示来模仿其他类别，使用灵活的攻击框架显示出 ImageNet DNNs 之间的最新目标传输性能，并说明其优越性，相比于其他黑盒传输方法，成功率提高了 10 倍，该方法胜过现有的攻击策略，并在有限的黑盒模型查询情况下同时展示了该方法的扩展性。

    Apr, 2020

  • 基于区域同质性：学习可传递的通用对抗扰动攻击策略（破解防御机制）

    本文研究了如何对抗防御模型的可转移对抗样本，特别是展示出一种简单的通用扰动可以欺骗一系列最先进的防御模型。通过观察到对抗扰动中的区域同质性，我们建议采用一种有效的转换范式和定制的梯度变换器模块将现有扰动转化为区域同质性扰动。通过全面实验，我们发现本文的工作在转移攻击设置下比先前的攻击算法提高了 14.0% 的效果。

    Apr, 2019

  • 稳定扩散提高对抗转移性

    该研究探讨了使用 Stable Diffusion 生成的数据来增强对抗攻击的传递性，提出了一种基于 Stable Diffusion 的新型攻击方法，并提供了一个快速变体，通过实验证明该方法在对抗性传递性方面优于现有方法，并且与现有的基于传递的攻击方法相兼容。

    Nov, 2023

  • 理解和提升对抗样本的可迁移性

    本文系统研究了影响对抗样本传递性的两类因素，包括网络结构、测试精度等模型特定因素和构建对抗样本的损失函数的局部光滑性。基于这些理解，提出了一种简单而有效的策略来增强传递性，称为方差降低攻击，因为它利用方差降低梯度来生成对抗样本，实验结果表明其有效性。

    Feb, 2018

  • 分割模型的对抗样本易于传递

    该研究探讨了深度神经网络中对抗样本的传递性问题，研究发现在语义分割模型中，由于其具有多尺度目标识别的特性，传递性存在限制。提出了一种称之为动态尺度调节的简单而有效的方法来解决该问题。经过大量实验证明，该方法能够实现高效的传递性。

    Nov, 2021

  • LFAA：使用低频扰动创建可转移的定向对抗样本

    通过利用深度神经网络对图像高频分量的扰动的脆弱性，我们提出了一种新方法来生成可转移的有针对性对抗样本，该方法通过训练条件生成器生成针对性的对抗扰动，并将其添加到图像的低频分量中，实验证明我们的方法显著优于现有的方法，将有针对性攻击成功率提高了 3.2% 至 15.5%。

    Oct, 2023

  • 基于感知度量的任务通用性对抗攻击

    提出一种基于永续度量的方法，通过创造高度扭曲网络特征空间的攻击来达到高度通用的敌对样本，旨在打破相对有限的目前攻击的限制，并可将其通过多个网络扩展到多个任务。

    Nov, 2018