ICLROct, 2017

利用输入变换对抗图像进行对抗

PDF
TL;DR探讨了采用图像转换策略，如降低位深、JPEG 压缩、总变量最小化和图像镶嵌等方法，以防御对图像分类系统的对抗性攻击。在 ImageNet 上的实验表明，总变量最小化和图像拼接是非常有效的防御方法，在网络对转换后的图片进行训练时表现尤为突出。最好的防御方法可以消除各种主要攻击方法的 60% 的强度灰盒和 90% 的强度黑盒攻击。
adversarial-example attacksimage-classification systemsimage transformationstotal variance minimizationimage quilting
发现论文，激发创造
  • 特征蒸馏：面向 DNN 的 JPEG 压缩对抗示例的防御

    本文介绍一种通过 JPEG 压缩技术的特征蒸馏方法来防御深度神经网络的对抗攻击，能够有效修正对抗样本，同时不影响正常图像分类准确性。实验结果表明，此方法在准确性、可用性和处理速度方面均有所提升。

    Mar, 2018

  • 探究和利用图像转换对抗性检测的影响

    本文综述了利用图像转换进行对抗检测的近期进展，并提出了一种名为 AdvJudge 的深度学习方法，通过结合 9 种图像转换的分数来判断对抗性示例，并利用可解释的 AI 工具显示了每种图像转换对对抗检测的贡献。

    Jan, 2022

  • 通过输入转换、防御扰动和投票检测对抗性样本

    本文探讨在可对抗的变形情况下检测对抗攻击，并提出一种名为 defense perturbation 的新方法来检测具有相同输入变换与可靠的对抗攻击。同时介绍了多网络对抗例子，这种对抗例子可以同时欺骗多个网络。

    Jan, 2021

  • 使用基函数变换防御对抗性图像

    本文研究了通过对图像的基函数表示进行操作来防御深度学习中的对抗攻击的效果，发现 JPEG 压缩和低通滤波有较高的防御效果，并提出了一种新的基于白盒攻击的数学推导方法。

    Mar, 2018

  • 使用自适应噪声降低在深度网络中检测对抗样本

    该文章提出了一种直接部署到标准深度神经网络模型中的简单方法，通过引入两个经典图像处理技术，标量量化和平滑空间滤波，将图像中的扰动降低到最小，使用图像熵作为度量标准，可以有效地检测出对基于多种攻击技术的先进深度学习模型的 20,000 多个对抗样本，最终的实验结果表明，该检测方法可以取得 96.39％的高整体 F1 评分。

    May, 2017

  • 一种用于稳健学习图像压缩的无训练防御框架

    通过基于简单图像转换函数的非训练型防御技术，研究了学习型图像压缩模型在面对对抗攻击时的稳健性，并提出了一种简单但有效的双向压缩算法，可方便地应用于现有的图像压缩模型，并且在保留对干净图像模型的原始失真率性能的同时，无需额外的训练或修改现有模型，更加实用。

    Jan, 2024

  • 废物利用：通过对抗样本抵抗对抗样本

    通过在预先训练好的外部模型上找到敌对样本，我们将有害的攻击过程转化为有用的防御机制，并且我们的防御方法比先前的方法更为强大和经济。

    Nov, 2019

  • 保护和疫苗接种深度学习：利用 JPEG 压缩防御入侵者

    使用 JPEG 压缩作为分类管道中的预处理步骤，可以在对抗性攻击中起到作用，通过移除高频信号成分从而消除加性扰动。我们还提出了一种基于集合的技术，该技术可以快速构建一个性能良好的 DNN 集成，通过利用 JPEG 压缩来保护模型免受多种类型的对抗性攻击，而不需要了解模型。

    May, 2017

  • 基于转移的对抗攻击的自适应图像转换

    本文提出了一种名为自适应图片转换学习器（AITL）的新型结构，该结构将不同的图片转换操作集成到统一的框架中，进一步提高对抗样本的可转移性，实验表明该方法在 ImageNet 上的攻击成功率显著提高。

    Nov, 2021

  • Admix: 提高对抗攻击的可转移性

    该研究旨在提高对抗转移性能，在理论和实验的基础上设计了一种称为 Admix 的输入变换攻击方法，该方法能够利用附加图像集合进行攻击并优于现有方法。

    Jan, 2021