Jan, 2022

探究和利用图像转换对抗性检测的影响

PDF
TL;DR本文综述了利用图像转换进行对抗检测的近期进展，并提出了一种名为 AdvJudge 的深度学习方法，通过结合 9 种图像转换的分数来判断对抗性示例，并利用可解释的 AI 工具显示了每种图像转换对对抗检测的贡献。
deep neural networksadversarial examplesadversarial detectionimage transformationsadvjudge
发现论文，激发创造
  • 通过输入转换、防御扰动和投票检测对抗性样本

    本文探讨在可对抗的变形情况下检测对抗攻击，并提出一种名为 defense perturbation 的新方法来检测具有相同输入变换与可靠的对抗攻击。同时介绍了多网络对抗例子，这种对抗例子可以同时欺骗多个网络。

    Jan, 2021

  • 基于转移的对抗攻击的自适应图像转换

    本文提出了一种名为自适应图片转换学习器（AITL）的新型结构，该结构将不同的图片转换操作集成到统一的框架中，进一步提高对抗样本的可转移性，实验表明该方法在 ImageNet 上的攻击成功率显著提高。

    Nov, 2021

  • 对抗图像翻译：面部识别系统中的无限对抗样本

    利用图像翻译技术生成无限制的对抗样本，欺骗目标脸部识别系统并通过认证防御，实现了攻击成功率约为 90% 和 80% 的结果，同时保持个体的可识别性和感知逼真度。

    May, 2019

  • 使用自适应噪声降低在深度网络中检测对抗样本

    该文章提出了一种直接部署到标准深度神经网络模型中的简单方法，通过引入两个经典图像处理技术，标量量化和平滑空间滤波，将图像中的扰动降低到最小，使用图像熵作为度量标准，可以有效地检测出对基于多种攻击技术的先进深度学习模型的 20,000 多个对抗样本，最终的实验结果表明，该检测方法可以取得 96.39％的高整体 F1 评分。

    May, 2017

  • 基于 Transformer 的对抗攻击在安全领域中的有效性

    评估了变压器对系统防御者的恶意样本的强健性以及对系统攻击者的对抗性样本的可迁移性，发现变压器所生成的对抗样本具有最高的可迁移率，对其他模型具有更强的对抗性，强调了研究在安全领域中使用变压器架构进行攻击和防御的重要性，并建议将其作为转移攻击设置中的主要架构。

    Oct, 2023

  • 深度神经网络中对抗性样本的可迁移性调查

    深度神经网络的关键问题之一是对抗性攻击和转移性，考虑到安全性和未来的发展，需要加强对抗性漏洞的防御。

    Oct, 2023

  • 基于转换的对抗攻击

    我们引入了转换依赖型对抗攻击，一种新的威胁类型，其中一个单一的加性扰动可以通过系统地转换输入（例如缩放、模糊、压缩）触发多样化、可控的错误预测。与具有静态影响的传统攻击不同，我们的扰动嵌入了变态学特性，可以根据转换参数的函数实现不同的对抗攻击。我们展示了在模型（例如卷积网络和视觉变压器）和视觉任务（例如图像分类和目标检测）上的转换依赖性漏洞。我们提出的几何和光度转换使得从一个精心制作的输入中能够产生一系列有针对性的错误（例如对于分类器的超过 90% 的攻击成功率）。我们分析了模型结构、变换类型 / 多样性对攻击效果的影响。这项工作通过重新定义对抗输入为动态的、可控的威胁，强制进行范式转变。我们强调了对抗这种多方面、变色龙般的扰动的强大防御措施的需求，而当前的技术则显得力不从心。

    Jun, 2024

  • 学习动态转化以提高对抗迁移性能

    通过学习选择最佳的变换组合以提高对抗传递能力的一种新方法，名为 Learning to Transform (L2T)，在实验中展现出优于现有方法的性能，并证实其有效性和实用意义。

    May, 2024

  • 深度异常检测的神经转换学习方法

    提出了一种可学习的数据变换方法，将数据嵌入语义空间，以检测异常值，此方法在时间序列和表格数据方面表现优异。

    Mar, 2021

  • 通过平移不变攻击规避转移对抗样本的防御

    本文提出了一种翻译不变攻击方法，该方法利用一个翻译图像集合上的扰动以生成更易于转移的对抗示例，并表明该方法通常适用于任何梯度攻击方法。作者在 ImageNet 数据集上广泛实验验证了该方法的有效性，并证明该攻击技术的存在不安全性。

    Apr, 2019