Mar, 2022

难以感知对抗图像扰动的反向工程

PDF
TL;DR该研究旨在研究如何从对手的图像中逆向工程出对手干扰， 并提出了一个新的逆向工程欺骗（RED）方法，其中结合了 RED 原则和图像去噪方法，称为 CDD-RED，以增加其泛化能力，对多种攻击方法均具有效性。
adversarial attacksneural networkimage classifiersadversarial learningdata augmentation
发现论文，激发创造
  • 对抗通用扰动防御

    本文提出了一个 Perturbation Rectifying Network (PRN) 框架，通过学习实际和合成的图像通用扰动，和在 PRN 的输入和输出差异的离散余弦变换上独立训练的检测器，从而有效地保护深度学习网络免受任何图像的通用对抗性扰动的影响。

    Nov, 2017

  • RED-Attack: 机器学习资源有效的基于决策的攻击

    通过采用分类边界估计和对抗性噪声优化两个步骤，提出了一种资源高效的、可用于黑盒模型的决策攻击方法，即 RED-Attack，以减轻基于输出概率向量进行的深度神经网络 (DNNs) 安全漏洞所带来的风险。

    Jan, 2019

  • 使用自适应噪声降低在深度网络中检测对抗样本

    该文章提出了一种直接部署到标准深度神经网络模型中的简单方法，通过引入两个经典图像处理技术，标量量化和平滑空间滤波，将图像中的扰动降低到最小，使用图像熵作为度量标准，可以有效地检测出对基于多种攻击技术的先进深度学习模型的 20,000 多个对抗样本，最终的实验结果表明，该检测方法可以取得 96.39％的高整体 F1 评分。

    May, 2017

  • 检测对抗性扰动

    本文提出一种方法，在深度神经网络中增加一个小的 “检测器” 子网络，用于区分含有敌对扰动的假数据和不包含敌对扰动的真数据的二元分类任务，并证明其能够有效检测和对抗敌对扰动攻击。

    Feb, 2017

  • 从对抗样本的指纹中进行逆向工程的对抗性攻击

    通过反向工程将对抗样本归类至代表其算法和参数的类中，进而遏制不良者进行相关攻击。

    Jan, 2023

  • 探究基于深度图像先验的对抗防御：一种新颖的基于重建的防御框架

    针对深度学习图像分类模型易受恶意注入噪声的对抗攻击，本文基于深度图像先验提出了一种新颖有效的重建防御框架，并且分析和明确地将模型决策过程纳入了防御范畴，通过倒推清晰的 “干净样本”，最终构造出一幅可以被正确识别的图像，实验表明，在白盒、防御感知攻击下，该方法表现出优异的防御效果且重建图像的视觉质量较高。

    Jul, 2021

  • 对抗攻击的可逆性

    本论文探究了对抗攻击的可预测性和可逆性，提出了使用分类结果集来逆转分类器中对抗攻击效果的方法，并分析了最新对抗攻击方法对此的影响。

    Jun, 2022

  • 深度网络的简单黑盒对抗扰动

    研究表明，即使没有内部知识，对深度卷积神经网络进行黑盒攻击并制造对抗性样本是可行的，这暴露了深度神经网络的弱点，为设计安全的网络提供了检验。

    Dec, 2016

  • 生成对抗扰动

    该研究提出了新型生成模型，用于制造近似自然图像但又能欺骗先前训练好的模型的略微扰动的对抗性样本。通过在具有挑战性的高分辨率数据集上的实验，它证明了这种扰动具有高弄虚率和较小的扰动规模，并且比当前的迭代方法更快。

    Dec, 2017

  • 图像超分辨率作为对抗攻击的防御

    本文提出了一个有效的图像增强方法，通过深度图像恢复网络来将离散的对抗噪声样本转换回自然图像流形，从而提高对抗性的鲁棒性，同时提高图像质量和保持干净图像上的性能表现。

    Jan, 2019