May, 2018

探究像素离散化对抗攻击的局限性

PDF
TL;DR本文探讨像素离散化这种预处理防御方法在对抗攻击下的表现。通过实验，得出此方法只适用于简单数据集而在更复杂的数据集像 ImageNet 上的效果不佳，并分析了其原因及其他预处理防御方法的不足。
artificial neural networksadversarial attackspreprocessing defense methodspixel discretizationdataset properties
发现论文，激发创造
  • 离散化解决方案：安全机器学习抵御对抗攻击

    通过在深度神经网络中限制输入维数或参数维度，采用离散化方法可以显著提高不同数据集上的对抗攻击鲁棒性，2bit 离散化可在最大程度上提高对抗攻击抵抗力而只损失 1-2% 的精度。

    Feb, 2019

  • 通过随机离散化防御白盒对抗攻击

    本文提出采用随机离散化和高斯噪声注入的简单有效防御策略，可以显著提高对抗攻击下的图像分类器准确性，相比于其他对抗训练，以及 NIPS 2017 中获胜的防御方法，在 ImageNet 数据集上表现更优。

    Mar, 2019

  • 关注力掩码是否能提高对抗鲁棒性？

    本文提出了一种使用前景注意力掩码增强深度神经网络对抗鲁棒性的方法，并在 GTSRB 和 MS-COCO 数据集上进行了实验，结果表明使用注意力掩码可提高对抗鲁棒性。

    Nov, 2019

  • PixelDefend：利用生成模型理解和防御对抗样本

    本文提出了一种名为 PixelDefend 的新方法，可以通过将恶意扰动图像移回训练数据中所看到的分布来净化这些图片，然后在经过未经修改的分类器时进行分类，从而大大提高了各种最先进攻击方法的弹性。

    Oct, 2017

  • 高效的对抗攻击防御

    本文提出了一种基于实践观察的新的防御方法，旨在强化深度神经网络的结构，提高其预测稳定性，从而更难受到针对性攻击，并在多种攻击实验中证明了该方法的有效性，相比其他防御方法具有更好的表现，而且在训练过程中的开销几乎可以忽略不计。

    Jul, 2017

  • 分割、去噪与抵御对抗攻击

    通过将输入图像分成多个块，对每个块进行去噪并重构图像来提高深度神经网络对抗攻击的鲁棒性，在灰盒测试方案下，该方法比现有技术提高了 19.7% 的准确度，并且在黑盒测试方案下具有可比拟的表现，在白盒测试方案下取得 34.4% 的准确率，这是最近研究中没有出现的。

    Feb, 2018

  • 像素是一道屏障：扩散模型比我们认为的更具对抗性的鲁棒性

    通过对扩散模型中的对抗性示例进行研究，我们发现扩散模型在像素空间中对抗性示例 (即 PDMs) 具有较强的鲁棒性，并可用作有效去除对 LDMs 生成的对抗性模式的净化器，使得现有的多种保护方法在一定程度上无法有效保护我们的图像。

    Apr, 2024

  • 人脸识别领域中卷积神经网络的对抗性攻击

    本文以 Fast Gradient Sign Method 为基础，对面部图像数据集进行扰动，测试不同黑盒攻击算法的鲁棒性，并重点研究修改单个最佳像素或所有像素的攻击方法。研究结果表明，所有像素攻击方法能使分类器置信度平均下降至 84％，且 81.6％的误分类率，但这些图像始终可以被人类识别。该研究可为防御性对抗攻击、自适应噪声降低技术等方面的 DNNs 训练和研究提供宝贵的参考。

    Jan, 2020

  • 防御物理可行的图像分类攻击

    本篇研究论文主要探讨了如何有效防御基于图像分类的深度神经网络攻击。通过研究两种最常见的防御方法，我们发现这些方法对于三种最高危物理攻击的防御效果较差。因此我们提出了一种新的抽象对抗模型，矩形遮挡攻击，并且开发了两种计算结果的对抗样本的方法。最后，我们通过新的模型进行对抗训练，证明了这一方法是一种高效的通用防御策略。

    Sep, 2019

  • 通过限制深度神经网络的隐藏空间来进行对抗性防御

    针对深度神经网络易受对抗性攻击的问题，本文提出了一种基于特征重构的防御方法，具体来说，通过将每个类别的特征强制限制在一个凸多面体内，使得网络学习到的决策区域更加独特和远离各个类别的边界，提高了网络的鲁棒性，同时在干净图像的分类性能上不会退化。

    Apr, 2019