Nov, 2018

ComDefend：一种高效的图像压缩模型，用于防御对抗样本

PDF
TL;DR本文提出一种名为 ComDefend 的端到端图像压缩模型，用于防御对深度神经网络的对抗攻击，并在 MNIST、CIFAR10 和 ImageNet 数据集上的实验表明其有效性，通过维护原始图像的结构信息并利用压缩和重建卷积神经网络转换对抗性图像为干净图像，进而保证分类器的鲁棒性。
发现论文，激发创造
  • 图像超分辨率作为对抗攻击的防御

    本文提出了一个有效的图像增强方法，通过深度图像恢复网络来将离散的对抗噪声样本转换回自然图像流形，从而提高对抗性的鲁棒性，同时提高图像质量和保持干净图像上的性能表现。

    Jan, 2019

  • PixelDefend：利用生成模型理解和防御对抗样本

    本文提出了一种名为 PixelDefend 的新方法，可以通过将恶意扰动图像移回训练数据中所看到的分布来净化这些图片，然后在经过未经修改的分类器时进行分类，从而大大提高了各种最先进攻击方法的弹性。

    Oct, 2017

  • 保护和疫苗接种深度学习：利用 JPEG 压缩防御入侵者

    使用 JPEG 压缩作为分类管道中的预处理步骤，可以在对抗性攻击中起到作用，通过移除高频信号成分从而消除加性扰动。我们还提出了一种基于集合的技术，该技术可以快速构建一个性能良好的 DNN 集成，通过利用 JPEG 压缩来保护模型免受多种类型的对抗性攻击，而不需要了解模型。

    May, 2017

  • 保护 JPEG 图像免受对抗攻击

    利用自适应 JPEG 编码器来增强深度神经网络对抗性攻击的鲁棒性，不仅可以保持图像的视觉质量，而且无需更改分类器并且压缩图像可以被非定制的 JPEG 解码器解压。

    Mar, 2018

  • Shield: 采用 JPEG 压缩的快速实用的深度学习防御和疫苗

    本研究提出了一个名为 Shield 的防御框架，利用 JPEG 压缩和不同压缩级别生成多个被疫苗化的模型来加固深度神经网络模型并保护其免受外部攻击。实验结果表明，Shield 在抵御最新、最强攻击方面的表现优异，能够消除高达 94% 的黑箱攻击和 98% 的灰箱攻击。

    Feb, 2018

  • 深度防御：用改进的对抗训练训练 DNNs 提高其鲁棒性

    本文提出了一种名为 “deep defense” 的训练方法来解决深度神经网络易受到对抗样本攻击的问题，通过将对抗扰动的正则化器与分类目标相结合，得到的模型能够直接且准确地学习抵御潜在的攻击，实验证明该方法在不同数据集上对比对抗 / Parseval 正则化方法有更好的效果。

    Feb, 2018

  • 基于卷积神经网络的端到端压缩框架

    本文提出了基于卷积神经网络的图像压缩框架，其中包括用于压缩的紧凑型 CNN 和用于重构压缩图像的重构型 CNN，开发了一种统一的端到端学习算法以有效协同两种 CNN，并与现有的图像编码标准兼容。实验结果表明，所提出的压缩框架大大优于使用现有图像编码标准的多种压缩框架。

    Aug, 2017

  • 一种用于稳健学习图像压缩的无训练防御框架

    通过基于简单图像转换函数的非训练型防御技术，研究了学习型图像压缩模型在面对对抗攻击时的稳健性，并提出了一种简单但有效的双向压缩算法，可方便地应用于现有的图像压缩模型，并且在保留对干净图像模型的原始失真率性能的同时，无需额外的训练或修改现有模型，更加实用。

    Jan, 2024

  • 可转移的学习图像压缩抗扰动

    对利用学习型图像压缩器作为预处理模块的图像分类模型进行了具有增强传递性的对抗攻击方法的探索与实验。

    Jan, 2024

  • 图像网中鲁棒高效的干扰神经网络防御对抗攻击

    对抗性图像的存在严重影响了图像识别任务和深度学习的实际应用，本文构造了一种干扰神经网络，通过使用额外的背景图像和相应的标签以及预先训练的 ResNet-152，在较小的计算资源下实现了比 PGD 攻击下现有最先进结果更好的防御效果，为有效抵御对抗性攻击的学术研究和实际应用提供了新的思路。

    Sep, 2023