May, 2017

保护和疫苗接种深度学习：利用 JPEG 压缩防御入侵者

PDF
TL;DR使用 JPEG 压缩作为分类管道中的预处理步骤，可以在对抗性攻击中起到作用，通过移除高频信号成分从而消除加性扰动。我们还提出了一种基于集合的技术，该技术可以快速构建一个性能良好的 DNN 集成，通过利用 JPEG 压缩来保护模型免受多种类型的对抗性攻击，而不需要了解模型。
deep neural networksadversarial attacksjpeg compressionensemble-based techniquemachine learning
发现论文，激发创造
  • 保护 JPEG 图像免受对抗攻击

    利用自适应 JPEG 编码器来增强深度神经网络对抗性攻击的鲁棒性，不仅可以保持图像的视觉质量，而且无需更改分类器并且压缩图像可以被非定制的 JPEG 解码器解压。

    Mar, 2018

  • Shield: 采用 JPEG 压缩的快速实用的深度学习防御和疫苗

    本研究提出了一个名为 Shield 的防御框架，利用 JPEG 压缩和不同压缩级别生成多个被疫苗化的模型来加固深度神经网络模型并保护其免受外部攻击。实验结果表明，Shield 在抵御最新、最强攻击方面的表现优异，能够消除高达 94% 的黑箱攻击和 98% 的灰箱攻击。

    Feb, 2018

  • JPG 压缩对对抗性图像的影响研究

    研究深度神经网络在分类对抗图像时的安全风险，发现对于 Fast-Gradient-Sign 干扰强度较小的对抗图片，进行 JPG 压缩可以较大程度地逆转分类准确度下降效果，但随着干扰强度的增加，仅进行 JPG 重新压缩就不足以消除其效果。

    Aug, 2016

  • 可转移的学习图像压缩抗扰动

    对利用学习型图像压缩器作为预处理模块的图像分类模型进行了具有增强传递性的对抗攻击方法的探索与实验。

    Jan, 2024

  • 深度学习中 JPEG 压缩缺陷的分析和缓解

    本文研究了 JPEG 压缩对常见计算机视觉任务和数据集的影响，发现高度压缩会显著损害图像识别性能，进而尝试采取几种方法来缓解该损害，其中包括一种不需标签训练的基于伪影校正的新方法。

    Nov, 2020

  • 特征蒸馏：面向 DNN 的 JPEG 压缩对抗示例的防御

    本文介绍一种通过 JPEG 压缩技术的特征蒸馏方法来防御深度神经网络的对抗攻击，能够有效修正对抗样本，同时不影响正常图像分类准确性。实验结果表明，此方法在准确性、可用性和处理速度方面均有所提升。

    Mar, 2018

  • DeepN-JPEG：一种基于 JPEG 的深度神经网络有利的图像压缩框架

    本研究开发了一种基于人类视觉和深层神经网络架构的图像压缩框架 DeepN-JPEG 来降低智能物联网系统中数据存储和传输开销，并通过实验证明该方法能够在保持图像识别准确性的同时，实现高达 JPEG 的 3.5 倍的压缩率，具有在基于 DNN 智能物联网系统设计中提升存储和能量效率的巨大潜力。

    Mar, 2018

  • MALICE: 对学习的图像压缩算法的操纵攻击

    本文通过白盒和黑盒攻击展示了当输入图像发生微小扰动时，现有的深度学习图像压缩系统容易受到攻击。为此，我们提出了一种新的压缩架构 factorAtn，它结合了注意力模型和因式熵模型，取得了更好的性能表现。

    May, 2022

  • 模型压缩深度学习系统在对抗攻击下的安全分析与增强

    通过综合考虑模型重塑和输入扰动，本研究首次探讨了实际模型优化的深度学习系统中的多因素对抗攻击问题，并开发了一种名为 “梯度抑制” 的防御技术，能够有效减轻对软硬件导向深度学习的对抗攻击。

    Feb, 2018

  • 使用自适应噪声降低在深度网络中检测对抗样本

    该文章提出了一种直接部署到标准深度神经网络模型中的简单方法，通过引入两个经典图像处理技术，标量量化和平滑空间滤波，将图像中的扰动降低到最小，使用图像熵作为度量标准，可以有效地检测出对基于多种攻击技术的先进深度学习模型的 20,000 多个对抗样本，最终的实验结果表明，该检测方法可以取得 96.39％的高整体 F1 评分。

    May, 2017