KDDFeb, 2018

Shield: 采用 JPEG 压缩的快速实用的深度学习防御和疫苗

PDF
TL;DR本研究提出了一个名为 Shield 的防御框架，利用 JPEG 压缩和不同压缩级别生成多个被疫苗化的模型来加固深度神经网络模型并保护其免受外部攻击。实验结果表明，Shield 在抵御最新、最强攻击方面的表现优异，能够消除高达 94% 的黑箱攻击和 98% 的灰箱攻击。
adversarial machine learningdeep neural networksjpeg compressionvaccinationensemble defense
发现论文，激发创造
  • 保护和疫苗接种深度学习：利用 JPEG 压缩防御入侵者

    使用 JPEG 压缩作为分类管道中的预处理步骤，可以在对抗性攻击中起到作用，通过移除高频信号成分从而消除加性扰动。我们还提出了一种基于集合的技术，该技术可以快速构建一个性能良好的 DNN 集成，通过利用 JPEG 压缩来保护模型免受多种类型的对抗性攻击，而不需要了解模型。

    May, 2017

  • 保护 JPEG 图像免受对抗攻击

    利用自适应 JPEG 编码器来增强深度神经网络对抗性攻击的鲁棒性，不仅可以保持图像的视觉质量，而且无需更改分类器并且压缩图像可以被非定制的 JPEG 解码器解压。

    Mar, 2018

  • 模型压缩深度学习系统在对抗攻击下的安全分析与增强

    通过综合考虑模型重塑和输入扰动，本研究首次探讨了实际模型优化的深度学习系统中的多因素对抗攻击问题，并开发了一种名为 “梯度抑制” 的防御技术，能够有效减轻对软硬件导向深度学习的对抗攻击。

    Feb, 2018

  • 不同威胁模型下 SHIELD 的效能

    本文评估用于对抗敌对攻击的压缩式防御框架 SHIELD 的效力，并在原有工作的基础上考虑了替代威胁模型，提出了具有不同危险程度的情况，并通过实验结果得出了在白盒和灰盒情景下训练模型的相关性与承受目标攻击成功率的相关性，证明了从零开始训练模型的更强鲁棒性。

    Feb, 2019

  • ComDefend：一种高效的图像压缩模型，用于防御对抗样本

    本文提出一种名为 ComDefend 的端到端图像压缩模型，用于防御对深度神经网络的对抗攻击，并在 MNIST、CIFAR10 和 ImageNet 数据集上的实验表明其有效性，通过维护原始图像的结构信息并利用压缩和重建卷积神经网络转换对抗性图像为干净图像，进而保证分类器的鲁棒性。

    Nov, 2018

  • 特征蒸馏：面向 DNN 的 JPEG 压缩对抗示例的防御

    本文介绍一种通过 JPEG 压缩技术的特征蒸馏方法来防御深度神经网络的对抗攻击，能够有效修正对抗样本，同时不影响正常图像分类准确性。实验结果表明，此方法在准确性、可用性和处理速度方面均有所提升。

    Mar, 2018

  • 一种用于稳健学习图像压缩的无训练防御框架

    通过基于简单图像转换函数的非训练型防御技术，研究了学习型图像压缩模型在面对对抗攻击时的稳健性，并提出了一种简单但有效的双向压缩算法，可方便地应用于现有的图像压缩模型，并且在保留对干净图像模型的原始失真率性能的同时，无需额外的训练或修改现有模型，更加实用。

    Jan, 2024

  • 可转移的学习图像压缩抗扰动

    对利用学习型图像压缩器作为预处理模块的图像分类模型进行了具有增强传递性的对抗攻击方法的探索与实验。

    Jan, 2024

  • DeepN-JPEG：一种基于 JPEG 的深度神经网络有利的图像压缩框架

    本研究开发了一种基于人类视觉和深层神经网络架构的图像压缩框架 DeepN-JPEG 来降低智能物联网系统中数据存储和传输开销，并通过实验证明该方法能够在保持图像识别准确性的同时，实现高达 JPEG 的 3.5 倍的压缩率，具有在基于 DNN 智能物联网系统设计中提升存储和能量效率的巨大潜力。

    Mar, 2018

  • SHIELD: 用随机多专家修补程序防御文本神经网络遭受多种黑盒对抗攻击

    提出一种名为 SHIELD 的算法，将文本神经网络的最后一层进行修改和重新训练，形成一种加权多专家预测头的随机加权集合，从而混淆攻击者并进一步提高模型准确率。

    Nov, 2020