Apr, 2023

JPEG 压缩图像可以绕过对抗 AI 编辑的保护

PDF
TL;DR针对文本生成图像模型广泛应用于编辑和创建高质量图片而导致的潜在恶意篡改和 Deepfake 制作问题，本论文讨论使用不可感知的干扰来保护图片的有效性，强调稳健性在防御 JPEG 压缩攻击的重要性，并提出其他保护图片的替代方案。
text-to-image modelsmalicious editingperturbationsjpeg compressionimage protection
发现论文，激发创造
  • 保护和疫苗接种深度学习：利用 JPEG 压缩防御入侵者

    使用 JPEG 压缩作为分类管道中的预处理步骤，可以在对抗性攻击中起到作用，通过移除高频信号成分从而消除加性扰动。我们还提出了一种基于集合的技术，该技术可以快速构建一个性能良好的 DNN 集成，通过利用 JPEG 压缩来保护模型免受多种类型的对抗性攻击，而不需要了解模型。

    May, 2017

  • JPG 压缩对对抗性图像的影响研究

    研究深度神经网络在分类对抗图像时的安全风险，发现对于 Fast-Gradient-Sign 干扰强度较小的对抗图片，进行 JPG 压缩可以较大程度地逆转分类准确度下降效果，但随着干扰强度的增加，仅进行 JPG 重新压缩就不足以消除其效果。

    Aug, 2016

  • 保护 JPEG 图像免受对抗攻击

    利用自适应 JPEG 编码器来增强深度神经网络对抗性攻击的鲁棒性，不仅可以保持图像的视觉质量，而且无需更改分类器并且压缩图像可以被非定制的 JPEG 解码器解压。

    Mar, 2018

  • 基于 JPEG 信息规范化的深度图像先验去噪

    图像去噪是计算机视觉领域中代表性的图像恢复任务。最近关于只使用噪声图像进行图像去噪的研究引起了广泛关注。深度图像先验 (DIP) 通过卷积神经网络结构的归纳偏置实现了成功的只使用噪声图像进行图像去噪，而无需任何预训练。DIP 图像去噪的主要挑战是，除非应用早停止技术，否则 DIP 将完全恢复原始噪声图像。为了在没有原始清晰图像的情况下进行早停止，我们提出通过优化过程中监视恢复图像的 JPEG 文件大小作为噪声水平的代理度量标准。实验证明，压缩图像文件大小可以作为早停止的有效指标。

    Oct, 2023

  • 深度学习中 JPEG 压缩缺陷的分析和缓解

    本文研究了 JPEG 压缩对常见计算机视觉任务和数据集的影响，发现高度压缩会显著损害图像识别性能，进而尝试采取几种方法来缓解该损害，其中包括一种不需标签训练的基于伪影校正的新方法。

    Nov, 2020

  • 揭示生成图像检测数据集中的常见偏差：伪造还是 JPEG？

    该研究讨论了使用生成图像模型检测人工内容的紧迫性，并指出当前的数据集中存在与 JPEG 压缩和图像大小相关的偏差。研究还展示了去除这些偏差对 JPEG 压缩的鲁棒性和评估检测器的不同生成器间性能的显著影响，其中 ResNet50 和 Swin-T 检测器在 GenImage 数据集上的不同生成器间性能提高了超过 11 个百分点，达到了最先进的结果。

    Mar, 2024

  • JPEG 和 JPEG2000 压缩对使用对抗样本攻击的影响

    通过使用 JPEG2000 压缩作为一种替代方法，系统地比较了使用不同目标 PSNR 值和最大压缩级别的 JPEG 和 JPEG2000 压缩的对抗性图像的分类性能，实验表明，JPEG2000 更有效地减少了对抗性噪声，允许更高的压缩率和更少的失真，并且不会引入阻塞伪影。

    Mar, 2018

  • 可转移的学习图像压缩抗扰动

    对利用学习型图像压缩器作为预处理模块的图像分类模型进行了具有增强传递性的对抗攻击方法的探索与实验。

    Jan, 2024

  • DeepN-JPEG：一种基于 JPEG 的深度神经网络有利的图像压缩框架

    本研究开发了一种基于人类视觉和深层神经网络架构的图像压缩框架 DeepN-JPEG 来降低智能物联网系统中数据存储和传输开销，并通过实验证明该方法能够在保持图像识别准确性的同时，实现高达 JPEG 的 3.5 倍的压缩率，具有在基于 DNN 智能物联网系统设计中提升存储和能量效率的巨大潜力。

    Mar, 2018

  • MALICE: 对学习的图像压缩算法的操纵攻击

    本文通过白盒和黑盒攻击展示了当输入图像发生微小扰动时，现有的深度学习图像压缩系统容易受到攻击。为此，我们提出了一种新的压缩架构 factorAtn，它结合了注意力模型和因式熵模型，取得了更好的性能表现。

    May, 2022