Aug, 2024

隐形扩散：通过扩散模型规避扩散取证检测

HTML
PDF
TL;DR本研究解决了AI生成内容隐形（AIGC-S）所面临的挑战，即创造能逃避取证检测和人类检查的AI生成图像。提出的StealthDiffusion框架采用稳定扩散技术，生成高质量、不可感知的对抗样本，能够有效规避最先进的取证检测器。实验表明，该方法在白盒和黑盒环境中均表现出色，生成的对抗伪造品的频谱与真实图像相似，难以被检测和区分。
发现论文，激发创造
  • 关于检测扩散模型生成的合成图像

    本文旨在了解人们无法将由扩散模型产生的合成图像与原始图像区分开来的难度，并研究当前的最先进检测器是否适用于此任务。

    Nov, 2022

  • 合成图像的有趣特性：从生成对抗网络到扩散模型

    本研究通过对各种不同类型图像生成器的系统研究，探寻真实与虚假图像之间最具法医学意义的特征，发现合成图像中出现了可见的傅里叶域信号缺陷，以及自相关中出现的异常规律图案，并且当用于训练模型的数据集缺乏足够的多样性时，其偏见会转移到生成的图像中，观察了人造图像与真实图像之间较高频率信号内容的显著差异。

    Apr, 2023

  • 基于扩散的对抗样本生成技术，改善隐蔽性和可控性

    该论文提出了一种名为Diff-PGD的新框架，用于生成逼真的对抗样本，并通过使用扩散模型引导梯度，确保对抗样本保持靠近原始数据分布同时保持其有效性，证明使用Diff-PGD生成的样本具有更好的可转移性和抗净化能力。

    May, 2023

  • 扩散模型无法学习的示例：保护数据免受未经授权的利用

    本文提出了一种针对Diffusion Model的保护图像的方法，通过生成样本特定的扰动噪声使训练数据难以被Diffusion Model学习，以此保护隐私和版权。

    Jun, 2023

  • 扩散模型与图像逆向取证相遇

    评估了扩散模型消除伪造留下的痕迹和欺骗取证方法的能力，并展示了这种方法在反取证任务方面的优越性。

    Nov, 2023

  • MimicDiffusion：通过模仿清洁扩散模型净化对抗扰动

    基于扩散的对抗净化技术MimicDiffusion直接近似扩散模型的生成过程，以清晰图像作为输入，通过分析使用清晰图像和对抗样本时的引导项的差异，通过曼哈顿距离和两种引导策略净化对抗扰动，逼近清晰扩散模型，实验证明MimicDiffusion显著优于现有算法，在CIFAR-10、CIFAR-100和ImageNet三个数据集上的平均鲁棒准确率分别提高了18.49%、13.23%和17.64%。

    Dec, 2023

  • DiffuseTrace：一种透明且灵活的潜在扩散模型水印方案

    通过使用DiffuseTrace技术，我们可以在所有生成的图像中嵌入无形的水印，以便进行未来的语义检测，而不会损害图像质量。

    May, 2024

  • 扩散模型的隐形后门攻击

    本文介绍了一种创新而多功能的优化框架，用于获取不可见的触发器，增强插入后门的隐蔽性和韧性。我们的研究首次展示了在文本引导的图像编辑和修复流程中进行扩散模型后门注入的能力，同时还发现条件生成中的后门直接适用于模型水印验证，进一步提升了所提框架的重要性。多个常用采样器和数据集上的广泛实验证实了所提框架的有效性和隐蔽性。

    Jun, 2024

  • 欺骗性扩散：生成合成对抗样本

    引入了欺骗扩散的概念--训练生成AI模型以产生具有对抗性的图像。与传统的对抗性攻击算法不同，欺骗扩散模型可以创建任意数量的新的、被错误分类的图像，这些图像与训练或测试图像没有直接关联。欺骗扩散在规模上提供了对抗性训练数据以加强防御算法，包括在其他情况下难以找到的错误分类类型。在我们的实验中，我们还研究了在部分受攻击数据集上进行训练的效果。这突出了生成扩散模型的一种新型漏洞：如果攻击者能够秘密地污染部分训练数据，那么生成的扩散模型将产生相似比例的误导输出。

    Jun, 2024

  • 合成痕迹掩盖真实内容：稳定扩散图像篡改的分析

    我们的论文研究了图像清洗的法医学意义，揭示了模糊真实内容的严重潜力，包括可能被错误分类为合成图像的敏感和有害材料，从而损害所涉者的保护。为了解决这个问题，我们提出了一个有效区分原始、清洗和全合成图像（从文本提示生成的图像）的两阶段检测流程，在各种条件下表现出鲁棒性。最后，我们强调了图像清洗的另一个令人担忧的性质，它似乎掩盖了法医检测器用来解决相机模型识别任务的独特伪迹，严重削弱了它们的性能。

    Jul, 2024