ICCVJul, 2020

生成模型的人工指纹：通过训练数据来追根揭底深度伪造图像的来源

PDF
TL;DR我们通过嵌入人工指纹到生成对抗网络的训练数据中，展示了指纹从训练数据中转移到生成模型的惊人传递性，并证明此解决方案对多种诸如深度伪造检测和归属等任务都有效，且鲁棒性强。
发现论文，激发创造
  • 使用可扩展的指纹技术负责任披露生成模型

    研究人员开发出一种称为指纹技术的机制，该技术旨在检测并追溯深度生成模型的使用，以防止其被用于创建深度伪造和传播虚假信息。

    Dec, 2020

  • 将伪造图像归因于 GANs：学习和分析 GAN 指纹

    本研究首次学习 GAN 指纹以进行图像归属，并使用它们将图像分类为真实或 GAN 生成。实验表明，GAN 生成的图像具有稳定的指纹，指纹细调有效防御五种类型的对抗性图像扰动，并且得出结论指出我们学习到的指纹在各种设置中一致优于几个基线。

    Nov, 2018

  • 自然指纹：使用生成式对抗网络生成自然指纹

    本研究提出了一种基于生成对抗网络（GAN）生成自然指纹的方案，并在决策差异区域而不是决策边界上嵌入这些指纹以提高鲁棒性。实验证明该方案在四种不同的模型攻击测试中表现出色，超过 MetaV 的最优基准线约 17％。

    May, 2023

  • 使用基于集合的人工指纹学习生成模型的鲁棒表示

    通过学习生成模型留下来的残留特征作为身份信息，进一步确定人工指纹的表示的生成模型，并提出了基于集合编码和对比训练的新学习方法，通过与最先进的指纹方法的比较和消融研究，得到了稳定性和可归属性的改进。

    Jun, 2022

  • 针对生成对抗网络的指纹成员和身份推断

    评估生成式机器学习模型在身份保护方面的漏洞，并通过设计和测试一种身份推断攻击来验证其有效性。实验结果表明，该解决方案在不同配置下都有效，并且可以轻松扩展到其他生物测量数据集。

    Jun, 2024

  • 深伪卫兵：利用集合智能进行鲁棒的检测与泛化

    提出了一种主动可持续的深度伪造训练增强解决方案，将人工指纹引入模型中，通过采用池化自编码器的整体学习方法，模仿深度伪造模型引入的伪造效果，实验结果表明，我们提出的整体自编码器数据增强学习方法在泛化能力方面有所提升，并抵抗基本数据扰动，如噪声、模糊、锐化增强和仿射变换，对常用的有损压缩算法，如 JPEG，具有强大的鲁棒性，并增强对抗攻击的抵抗能力。

    Mar, 2024

  • 利用潜在指纹对图像生成模型进行归属

    本文研究了使用潜在语义维度作为指纹的方法，以分析设计变量对准确性和质量之间的权衡的影响。与当前 SOTA 相比，我们的方法需要最少的计算量，并且更适用于大规模模型。我们使用 StyleGAN2 和潜在扩散模型来证明我们的方法的有效性。

    Apr, 2023

  • 采用对抗指纹识别来量化得分生成模型的样本匿名性

    本文提出了一种通过设计对抗方法搜索解剖指纹（如医疗设备或皮肤艺术）来估计重现可识别训练图像的概率上限的方法，利用学习到的基于分数的模型估计可能用于一对一复制训练样本的分数函数子空间的概率，结果表明，如果模型没有小心训练，则在采样时会复制侵犯隐私的图像。

    Jun, 2023

  • GANs 是否留下人工指纹？

    通过实验证明生成对抗网络在生成图像时会在其中植入其特有的指纹，因此这些指纹可以用于多媒体的安全防范和取证分析。

    Dec, 2018

  • 深度伪造网络结构归属

    本文首次研究深度伪造网络架构归属问题，并提出了一种名为 DNA-Det 的有效解决方案，在多个交叉测试设置和大规模数据集上的广泛实验证明了其有效性。

    Feb, 2022