May, 2023

自然指纹：使用生成式对抗网络生成自然指纹

PDF
TL;DR本研究提出了一种基于生成对抗网络（GAN）生成自然指纹的方案，并在决策差异区域而不是决策边界上嵌入这些指纹以提高鲁棒性。实验证明该方案在四种不同的模型攻击测试中表现出色，超过 MetaV 的最优基准线约 17％。
deep neural networksfingerprinting schemesgenerative adversarial networksmodel extraction attacksdecision difference areas
发现论文，激发创造
  • GanFinger: 基于 GAN 的指纹生成用于深度神经网络所有权验证

    我们提出了一种名为 GanFinger 的网络指纹方法，通过基于网络行为的网络输出对的原始示例和可转让的对抗示例来构建网络指纹，并利用生成对抗网络（GANs）有效生成具有察觉不到的扰动的可转让的对抗示例，从而在版权和盗版网络上产生相同的输出而在无关网络上产生不同的结果。对 GanFinger 的性能评估表明，在效率、隐蔽性和可辨识性方面都显著优于现有技术，其中指纹生成速度提高了 6.57 倍，ARUC 值提升了 0.175，相对改进约为 26%。

    Dec, 2023

  • 通过神经指纹识别对抗性样本

    该论文提出了一种名为神经指纹的简单而有效的方法，通过验证模型行为是否与一组秘密指纹一致的方法检测对抗性例子，具有检测速度快、攻击者极难逆向工程以及不需要假定对手知识等优势。该方法在各种威胁模型下均表现优异，成功检测出了具有最强攻击性的对抗样本，同时还能很好地适应各种超参数和指纹选择。

    Mar, 2018

  • 生成模型的人工指纹：通过训练数据来追根揭底深度伪造图像的来源

    我们通过嵌入人工指纹到生成对抗网络的训练数据中，展示了指纹从训练数据中转移到生成模型的惊人传递性，并证明此解决方案对多种诸如深度伪造检测和归属等任务都有效，且鲁棒性强。

    Jul, 2020

  • Finger-GAN: 利用连通性限制的 GAN 生成逼真指纹图像

    本研究提出了一种基于 GAN 的机器学习框架，能够通过先前训练的先验分布来生成指纹图像。在 loss 函数中添加合适的正则化项以实现指纹图像的连通性，在两个流行的指纹数据库中进行实验，结果表明模型能够生成非常逼真且类似于样本的指纹图像，并且具有良好的分布不同性。该模型的 FID 分数也能够取得良好的量化表现。

    Dec, 2018

  • 将伪造图像归因于 GANs：学习和分析 GAN 指纹

    本研究首次学习 GAN 指纹以进行图像归属，并使用它们将图像分类为真实或 GAN 生成。实验表明，GAN 生成的图像具有稳定的指纹，指纹细调有效防御五种类型的对抗性图像扰动，并且得出结论指出我们学习到的指纹在各种设置中一致优于几个基线。

    Nov, 2018

  • 针对生成对抗网络的指纹成员和身份推断

    评估生成式机器学习模型在身份保护方面的漏洞，并通过设计和测试一种身份推断攻击来验证其有效性。实验结果表明，该解决方案在不同配置下都有效，并且可以轻松扩展到其他生物测量数据集。

    Jun, 2024

  • 基于个性化规范化的稳健无需重训练的生成对抗网络指纹识别

    通过插入个性化归一化 (PN) 层以及训练水印解码器，本文提出了一种无需重新训练的生成对抗网络（GAN）水印方法，使模型开发者可以轻松生成具有相同功能但不同指纹的模型副本，该方法在模型级攻击和图像级攻击的鲁棒性方面优于现有技术。

    Nov, 2023

  • GANs 是否留下人工指纹？

    通过实验证明生成对抗网络在生成图像时会在其中植入其特有的指纹，因此这些指纹可以用于多媒体的安全防范和取证分析。

    Dec, 2018

  • 通过通用对抗扰动对深度神经网络进行全局指纹识别

    本文提出了一种新颖且实用的机制，通过模型提取攻击来验证是否从受害者模型中盗取了嫌疑模型，并针对深度神经网络模型提出了 UAP 指纹识别方法，训练了一个通过对比学习的编码器，可以在仅检测 20 个指纹的情况下以置信度 > 99.99 检测出模型 IP 侵犯，并且在不同的模型架构下具有良好的普适性，在盗版模型上具有较强的鲁棒性。

    Feb, 2022

  • 通过可转移的对抗样本进行深度神经网络指纹识别

    我们提出了一种基于指纹的深度神经网络分类器方法，用于检测机器学习服务中的模型盗窃攻击，该方法提取一组从源模型中提供的输入，只有代理模型能够在这些输入上与源模型一致地进行分类。

    Dec, 2019