Jun, 2023

采用对抗指纹识别来量化得分生成模型的样本匿名性

PDF
TL;DR本文提出了一种通过设计对抗方法搜索解剖指纹（如医疗设备或皮肤艺术）来估计重现可识别训练图像的概率上限的方法，利用学习到的基于分数的模型估计可能用于一对一复制训练样本的分数函数子空间的概率，结果表明，如果模型没有小心训练，则在采样时会复制侵犯隐私的图像。
generative modelsprivacy preserving data sharingdiffusion modelsanatomical fingerprintsscore-based model
发现论文，激发创造
  • 使用可扩展的指纹技术负责任披露生成模型

    研究人员开发出一种称为指纹技术的机制，该技术旨在检测并追溯深度生成模型的使用，以防止其被用于创建深度伪造和传播虚假信息。

    Dec, 2020

  • 针对生成对抗网络的指纹成员和身份推断

    评估生成式机器学习模型在身份保护方面的漏洞，并通过设计和测试一种身份推断攻击来验证其有效性。实验结果表明，该解决方案在不同配置下都有效，并且可以轻松扩展到其他生物测量数据集。

    Jun, 2024

  • 生成模型的人工指纹：通过训练数据来追根揭底深度伪造图像的来源

    我们通过嵌入人工指纹到生成对抗网络的训练数据中，展示了指纹从训练数据中转移到生成模型的惊人传递性，并证明此解决方案对多种诸如深度伪造检测和归属等任务都有效，且鲁棒性强。

    Jul, 2020

  • 使用基于集合的人工指纹学习生成模型的鲁棒表示

    通过学习生成模型留下来的残留特征作为身份信息，进一步确定人工指纹的表示的生成模型，并提出了基于集合编码和对比训练的新学习方法，通过与最先进的指纹方法的比较和消融研究，得到了稳定性和可归属性的改进。

    Jun, 2022

  • 利用潜在指纹对图像生成模型进行归属

    本文研究了使用潜在语义维度作为指纹的方法，以分析设计变量对准确性和质量之间的权衡的影响。与当前 SOTA 相比，我们的方法需要最少的计算量，并且更适用于大规模模型。我们使用 StyleGAN2 和潜在扩散模型来证明我们的方法的有效性。

    Apr, 2023

  • 通过可转移的对抗样本进行深度神经网络指纹识别

    我们提出了一种基于指纹的深度神经网络分类器方法，用于检测机器学习服务中的模型盗窃攻击，该方法提取一组从源模型中提供的输入，只有代理模型能够在这些输入上与源模型一致地进行分类。

    Dec, 2019

  • 基于个性化规范化的稳健无需重训练的生成对抗网络指纹识别

    通过插入个性化归一化 (PN) 层以及训练水印解码器，本文提出了一种无需重新训练的生成对抗网络（GAN）水印方法，使模型开发者可以轻松生成具有相同功能但不同指纹的模型副本，该方法在模型级攻击和图像级攻击的鲁棒性方面优于现有技术。

    Nov, 2023

  • 通过通用对抗扰动对深度神经网络进行全局指纹识别

    本文提出了一种新颖且实用的机制，通过模型提取攻击来验证是否从受害者模型中盗取了嫌疑模型，并针对深度神经网络模型提出了 UAP 指纹识别方法，训练了一个通过对比学习的编码器，可以在仅检测 20 个指纹的情况下以置信度 > 99.99 检测出模型 IP 侵犯，并且在不同的模型架构下具有良好的普适性，在盗版模型上具有较强的鲁棒性。

    Feb, 2022

  • 相似性为基础的隐私测量的不足：针对 “真正匿名合成数据” 的重构攻击

    通过评估数据的统计相似性来衡量隐私是不可靠和不一致的，而生成模型只应以差分隐私为标准以保护数据隐私。本文针对领先公司提供的隐私度量指标进行分析，揭示了一些关键的推理缺陷，并提出了成功恢复生成模型中绝大部分用于训练的异常记录的重构攻击 ReconSyn。研究表明，仅将差分隐私应用于模型或使用低效的生成器不能减轻 ReconSyn 对隐私的泄露风险，因为泄露主要来自于度量指标。总体而言，我们的工作提醒从业人员不要偏离既定的隐私保护机制。

    Dec, 2023

  • 自然指纹：使用生成式对抗网络生成自然指纹

    本研究提出了一种基于生成对抗网络（GAN）生成自然指纹的方案，并在决策差异区域而不是决策边界上嵌入这些指纹以提高鲁棒性。实验证明该方案在四种不同的模型攻击测试中表现出色，超过 MetaV 的最优基准线约 17％。

    May, 2023