生成分布对生成模型的成员推断攻击足够

Oct, 2023

生成分布对生成模型的成员推断攻击足够

Generated Distributions Are All You Need for Membership Inference Attacks Against Generative Models

Minxing Zhang, Ning Yu, Rui Wen, Michael Backes, Yang Zhang

TL;DR通过仅利用目标生成模型的生成分布和辅助非成员数据集，我们提出了对各种生成模型（如生成对抗网络、变分自编码器、隐式函数和新兴的扩散模型）的第一个广义成员推断攻击，验证了所有生成模型都对我们的攻击易受攻击，我们呼吁设计和发布生成模型时要注意此类隐私泄漏风险。

Abstract

generative models have demonstrated revolutionary success in various visual creation tasks, but in the meantime, they have been exposed to the threat of leaking private information of their training data. Several membership inference attacks (MIAs) have been proposed to exhibit the pri

generative models membership inference attack privacy vulnerability diffusion models attack auc

发现论文，激发创造

LOGAN: 针对生成模型的成员资格推理攻击

本文提出了首个针对生成模型的成员推断攻击方法，使用生成对抗网络检测过度拟合并识别训练数据，发现缺陷对于不同的训练参数有不同的灵敏度，防御方法不够有效并会导致生成模型在训练稳定性或样本质量方面表现较差。

May, 2017

扩散模型是否容易受到成员推断攻击的威胁？

本文研究了基于扩散的生成模型对成员隐私的攻击风险，提出了一种新的黑盒成员隐私攻击方法 SecMI，并通过对标准扩散模型和文本 - 图像扩散模型等不同数据的实验结果展示其高准确性。

Feb, 2023

隐私保护生成框架对抗成员推断攻击

本文提出了一种隐私保护的生成模型，通过变分自编码器 (VAE) 的信息提取和数据生成能力，生成符合差分隐私要求的合成数据来防御成员推理攻击，并进行了实验验证。

Feb, 2022

面向扩散模型的黑盒成员推断攻击

通过黑盒成员推断攻击方法，在不需要访问模型的内部 U-net 的情况下，构建了一个 DALL-E 生成的数据集进行全面评估，实验结果优于以前的研究。

May, 2024

通过分位数回归对扩散模型进行的成员推断攻击

扩散模型具有高质量输出，但容易泄漏训练数据的具体信息，我们提出了成员推断攻击一文，通过量化回归模型预测训练集以外示例的重构损失分布，并使用自定义阈值在重构损失上进行假设检验，最终确定数据点是否属于训练集。我们还提供了简单的引导技术，通过多个弱攻击者的多数成员预测来提高准确性，相较于以往的攻击方法而言，我们的攻击方法计算成本低得多。

Dec, 2023

针对大规模扩散模型的更真实成员推断攻击

本文研究生成扩散模型的会员推断攻击，通过提出一种公正的评估框架，发现之前提出的评估机制无法充分了解该问题的有效性，因此揭示了该攻击仍然是大型扩散模型的难点，难以保护相关的隐私和版权问题。

Jun, 2023

机器学习中的成员推断攻击：一项调查

本文首次对机器学习中的成员推理攻击及其防御措施进行了全面调查，提供了攻击和防御的分类学及其优缺点，并指出了相关领域的研究限制和未来方向，为研究社区提供了参考。

Mar, 2021

机器学习模型增强攻击下的成员推断攻击

通过成员推理攻击作为审核工具，我们提出了一个综合的假设检验框架，不仅能够以一致的方式正式表达先前的工作，还可以设计新的成员推理攻击，使用参考模型来实现任意误报率的显著更高的功率（真正的阳性率），并解释为什么不同的攻击效果不同，并最小化攻击不确定性到数据点的存在或缺失的一个比特秘密。

Nov, 2021

采样攻击：通过重复查询放大成员推断攻击

该研究关注于机器学习模型中有关成员推断攻击的问题，并提出了一种新的会员推断技术 —— 抽样攻击，进一步研究了两种最近的攻击模型以及针对这些攻击的防御方法，最终发现在预测输出时的输出微扰技术是一种简单易行的隐私保护方法，对预测结果的影响较小。

Sep, 2020

探究数据依赖下的成员推断攻击

本文研究了在考虑统计依赖性的情况下，Differentially Private 训练算法在 Membership Inference Attack 防御中的可行性，发现在存在依赖性的情况下，DP 无法提供有效保护。作者通过对离线对攻击的实验表明，数据样本之间的依赖关系严重影响了 Membership Inference Attack 的性能表现。

Oct, 2020