在实际情况下重新审视成员推断

May, 2020

Revisiting Membership Inference Under Realistic Assumptions

Bargav Jayaraman, Lingxiao Wang, Katherine Knipmeyer, Quanquan Gu, David Evans

TL;DR本研究讨论了在放松先前研究中常用假设的情况下的成员推理问题：其一，考虑倾斜先验概率，提出了一个适用于此情况的基于 PPV 的度量标准；其二，考虑了攻击者根据攻击目标选择推理阈值的情况，并开发了一种改进推理攻击的阈值选择过程。通过将此与每个实例的损失阈值结合，提出了一种新的攻击方法，即便在其他攻击看似无效的情况下，也能在损失函数的局部最小值周围找到训练集成员相应的输入，从而实现高 PPV 值。

Abstract

We study membership inference in settings where some of the assumptions typically used in previous research are relaxed. First, we consider skewed priors, to cover cases such as when only a small fraction of the candidate pool targeted by the adversary are actually members and develop

membership inference skewed priors ppv-based metric adversarial attacks training set members

发现论文，激发创造

从第一原理推导的成员推断攻击

本文针对成员推断攻击，提出了一种基于似然比的攻击方法，并认为攻击应该在低误报率下进行评估，发现以往攻击方法在该评估指标上表现欠佳。

Dec, 2021

通过差异度获得更好的成员推理隐私测量

这篇论文提出了一种基于差异理论的新的经验隐私度量方法，作为一种对成员推断攻击族群的优势的上限，不需要训练多个模型，可用于大规模的 Imagenet 分类模型，并在最近和更复杂的训练方法中具有更高的优势。

May, 2024

通过对抗示例进行成员推断攻击

本文研究机器学习与深度学习对隐私的威胁，提出了一种测量训练数据泄露的方法以及针对成员推断攻击的新型防御机制，并通过实验数据支持了研究的结论。

Jul, 2022

机器学习模型增强攻击下的成员推断攻击

通过成员推理攻击作为审核工具，我们提出了一个综合的假设检验框架，不仅能够以一致的方式正式表达先前的工作，还可以设计新的成员推理攻击，使用参考模型来实现任意误报率的显著更高的功率（真正的阳性率），并解释为什么不同的攻击效果不同，并最小化攻击不确定性到数据点的存在或缺失的一个比特秘密。

Nov, 2021

采样攻击：通过重复查询放大成员推断攻击

该研究关注于机器学习模型中有关成员推断攻击的问题，并提出了一种新的会员推断技术 —— 抽样攻击，进一步研究了两种最近的攻击模型以及针对这些攻击的防御方法，最终发现在预测输出时的输出微扰技术是一种简单易行的隐私保护方法，对预测结果的影响较小。

Sep, 2020

参数是否透露了比损失函数更多的关于成员推断的信息？

成员推断攻击、披露审核、黑盒访问、白盒访问、成员隐私审核的研究。

Jun, 2024

基于分位数回归的可扩展成员推断攻击

成员推断攻击是为了确定一个特定的示例是否被用于训练，采用黑盒访问已训练模型。我们引入了一种新类型的攻击，基于对在训练中未使用的数据上由被攻击模型诱导的置信分数的分位回归。我们通过大量的实验展示了该方法在各种数据集和模型架构上的有效性。

Jul, 2023

透视成员推断攻击

该论文通过对机器学习模型逐一评估，探究其在会员隐私方面存在的风险。研究表明，攻击模型的效果主要由数据驱动，受数据集的影响较大。在攻击过程中，抗攻击模型的选择和参与者的数量也是影响因素之一。最后，论文给出了相应的对策和缓解策略。

Jun, 2018

深度学习模型中实施成员推断攻击的方法

现代机器学习（ML）生态系统提供了大量的 ML 框架和代码库，可以极大地促进 ML 模型的开发。本研究考虑了恶意 ML 提供者供应模型训练代码给数据持有者的情况，该提供者无法访问训练过程，只能以黑盒查询方式访问结果模型。我们展示了一种新形式的成员推断攻击，比以往的攻击更强大，使对手能够可靠地取消识别所有训练样本，并且被攻击的模型仍然保持与未受损对照模型相当的性能。此外，我们还展示了被污染的模型可以在常见的成员隐私审核下有效伪装被放大的成员泄漏，只有对手知道的一组秘密样本才能揭示。总体而言，我们的研究不仅指出了最坏情况下的成员隐私泄漏，还揭示了现有隐私审核方法的一个常见问题，需要未来努力重新思考机器学习模型中的隐私审核实践。

Jul, 2024

论会员推断攻击中难度校准的重要性

该研究分析了机器学习模型对成员推理攻击的脆弱性，提出了难度校准的方法，成功降低了成员推理攻击中高误报率的问题，进一步提高了攻击的准确性。

Nov, 2021