本文提出了一种基于互信息的量化度量方法，用于评估联邦学习中客户端数据的梯度信息泄露风险，并提供了一种新的方法来估算高维梯度和批处理输入数据之间的互信息。实验结果表明，该指标可靠地反映了联邦学习中信息泄露的程度，并证明了风险程度与任务模型状态以及内在数据分布相关。

Feb, 2021

提出一种用于捕获用户向被动好奇敌手发布数据时产生的隐私威胁并在效用约束下加以限制的一般性统计推断框架，其中应用自信息成本函数于非渐进信息论方法用于表征最佳可实现的隐私，基于这些结果引入平均信息泄漏和最大信息泄漏两种隐私度量，证明在两种指标下，将用户数据映射到隐私保护输出的最优映射可被描述为修正的率失真问题并可设计成凸编程，最后与差分隐私进行比较。

Oct, 2012

我们研究了每个数据成员的成员推断攻击（MIAs），攻击者旨在推断固定目标数据是否包含在算法的输入数据集中，并因此侵犯了隐私。我们定义了数据成员的成员泄漏，将其量化为最优对手识别的优势，并显示它取决于目标数据和数据生成分布之间的马氏距离。我们进一步评估了两种隐私防御的效果，即添加高斯噪声和子采样。我们准确地量化了它们如何减少每个数据成员的成员泄漏。我们的分析基于一种新颖的证明技术，它结合了似然比检验的 Edgeworth 展开和 Lindeberg-Feller 中心极限定理。我们的分析连接了现有的似然比和标量积攻击，并证明使用于隐私审核文献中的不同 Canary 选择策略的合理性。最后，我们的实验证明了通过理论所指示的成员泄漏分数、子采样比例和噪声大小对每个数据成员的成员泄漏的影响。

Feb, 2024

在当今数据驱动的世界中，公开可用信息的广泛传播加剧了信息泄漏（IL）的挑战，提高了安全性问题。本研究利用统计学习理论和信息论建立了一个理论框架来准确量化和检测 IL。该方法通过近似贝叶斯预测器的对数损失和准确度来准确估计互信息（MI），并使用自动化机器学习（AutoML）来近似贝叶斯预测器。研究通过在合成数据集和真实数据集上的实验验证了该方法的有效性。

Jan, 2024

使用类似于似然比假设检验的成员推理攻击方法，我们发现面向医疗笔记的掩模语言模型泄漏训练数据的隐私风险非常高，表现为先前攻击的 AUC 从 0.66 提高到 0.9 级别，并且在低误差区域有显着提高：在 1％误报率的情况下，攻击效果比先前攻击提高了 51 倍。

Mar, 2022

模拟结果表明，会员推理攻击的效果可以很好地通过得出的分析边界进行预测。

Feb, 2024

该论文讨论了用户在希望获得某些实用性的同时，披露与其私人数据相关的信息所面临的隐私 - 效用权衡以及了解了一种概率隐私映射的数据变换技术，进而提出了一种优化方案以平衡隐私泄露和效用损失。通过实验在美国人口普查数据集上检验了该方案的性能。

Feb, 2014

在联邦学习中，本文探讨了使用相似性度量（如 L_2 范数、欧氏距离和余弦相似度）保护联邦学习的一种未知安全威胁，揭示了相似性度量在高维本地模型中评估为相同但参数值显著不同的弱点，设计了一种新型的非定向模型中毒攻击 Faker，它通过同时最大化被中毒本地模型的评估相似性和参数值的差异来发起攻击，实验结果表明 Faker 在精度降低方面优于基准攻击，并可降低时间成本，甚至用于对 FL 系统具有有限知识的单个恶意客户端，Faker 可以一次性降低全局模型的性能，此外，本文还初步探讨了将 Faker 扩展到其他攻击类型，如后门攻击和赛贝尔攻击，并提供了一种模型评估策略 SPP 来防御 Faker，鉴于 FL 中许多机制使用相似性度量来评估本地模型，本研究表明我们应对使用这些度量的潜在风险保持警惕。

Oct, 2023

本文提出了一个称为 MIBench 的综合基准，旨在比较不同的成员推断攻击，其中包括评估指标和评估场景，并且以公平和系统的方式比较了 15 种最先进的 MI 攻击算法，覆盖了 7 个广泛使用的数据集和 7 种代表性的模型。

Jul, 2023

本文提出了一种新的机器学习方法，用于在系统的 Black-Box 情况下评估 g-vulnerability 的信息泄漏，无需估计条件概率，适用于大多数机器学习算法，并在 k - 近邻和神经网络上的结果优于频率学派方法。

May, 2020