本文提出了一种基于对抗鲁棒性的增强成员推断攻击方法，通过标签平滑调整对抗性扰动的方向，在白盒设置下对 Fashion-MNIST、CIFAR-10 和 CIFAR-100 三种数据集进行了实验，结果表明该方法的性能优于现有的基于对抗性鲁棒性的方法，且在攻击对抗性训练模型方面，更胜一筹。

May, 2022

我们应用最先进的成员推理攻击方法，系统地测试了对大型图像分类模型进行微调时的实际隐私漏洞，重点在于了解使其易受成员推理攻击的数据集和样本的特性。就数据集的特性而言，我们发现数据集中每个类别的示例数量与成员推理攻击的脆弱性之间存在强烈的幂律依赖性，通过攻击的真阳率在低假阳率下衡量。对于单个样本来说，在训练结束时较大的梯度与成员推理攻击的脆弱性存在强相关性。

Feb, 2024

本文提出一种不对称协作机器学习的实用方案，其中一方拥有数据，另一方仅拥有标签，提出了一种新的保护隐私的架构方案，可以有效地帮助两方合作训练深度学习模型。

Jul, 2020

本文研究机器学习与深度学习对隐私的威胁，提出了一种测量训练数据泄露的方法以及针对成员推断攻击的新型防御机制，并通过实验数据支持了研究的结论。

Jul, 2022

现代机器学习（ML）生态系统提供了大量的 ML 框架和代码库，可以极大地促进 ML 模型的开发。本研究考虑了恶意 ML 提供者供应模型训练代码给数据持有者的情况，该提供者无法访问训练过程，只能以黑盒查询方式访问结果模型。我们展示了一种新形式的成员推断攻击，比以往的攻击更强大，使对手能够可靠地取消识别所有训练样本，并且被攻击的模型仍然保持与未受损对照模型相当的性能。此外，我们还展示了被污染的模型可以在常见的成员隐私审核下有效伪装被放大的成员泄漏，只有对手知道的一组秘密样本才能揭示。总体而言，我们的研究不仅指出了最坏情况下的成员隐私泄漏，还揭示了现有隐私审核方法的一个常见问题，需要未来努力重新思考机器学习模型中的隐私审核实践。

Jul, 2024

本文提出了一个隐私保护的视觉分类器学习框架，利用分布式私有图像数据进行学习，并使用同态加密系统保护数据隐私。通过 DPHE 和稀疏数据约束方法提高同态加密的运算效率，最终得出在保证数据隐私的前提下，能够与最先进的视觉识别方法媲美的分类器。

Apr, 2017

在使用机器学习的背景下，提出了一种基于全同态加密方案和标签差分隐私的交互式协议，确保两个参与方在合作前能得到准确的预测改进，并通过实验证明，该方案相比完全使用全同态加密操作的协议，能够获得更快的计算结果。

Oct, 2023

本文研究了基于完全同态加密框架来保护面部模板数据库的隐私，并探索了一个批量处理和降维计算方案来权衡面部匹配准确性和计算复杂性，实验结果表明，安全面部匹配在维护匹配性能的同时，也已经可以得到实用。

May, 2018

通过创造一种新的损失函数，将目标分类损失和成员推断损失相结合，用于从神经网络中删除敏感信息的机器遗忘机制，本研究通过成员推断机制作为概念验证，提供了实验证据，证明了我们的遗忘方法在遗忘效果、延迟和主要任务准确性方面的优越性。

Jul, 2024

使用具有表达性编码映射和超参数化参量的变分量子电路模型引入了联邦学习，显示了表达性映射对抗梯度反演攻击具有内在隐私保护能力，而超参数化则确保了模型的可训练性。同时，通过数值扩展论证了攻击模型中表达性映射的欠参数化导致丢失地形被大量虚假局部极小点淹没，使得攻击难以成功，从而强有力地宣称量子机器学习模型的本质性质有助于防止联邦学习中的数据泄露。

Sep, 2023