Dec, 2018

深度学习的全面隐私分析：针对集中式和联邦学习的被动和主动白盒推理攻击

PDF
TL;DR本文通过设计基于参数和白盒成员推理攻击算法，分别对中央化和联邦学习场景下的深度学习模型进行隐私分析，揭示了深度学习模型对训练数据隐私的泄露问题以及这一问题的原因，并展示了白盒成员推理攻击算法在 CIFAR 数据集上具体的实验效果。
发现论文，激发创造
  • 深度学习在野外的隐私分析：针对迁移学习的成员推理攻击

    本文研究了基于迁移学习模型的成员推断攻击，采用了影子模型训练策略，通过实验结果展示了成员推断攻击的有效性，并揭示了机器学习模型在实践中存在的成员隐私泄露风险。

    Sep, 2020

  • 协作学习中的意外特征泄漏利用

    合作式机器学习及联邦学习等技术让多个参与者通过本地训练和定期更新模型来建立一个联合模型，但我们展示了这些更新泄露了关于参与者训练数据的信息并开发了被动和主动攻击来利用泄露，我们在各种任务，数据集和学习配置中评估我们的攻击，并分析其局限性和可能的防御。

    May, 2018

  • 揭示无法察觉的事物：通过可解释性探索白盒成员推断的视角

    通过统计方法，本文旨在解决隐含特征对攻击效果的影响以及基于原始数据特征的攻击根本原因不足的问题，并提出了一个攻击驱动的可解释框架，通过集成目标和攻击模型，识别导致成功成员推理攻击的原始数据上最具影响力的特征。我们提出的攻击显示了与最先进的攻击技术相比高达 26％的改进。

    Jul, 2024

  • 利用模型记忆进行校准的白盒成员推断：窃取的记忆

    本研究通过对深度神经网络如何发生过拟合的新认识，研究了成员推断攻击，并展示了如何利用模型的内部来提供攻击者成员身份的证据，该攻击方法可校准，并可以有效地进行高精度的成员推论。同时，对于流行的成员推断攻击防御方法，发现较小的一阶差分隐私并不能防止攻击，而较大的隐私预算则使得攻击几乎具有与未受保护的模型相同的准确性。

    Jun, 2019

  • 透视成员推断攻击

    该论文通过对机器学习模型逐一评估，探究其在会员隐私方面存在的风险。研究表明，攻击模型的效果主要由数据驱动，受数据集的影响较大。在攻击过程中，抗攻击模型的选择和参与者的数量也是影响因素之一。最后，论文给出了相应的对策和缓解策略。

    Jun, 2018

  • 深度学习案例中用于医疗数据推理攻击模型的评估

    本文研究了深度神经网络在医疗应用中存在的隐私问题，发现攻击者可以利用属性推理攻击和模型反演攻击重建真实医学图像和临床记录，提出使用标签扰动和模型扰动等防御机制有效保护患者隐私。实验结果证明，我们的防御策略可以有效地减少医疗深度学习的隐私泄露风险。

    Oct, 2020

  • 参数是否透露了比损失函数更多的关于成员推断的信息？

    成员推断攻击、披露审核、黑盒访问、白盒访问、成员隐私审核的研究。

    Jun, 2024

  • 通过对抗鲁棒性评估成员推断

    本文提出了一种基于对抗鲁棒性的增强成员推断攻击方法，通过标签平滑调整对抗性扰动的方向，在白盒设置下对 Fashion-MNIST、CIFAR-10 和 CIFAR-100 三种数据集进行了实验，结果表明该方法的性能优于现有的基于对抗性鲁棒性的方法，且在攻击对抗性训练模型方面，更胜一筹。

    May, 2022

  • 通过对抗示例进行成员推断攻击

    本文研究机器学习与深度学习对隐私的威胁，提出了一种测量训练数据泄露的方法以及针对成员推断攻击的新型防御机制，并通过实验数据支持了研究的结论。

    Jul, 2022

  • 机器学习模型增强攻击下的成员推断攻击

    通过成员推理攻击作为审核工具，我们提出了一个综合的假设检验框架，不仅能够以一致的方式正式表达先前的工作，还可以设计新的成员推理攻击，使用参考模型来实现任意误报率的显著更高的功率（真正的阳性率），并解释为什么不同的攻击效果不同，并最小化攻击不确定性到数据点的存在或缺失的一个比特秘密。

    Nov, 2021