May, 2024

GLiRA: 通过知识蒸馏进行的黑盒成员推理攻击

PDF
TL;DR我们提出了一种使用知识蒸馏引导的黑盒神经网络成员推理攻击方法，并在多个图像分类数据集和模型上进行评估，证明了借助知识蒸馏的似然比攻击在黑盒设置下优于目前最先进的成员推理攻击。
deep neural networksprivacymembership inference attacksdistillation-based functionality stealing attackslikelihood ratio attacks
发现论文，激发创造
  • 面向扩散模型的黑盒成员推断攻击

    通过黑盒成员推断攻击方法，在不需要访问模型的内部 U-net 的情况下，构建了一个 DALL-E 生成的数据集进行全面评估，实验结果优于以前的研究。

    May, 2024

  • 生成分布对生成模型的成员推断攻击足够

    通过仅利用目标生成模型的生成分布和辅助非成员数据集，我们提出了对各种生成模型（如生成对抗网络、变分自编码器、隐式函数和新兴的扩散模型）的第一个广义成员推断攻击，验证了所有生成模型都对我们的攻击易受攻击，我们呼吁设计和发布生成模型时要注意此类隐私泄漏风险。

    Oct, 2023

  • 图神经网络成员推断攻击

    本文研究了基于图神经网络的成员推理攻击技术，发现 GNN 中结构信息是造成泄漏的主要原因，提出了两种有效防御方法，可将攻击者的推理准确率降低 60%。

    Jan, 2021

  • 通过知识转移确保机器学习模型的会员隐私

    提出了一种新的防御称为 “用于成员隐私的蒸馏（DMP）”，该方法可以提供比其他现有防御更好的成员隐私和分类准确性之间的权衡，使用蒸馏技术训练机器学习模型，从而避免成员推理攻击。

    Jun, 2019

  • 将成员推理攻击应用于 GNN 图分类：方法和影响

    本论文针对图神经网络的成员推断攻击扩展到了整个图记录的成员推断，通过不同的攻击能力实现了两种攻击类型：基于训练的攻击和基于阈值的攻击，并在七个真实数据集中使用五种代表性的 GNN 模型进行了全面的实验评估，结果表明我们的攻击方法是有效的，对于图级分类任务的 MIAs 更多地与 GNN 的过拟合水平有关。

    Oct, 2021

  • 不确定性、校准和成员推断攻击：信息论视角

    模拟结果表明，会员推理攻击的效果可以很好地通过得出的分析边界进行预测。

    Feb, 2024

  • 揭示无法察觉的事物：通过可解释性探索白盒成员推断的视角

    通过统计方法，本文旨在解决隐含特征对攻击效果的影响以及基于原始数据特征的攻击根本原因不足的问题，并提出了一个攻击驱动的可解释框架，通过集成目标和攻击模型，识别导致成功成员推理攻击的原始数据上最具影响力的特征。我们提出的攻击显示了与最先进的攻击技术相比高达 26％的改进。

    Jul, 2024

  • LOGAN: 针对生成模型的成员资格推理攻击

    本文提出了首个针对生成模型的成员推断攻击方法，使用生成对抗网络检测过度拟合并识别训练数据，发现缺陷对于不同的训练参数有不同的灵敏度，防御方法不够有效并会导致生成模型在训练稳定性或样本质量方面表现较差。

    May, 2017

  • 利用模型记忆进行校准的白盒成员推断：窃取的记忆

    本研究通过对深度神经网络如何发生过拟合的新认识，研究了成员推断攻击，并展示了如何利用模型的内部来提供攻击者成员身份的证据，该攻击方法可校准，并可以有效地进行高精度的成员推论。同时，对于流行的成员推断攻击防御方法，发现较小的一阶差分隐私并不能防止攻击，而较大的隐私预算则使得攻击几乎具有与未受保护的模型相同的准确性。

    Jun, 2019

  • 深度学习的实际成员隐私理解

    我们应用最先进的成员推理攻击方法，系统地测试了对大型图像分类模型进行微调时的实际隐私漏洞，重点在于了解使其易受成员推理攻击的数据集和样本的特性。就数据集的特性而言，我们发现数据集中每个类别的示例数量与成员推理攻击的脆弱性之间存在强烈的幂律依赖性，通过攻击的真阳率在低假阳率下衡量。对于单个样本来说，在训练结束时较大的梯度与成员推理攻击的脆弱性存在强相关性。

    Feb, 2024