Jun, 2023

使用相对决策边界距离的成员推断攻击

PDF
TL;DR本文提出了一种新的多目标适应性标签仅会员推断攻击方法，使用多目标 HopSkipJump 算法，将所有目标类别的决策边界距离遍历，在早期攻击迭代中，随后的攻击迭代继续使用最短的决策边界距离，而不是使用单一的边界距离，来区分训练集内的成员样本和训练集外的非成员样本。实验结果表明，相对于当前的标签仅会员推断攻击，在 CIFAR10 和 CIFAR100 数据集上，我们的多任务 HopSkipJump 算法在几乎所有样本中都成功地实现了最优决策边界，并且我们的多类适应性 MIA 在真阳性率低时达到了极佳的性能。
membership inference attacklabel-only settingdecision boundary distancemulti-targeted hopskipjump algorithmcifar datasets
发现论文，激发创造
  • 标签曝光中的成员信息泄漏

    本文提出了基于决策的成员推理攻击方法，证明了仅利用标签信息的模型也容易受到成员泄漏攻击，并且开发了两种决策攻击类型：转移攻击和边界攻击。最后，我们评估多种防御机制，并展示了我们提出的两种攻击方式可以绕过大部分防御。

    Jul, 2020

  • 仅标签成员推断攻击

    本文介绍了一种基于标签的会员推理攻击方法，通过对模型预测标签进行扰动来获取精细的成员信号，该攻击未被置换机密度分数的防御措施所挫败，仅采用差分隐私和（强）L2 正则化等防御策略才能有效地抵御所有攻击。

    Jul, 2020

  • 通过对抗示例进行成员推断攻击

    本文研究机器学习与深度学习对隐私的威胁，提出了一种测量训练数据泄露的方法以及针对成员推断攻击的新型防御机制，并通过实验数据支持了研究的结论。

    Jul, 2022

  • 隶属推断攻击的难度

    该论文研究深度学习中的成员推理攻击，指出现有攻击方法的报告中存在高误报率 (FAR) 和针对误分样本的较弱识别能力，并探索了距离决策边界和梯度范数等新特征，证明其对误分类样本分类能力普遍一般，最后通过多项实验证明了现有的 MI 攻击较难同时实现高准确率和低 FAR。

    May, 2020

  • 采样攻击：通过重复查询放大成员推断攻击

    该研究关注于机器学习模型中有关成员推断攻击的问题，并提出了一种新的会员推断技术 —— 抽样攻击，进一步研究了两种最近的攻击模型以及针对这些攻击的防御方法，最终发现在预测输出时的输出微扰技术是一种简单易行的隐私保护方法，对预测结果的影响较小。

    Sep, 2020

  • 高效的子人群成员推理攻击

    通过引入基于同质子集方法的会员推断攻击方案，本文成功提高了会员推断的准确性，同时极大地降低了对深度模型的计算成本。

    Mar, 2022

  • 从第一原理推导的成员推断攻击

    本文针对成员推断攻击，提出了一种基于似然比的攻击方法，并认为攻击应该在低误报率下进行评估，发现以往攻击方法在该评估指标上表现欠佳。

    Dec, 2021

  • 机器学习模型增强攻击下的成员推断攻击

    通过成员推理攻击作为审核工具，我们提出了一个综合的假设检验框架，不仅能够以一致的方式正式表达先前的工作，还可以设计新的成员推理攻击，使用参考模型来实现任意误报率的显著更高的功率（真正的阳性率），并解释为什么不同的攻击效果不同，并最小化攻击不确定性到数据点的存在或缺失的一个比特秘密。

    Nov, 2021

  • 透视成员推断攻击

    该论文通过对机器学习模型逐一评估，探究其在会员隐私方面存在的风险。研究表明，攻击模型的效果主要由数据驱动，受数据集的影响较大。在攻击过程中，抗攻击模型的选择和参与者的数量也是影响因素之一。最后，论文给出了相应的对策和缓解策略。

    Jun, 2018

  • 深度学习在野外的隐私分析：针对迁移学习的成员推理攻击

    本文研究了基于迁移学习模型的成员推断攻击，采用了影子模型训练策略，通过实验结果展示了成员推断攻击的有效性，并揭示了机器学习模型在实践中存在的成员隐私泄露风险。

    Sep, 2020