Nov, 2023

MIA-BAD：增强会员推断攻击及其联邦学习的缓解方法

PDF
TL;DR本文提出了一种改进的批量生成攻击数据集的增强型会员推断攻击（MIA-BAD）方法，研究了批量生成攻击数据集对 MIA 方法准确性的影响，以及如何通过联邦学习（FL）方法减轻 MIA-BAD 引入的威胁，并通过大量实验展示了 MIA-BAD 方法的定性效果。
membership inference attackfederated learningmia-badprivacy-preserving mltraining batch sizes
发现论文，激发创造
  • 基于概率波动的生成模型成员推断攻击

    我们提出了一种概率波动评估成员推理攻击（PFAMI），通过分析给定记录周围的整体概率波动趋势来检测这些趋势，从而推断成员身份的黑盒式攻击，实验证明 PFAMI 相对于最佳基线可以提高攻击成功率（ASR）约 27.9%。

    Aug, 2023

  • 理解对泛化良好的学习模型的成员推断

    通过发现训练实例可能对模型造成的独特影响，我们发现过度拟合是 Membership Inference Attack（MIA）成功的一个必要条件而不是充分条件，提出了一种新的 generalized MIA（GMIA）及其用于攻击机器学习模型中存在的脆弱示例的技术，结果显示现有的泛化技术无法有效保护这些脆弱示例。

    Feb, 2018

  • 评估联邦学习中的成员推断攻击和防御

    成员推理攻击（MIAs）对联邦学习中的隐私保护构成了日益严重的威胁。本文评估了现有的 MIAs 和相应的防御策略，并提出了使用数据替换作为一种防御策略来实现隐私保护和模型效用之间的最佳平衡。

    Feb, 2024

  • 成员推断攻击的数据和模型依赖性

    该论文分析了成员推理攻击的成功因素，发现数据集和训练模型的多个属性共同影响攻击成功率，提出使用这些属性作为正则化器以保护机器学习模型免受攻击。经实验证明，该方法可将攻击准确率降低多达 25％，而不影响机器学习模型的预测效果。

    Feb, 2020

  • 机器学习模型隐私成员推断攻击的基本限制

    会员推断攻击可以揭示出某个特定数据点是否属于训练数据集，并潜在地暴露个人敏感信息。本文探讨了与机器学习模型上的会员推断攻击相关的基本统计限制。具体而言，我们首先推导了统治这类攻击的有效性与成功的统计量。然后，我们研究了几种情况，并提供了对这个感兴趣的统计量的上下界。这使得我们能够推导出攻击的准确性与样本数量以及学习模型的其他结构参数之间的关系，在某些情况下，这些参数可以直接根据数据集进行估计。

    Oct, 2023

  • 基于学习的难度校准提升成员推断攻击

    通过使用基于学习的困难度校准方法，我们提出了一种新的成员推理攻击（Membership Inference Attacks）方法，以显著提高真正正例率（TPR）在低假正例率（FPR）下的性能。

    Jan, 2024

  • 通过自提示校准对精调大型语言模型进行实用的成员推断攻击

    基于自校准概率变异的成员推断攻击（SPV-MIA）提出了一种新的对严格微调但无过拟合和隐私保护的 LLMs 泄露隐私的成员推断攻击方法。

    Nov, 2023

  • FD-MIA: 公平增强模型的高效攻击

    以公平性方法、成员推断攻击、预测差距、公平性增强模型和隐私泄露为关键词，本文提出了一种基于公平性差异结果的高效成员推断攻击方法（FD-MIA），利用原始模型和公平性增强模型之间的预测差异和观察到的预测差距作为攻击线索，同时探索了减少隐私泄露的潜在策略。大量实验证实了我们的发现并证明了该方法的有效性。

    Nov, 2023

  • 不确定性、校准和成员推断攻击：信息论视角

    模拟结果表明，会员推理攻击的效果可以很好地通过得出的分析边界进行预测。

    Feb, 2024

  • 机器学习中的成员推断攻击：一项调查

    本文首次对机器学习中的成员推理攻击及其防御措施进行了全面调查，提供了攻击和防御的分类学及其优缺点，并指出了相关领域的研究限制和未来方向，为研究社区提供了参考。

    Mar, 2021