Jun, 2024

聚合位置数据的零辅助知识成员推理攻击

PDF
TL;DR在从群体中频繁收集和共享位置数据以指导政策和决策的过程中，存在成员推断攻击的隐私问题。本文提出了一种在汇总位置数据上进行零辅助知识攻击的方法，通过生成合适的合成轨迹，从而消除了对真实个体轨迹的辅助数据集的需求，并对偏差和噪音进行了校正。研究表明，这种方法在保护隐私机制应用之前仍然适用，且即使攻击者仅了解目标的一小部分位置历史也具有很高的有效性，因此强调了对差分隐私的强保护需求。
发现论文，激发创造
  • 聆听谁在敲门？对聚合位置数据的成员推断攻击

    本研究挖掘了对聚合位置时间序列的成员推断攻击可能存在的隐私威胁，并探究了此类攻击的机理，效果和防御方法。研究发现，差分隐私机制可以降低此类攻击的威胁，但同时也导致了显著的效用损失。此外，攻击者的先验信息和数据聚合的规模和时间范围等因素也会影响此类攻击的成功率。最终，本文提出了适用于真实环境的聚合位置数据成员推断攻击的评估框架，可供数据发布者进行隐私保护质量评估，也可供监管机构进行数据隐私监督。

    Aug, 2017

  • 合成数据不需要其他辅助数据：针对合成数据的成员推断攻击无需其他假设的去除

    本研究表明，假设攻击者只能访问合成数据而不是其他辅助数据集，会导致轻松攻击合成数据，因此需要检验合成数据隐私保护的安全性。

    Jul, 2023

  • 评估联邦学习中的成员推断攻击和防御

    成员推理攻击（MIAs）对联邦学习中的隐私保护构成了日益严重的威胁。本文评估了现有的 MIAs 和相应的防御策略，并提出了使用数据替换作为一种防御策略来实现隐私保护和模型效用之间的最佳平衡。

    Feb, 2024

  • 关于多重成员推断攻击和目标模型的数据点漏洞

    本文通过定义新的指标来反映数据点在多重成员推断攻击下的脆弱性，从而捕捉多次攻击和不同目标模型下的脆弱数据点。作者运用可扩展性和灵活性的会员推断攻击平台 (VMIAP) 实现 54 次成员推断攻击，发现攻击模型对某些数据点情有独钟，同时发现数据点的脆弱性与攻击模型和目标模型有关。

    Oct, 2022

  • 探究数据依赖下的成员推断攻击

    本文研究了在考虑统计依赖性的情况下，Differentially Private 训练算法在 Membership Inference Attack 防御中的可行性，发现在存在依赖性的情况下，DP 无法提供有效保护。作者通过对离线对攻击的实验表明，数据样本之间的依赖关系严重影响了 Membership Inference Attack 的性能表现。

    Oct, 2020

  • 去往何处即是你的身份 —— 基于机器学习的语义隐私攻击研究

    机器学习和位置数据的隐私攻击对隐私造成了显著风险，并且需要隐私监管来保护个人的位置信息。

    Oct, 2023

  • 机器学习模型隐私成员推断攻击的基本限制

    会员推断攻击可以揭示出某个特定数据点是否属于训练数据集，并潜在地暴露个人敏感信息。本文探讨了与机器学习模型上的会员推断攻击相关的基本统计限制。具体而言，我们首先推导了统治这类攻击的有效性与成功的统计量。然后，我们研究了几种情况，并提供了对这个感兴趣的统计量的上下界。这使得我们能够推导出攻击的准确性与样本数量以及学习模型的其他结构参数之间的关系，在某些情况下，这些参数可以直接根据数据集进行估计。

    Oct, 2023

  • 使用邻居比较攻击语言模型的成员推断

    本研究探讨了参考模型攻击在更现实的情况下对数据分布的脆弱性，并提出并评估了领域攻击方法，以提高模型隐私性。

    May, 2023

  • 不确定性、校准和成员推断攻击：信息论视角

    模拟结果表明，会员推理攻击的效果可以很好地通过得出的分析边界进行预测。

    Feb, 2024

  • 在平均值中迷失：一种评估机器学习模型成员推理攻击的新特定设置

    使用权重初始化作为唯一的随机源，我们提出了一种新的、特定的用于对 ML 模型的成员识别攻击（MIAs）进行评估的设置，从而准确评估了与特定数据集训练的模型的发布相关的风险。

    May, 2024