Aug, 2017

聆听谁在敲门？对聚合位置数据的成员推断攻击

PDF
TL;DR本研究挖掘了对聚合位置时间序列的成员推断攻击可能存在的隐私威胁，并探究了此类攻击的机理，效果和防御方法。研究发现，差分隐私机制可以降低此类攻击的威胁，但同时也导致了显著的效用损失。此外，攻击者的先验信息和数据聚合的规模和时间范围等因素也会影响此类攻击的成功率。最终，本文提出了适用于真实环境的聚合位置数据成员推断攻击的评估框架，可供数据发布者进行隐私保护质量评估，也可供监管机构进行数据隐私监督。
membership inference attacksaggregate location dataprivacy threatsdifferential privacymachine learning
发现论文，激发创造
  • 聚合位置数据的零辅助知识成员推理攻击

    在从群体中频繁收集和共享位置数据以指导政策和决策的过程中，存在成员推断攻击的隐私问题。本文提出了一种在汇总位置数据上进行零辅助知识攻击的方法，通过生成合适的合成轨迹，从而消除了对真实个体轨迹的辅助数据集的需求，并对偏差和噪音进行了校正。研究表明，这种方法在保护隐私机制应用之前仍然适用，且即使攻击者仅了解目标的一小部分位置历史也具有很高的有效性，因此强调了对差分隐私的强保护需求。

    Jun, 2024

  • 通过对抗示例进行成员推断攻击

    本文研究机器学习与深度学习对隐私的威胁，提出了一种测量训练数据泄露的方法以及针对成员推断攻击的新型防御机制，并通过实验数据支持了研究的结论。

    Jul, 2022

  • 针对推荐系统的成员推断攻击

    本文第一次尝试从成员推理的角度量化推荐系统的隐私泄漏，并提出了基于成员推理的攻击框架和防御机制。实验结果表明，攻击框架具有强大的性能。

    Sep, 2021

  • 针对机器学习模型的成员推断攻击

    本文通过对机器学习模型泄露个人数据记录的数量进行定量研究，并聚焦于基本的成员推理攻击，利用对手方机器学习技术来训练自己的推理模型，识别目标模型在训练和未训练输入上的预测差异，我们评估了这种推理技术对各种分类模型的影响，包括敏感医院出院数据集，发现这些模型容易受到成员攻击，并探讨影响泄漏的因素并评估缓解策略。

    Oct, 2016

  • 机器学习模型增强攻击下的成员推断攻击

    通过成员推理攻击作为审核工具，我们提出了一个综合的假设检验框架，不仅能够以一致的方式正式表达先前的工作，还可以设计新的成员推理攻击，使用参考模型来实现任意误报率的显著更高的功率（真正的阳性率），并解释为什么不同的攻击效果不同，并最小化攻击不确定性到数据点的存在或缺失的一个比特秘密。

    Nov, 2021

  • 透视成员推断攻击

    该论文通过对机器学习模型逐一评估，探究其在会员隐私方面存在的风险。研究表明，攻击模型的效果主要由数据驱动，受数据集的影响较大。在攻击过程中，抗攻击模型的选择和参与者的数量也是影响因素之一。最后，论文给出了相应的对策和缓解策略。

    Jun, 2018

  • 采样攻击：通过重复查询放大成员推断攻击

    该研究关注于机器学习模型中有关成员推断攻击的问题，并提出了一种新的会员推断技术 —— 抽样攻击，进一步研究了两种最近的攻击模型以及针对这些攻击的防御方法，最终发现在预测输出时的输出微扰技术是一种简单易行的隐私保护方法，对预测结果的影响较小。

    Sep, 2020

  • 去往何处即是你的身份 —— 基于机器学习的语义隐私攻击研究

    机器学习和位置数据的隐私攻击对隐私造成了显著风险，并且需要隐私监管来保护个人的位置信息。

    Oct, 2023

  • 深度学习在野外的隐私分析：针对迁移学习的成员推理攻击

    本文研究了基于迁移学习模型的成员推断攻击，采用了影子模型训练策略，通过实验结果展示了成员推断攻击的有效性，并揭示了机器学习模型在实践中存在的成员隐私泄露风险。

    Sep, 2020

  • 嘈杂邻居：针对 LLMs 的高效成员推断攻击

    该研究论文介绍了一种高效的方法，通过在嵌入空间中添加随机噪声，在推理模式下操作目标模型，生成目标样本的 “噪声邻居”，以评估 LLMs 的隐私风险。研究结果表明，该方法与使用影子模型的效果相近，展示了它在实际隐私审计场景中的可用性。

    Jun, 2024