Jul, 2023

分享与否：普通民众愿意为了提供差分隐私自然语言处理系统而接受哪些风险？

PDF
TL;DR利用行为研究实验，研究确定实际参与者愿意共享的 epsilon 阈值，以确定涉及敏感文本数据的两个实际 NLP 场景的人们的行为。
发现论文，激发创造
  • 差分隐私：选择 Epsilon 的经济方法

    本文从实践角度讨论差分隐私，提出一个基于公式的简单模型来平衡隐私保护和结果准确性之间的权衡，并使用该模型来选择关键参数 epsilon。研究表明，在一些情况下，差分隐私研究可以比非私密研究更加准确。

    Feb, 2014

  • 词级度量差分隐私的比较分析：隐私与效用权衡的基准测试

    采用差分隐私应用于自然语言处理技术近年来越来越重要，本研究对其在词级上加入噪音以实现差分隐私表示的不同方法进行了对比分析，并提供了隐私 - 效用权衡的深入分析和代码开源，从而为该研究领域提供了具体的前进步骤。

    Apr, 2024

  • 自然语言处理中的差分隐私：迄今为止的故事

    本文总结了隐私增强技术中差分隐私对自然语言处理中的隐私问题的影响和应用，以及现有研究的探讨和下一步的研究方向。

    Aug, 2022

  • 大 Epsilon 下的差分隐私如何抵御实际成员推理攻击？

    为了解决差分隐私机制中存在的理论与实践的差距，并理解大隐私参数如何防止实际的成员隐私攻击，本文引入了一种新的隐私概念，即实际成员隐私，并定量分析了指数机制和高斯机制的实际成员隐私参数。研究结果表明，较大的差分隐私参数往往对应较小的实际成员隐私参数，从而在实际成员隐私攻击方面提供了强大的隐私保护。基于这些发现，为从业者在选择差分隐私参数方面提供了有原则的指导。

    Feb, 2024

  • 私有 ERM 中隐私保护的实用性差分隐私：理解 Epsilon 对实用性的影响

    通过理论探索差分隐私强度参数 epsilon 对学习模型效用的影响，建立并提出了一种可以在任意 epsilon 值下对效用进行估计的实用方法，该方法在实验结果表现出高精度估计和广泛适用性，同时能够在保障隐私的前提下提供较强的效用保证。

    Jun, 2022

  • 隐私意识智能体中的群体决策

    如何在个人的隐私需求和安全顾虑中实现个体之间的信息交流以彼此学习？通过采用严格的统计担保，基于差分隐私（DP）控制信息泄露，我们使得保护个人隐私和实现高效社会学习成为可能。我们的研究结果揭示了在质量、学习准确性、通信成本和个体隐私保护水平之间在有限和无限信号环境下的权衡性质。

    Feb, 2024

  • 使用隐私保护数据进行公平决策制定

    本文研究了数据隐私保护和公平决策之间的权衡，提出了随机差分隐私机制以及基于随机差分隐私算法的公平度量，并通过对美国人口普查数据在联邦资金分配、选举权利福利分配和代表分配三个实例中的应用，揭示了局部隐私保护构成的一系列利益分配不公的情况。

    May, 2019

  • Epsilon*: 机器学习模型的隐私度量

    介绍了 Epsilon*，一种新的隐私度量方法，用于衡量在隐私保护策略的部署之前、期间或之后单个模型实例的隐私风险。该度量不需要访问训练数据抽样或模型训练算法。

    Jul, 2023

  • 使用输出特定和数据解析隐私配置文件探究 ML 模型的数据集级隐私转变

    本文研究了衡量数据集上 DP 机制对模型隐私保护的能力的新指标 - 隐私覆盖度，并提出了使用该指标排名训练集中样本隐私的方法，进而使用观察到的邻域分布的不可区分性转换来选择 epsilon 值。

    Jun, 2023

  • 部署差分隐私时遇到的问题

    本文讨论了在实践中实现差分隐私时的各种挑战，包括人员、数据环境、数据使用方式的考虑、确定隐私损失参数值和验证实现正确性的工具及人员缺乏。

    Sep, 2018