ICMLJun, 2024

超越校准点：差分隐私中的机制比较

PDF
TL;DR在差分隐私机器学习中，我们引入了度量机制之间差分隐私保护强度的 $\Delta$- 散度，并在 $(\varepsilon, \delta)$、$f$-DP 和贝叶斯解释方面加以解释。通过应用实例，我们展示了我们的技术可以促进明智的决策，并揭示了差分隐私隐患中的差距。
differentially private machine learningprivacy guaranteesdp mechanisms$(\varepsilon, \delta)$-pair$\delta$-divergence
发现论文，激发创造
  • 通过 $f$- 差分隐私统一增强混合机制的隐私边界

    该研究聚焦于利用 f-DP 改进随机初始化的洗牌模型和一次迭代的差分隐私梯度下降（DP-GD）算法的隐私界限，并得到了洗牌模型的交替函数的闭式表达式，同时研究了随机初始化对于 DP-GD 的隐私影响。

    Oct, 2023

  • 使用输出特定和数据解析隐私配置文件探究 ML 模型的数据集级隐私转变

    本文研究了衡量数据集上 DP 机制对模型隐私保护的能力的新指标 - 隐私覆盖度，并提出了使用该指标排名训练集中样本隐私的方法，进而使用观察到的邻域分布的不可区分性转换来选择 epsilon 值。

    Jun, 2023

  • 本地差分隐私数据收集与分析

    本文提出一种实现高精度（ε，δ）-LDP （可保持个人数据隐私）的机制，分别针对多维数值数据和分类属性进行收集，实现了对数据的安全保护和更高的准确性，实验证明其在数据统计和机器学习模型中具有很高的数据实用性。

    Jun, 2019

  • 差分隐私的偏移插值

    这篇论文通过建立 “迭代的隐私放大” 现象的统一框架，改进了先前分析的方法，有效地量化了差分隐私算法的隐私泄露，并扩展到各种设置和概念中，进而在 strongly convex optimization 领域中实现了第一个精确的隐私分析。

    Mar, 2024

  • 高斯差分隐私

    本文提出 $f$- 差分隐私，一种新的隐私松弛定义，避免了使用发散松弛的一些困难，并支持隐私定义的组合和代数推理。同时，作者通过介绍高斯差分隐私，一个基于测试两个移动高斯函数的 $f$- 差分隐私的单参数家族，并通过数学证明和计算机实验了演示工具，进一步完善并解决了隐私数据分析的问题。

    May, 2019

  • 差分隐私：什么是所有的噪音？

    本文概述了隐私保护的形式定义 Differential Privacy 在数据处理中提供严格保证的重要思想、概念和应用，特别关注它在机器学习和联邦学习领域的交叉应用。

    May, 2022

  • 大 Epsilon 下的差分隐私如何抵御实际成员推理攻击？

    为了解决差分隐私机制中存在的理论与实践的差距，并理解大隐私参数如何防止实际的成员隐私攻击，本文引入了一种新的隐私概念，即实际成员隐私，并定量分析了指数机制和高斯机制的实际成员隐私参数。研究结果表明，较大的差分隐私参数往往对应较小的实际成员隐私参数，从而在实际成员隐私攻击方面提供了强大的隐私保护。基于这些发现，为从业者在选择差分隐私参数方面提供了有原则的指导。

    Feb, 2024

  • 纯差分隐私与近似差分隐私之间

    该研究通过指定参数 delta 来构建一个全新的下界，从而优化（epsilon，delta）差分隐私算法在高维数据库上精确回答统计查询的样本复杂度。除了新的下界之外，该研究还提出了纯粹和近似的差分隐私算法，用于回答任意统计查询，并通过对比标准拉普拉斯和高斯机制在最坏情况下精度保证方面的样本复杂度，改善了对该问题的解决方法。

    Jan, 2015

  • 通过有界支撑的高斯机制进行隐私放大

    通过对有界支持边界的高斯机制的简单修改，我们可以在依赖数据的隐私会计中增强隐私保障，同时不对模型效用产生负面影响。

    Mar, 2024

  • DPMLBench：差分隐私机器学习的整体评估

    我们通过对改进的 DPML 算法的效用和防御能力对成员推断攻击进行了整体度量，在图像分类任务中我们首次提出了具有机器学习生命周期其中改进的分类法的分类体系。我们通过使用实验来表明了 DP 能够有效地抵御成员推断攻击，并且敏感性绑定技术，如每个样本梯度剪辑，在防御中起着重要作用。 标签 DP 算法可以实现较小的效用损失，但对攻击十分脆弱。我们的研究结果可以支持数据拥有者使用 DPMLBench 部署 DPML 算法，并作为研究人员和实践者的基准工具。

    May, 2023