Jan, 2020

通过 $f$- 分歧改善边界，增强隐私保护保证

PDF
TL;DR该研究使用 f - 分歧 的联合作用，推导出满足给定的 Renyi 差分隐私 (RDP) 水平的机制的最佳差分隐私 (DP) 参数，并将其应用于表征随机梯度下降的隐私保证的 “Moments Accountant” 框架，与最先进的技术相比，我们的范围可能导致相同隐私预算的深度学习模型的训练过程增加约 100 次随机梯度下降迭代。
differential privacyrenyi differential privacyf-divergencesmoments accountantstochastic gradient descent
发现论文，激发创造
  • 通过 $f$- 差分隐私统一增强混合机制的隐私边界

    该研究聚焦于利用 f-DP 改进随机初始化的洗牌模型和一次迭代的差分隐私梯度下降（DP-GD）算法的隐私界限，并得到了洗牌模型的交替函数的闭式表达式，同时研究了随机初始化对于 DP-GD 的隐私影响。

    Oct, 2023

  • 高斯差分隐私

    本文提出 $f$- 差分隐私，一种新的隐私松弛定义，避免了使用发散松弛的一些困难，并支持隐私定义的组合和代数推理。同时，作者通过介绍高斯差分隐私，一个基于测试两个移动高斯函数的 $f$- 差分隐私的单参数家族，并通过数学证明和计算机实验了演示工具，进一步完善并解决了隐私数据分析的问题。

    May, 2019

  • 差分隐私的偏移插值

    这篇论文通过建立 “迭代的隐私放大” 现象的统一框架，改进了先前分析的方法，有效地量化了差分隐私算法的隐私泄露，并扩展到各种设置和概念中，进而在 strongly convex optimization 领域中实现了第一个精确的隐私分析。

    Mar, 2024

  • 基于分布鲁棒优化的差分隐私

    本文利用分布式鲁棒优化技术，开发了一种机制设计模型，以实现最高准确度和隐私预选级别的非渐近和无条件最优性保证。

    Apr, 2023

  • 机器学习的贝叶斯差分隐私

    提出了基于贝叶斯的差分隐私方法，并实验表明基于样本数据分布的隐私保护方法比传统方法更实用有效。

    Jan, 2019

  • 通过有界支撑的高斯机制进行隐私放大

    通过对有界支持边界的高斯机制的简单修改，我们可以在依赖数据的隐私会计中增强隐私保障，同时不对模型效用产生负面影响。

    Mar, 2024

  • DP-SGD 对记录级推断的闭式界限

    通过对 DP-SGD 算法进行具体分析，本文提出了一种新的方法，用于评估机器学习模型对特定记录类型的威胁（例如成员和属性推断）的隐私，而无需经过 DP 的间接方式。同时，还提供了一种与数据相关的边界用于对抗属性推论。

    Feb, 2024

  • 贝叶斯差分隐私下的联邦学习

    本文提出采用贝叶斯差分隐私来增强联邦学习的形式化隐私保证，提出适用于联邦学习的贝叶斯隐私计算方法，并在图像分类任务上表现出明显的优势。

    Nov, 2019

  • 近似最优差分隐私强化学习

    本研究提出一种基于差分隐私约束条件的在线探索强化学习算法，该算法达到了非隐私算法的信息理论下限，同时利用隐私发布噪音技术获得了隐私保护，解决了个性化医疗等隐私数据应用中数据使用安全的问题。

    Dec, 2022

  • 集中式差分隐私：简化、扩展和下限

    本文探讨了 “浓缩差分隐私” 的概念，将其用 Renyi 散度重新构建，得到更为精确的量化结果，并探讨了一些相关问题。同时，本文还通过给出 “近似浓缩差分隐私” 的定义，将这种方法与 “近似差分隐私” 相统一。

    May, 2016