May, 2019

高斯差分隐私

PDF
TL;DR本文提出 $f$- 差分隐私，一种新的隐私松弛定义，避免了使用发散松弛的一些困难，并支持隐私定义的组合和代数推理。同时，作者通过介绍高斯差分隐私，一个基于测试两个移动高斯函数的 $f$- 差分隐私的单参数家族，并通过数学证明和计算机实验了演示工具，进一步完善并解决了隐私数据分析的问题。
differential privacyprivacy amplificationhypothesis testinggaussian differential privacystochastic gradient descent
发现论文，激发创造
  • 高斯差分隐私深度学习

    本文研究了深度学习中隐私方面的问题，提出了一种新的隐私定义 ——f - 差分隐私，并利用其可处理复合和子采样的性质，推导出了一种更简单的隐私分析方法。在图像分类、文本分类和推荐系统等任务中的实验结果表明，该方法可以在保证隐私的前提下提高神经网络的预测准确率。

    Nov, 2019

  • 差分隐私的偏移插值

    这篇论文通过建立 “迭代的隐私放大” 现象的统一框架，改进了先前分析的方法，有效地量化了差分隐私算法的隐私泄露，并扩展到各种设置和概念中，进而在 strongly convex optimization 领域中实现了第一个精确的隐私分析。

    Mar, 2024

  • 通过 $f$- 差分隐私统一增强混合机制的隐私边界

    该研究聚焦于利用 f-DP 改进随机初始化的洗牌模型和一次迭代的差分隐私梯度下降（DP-GD）算法的隐私界限，并得到了洗牌模型的交替函数的闭式表达式，同时研究了随机初始化对于 DP-GD 的隐私影响。

    Oct, 2023

  • 差分隐私：什么是所有的噪音？

    本文概述了隐私保护的形式定义 Differential Privacy 在数据处理中提供严格保证的重要思想、概念和应用，特别关注它在机器学习和联邦学习领域的交叉应用。

    May, 2022

  • 应用于差分隐私深度学习的实用 Rényi 差分隐私隐私过滤器和计数器

    本研究研究以 Rényi 差分隐私为视角的 DP 组合，通过证明一个更简单的复合定理并提供小型常量，从而使其足够实用，以应用于 DP 深度学习中进行在线噪声或批处理大小调整以提高模型准确性，在固定的总隐私损失内以停止微调模型以减少总隐私损失的操作

    Mar, 2021

  • 差分隐私的极限（及其在数据发布和机器学习中的误用）

    文章介绍了差分隐私的优点及其在交互式查询的数据使用中的应用，同时指出了其局限性，强调需要注意其在个人数据采集、发布以及机器学习等领域中的滥用。

    Nov, 2020

  • 通过差分隐私的视角对广义似然比检验对手进行建模

    本文在假设检验 / 成员推断的 DP 解释下，对高斯机制进行了研究，通过放宽通常的 Neyman-Pearson-optimal 假设为一般化似然比检验敌手，获得了改进的隐私保证。

    Oct, 2022

  • 集中式差分隐私：简化、扩展和下限

    本文探讨了 “浓缩差分隐私” 的概念，将其用 Renyi 散度重新构建，得到更为精确的量化结果，并探讨了一些相关问题。同时，本文还通过给出 “近似浓缩差分隐私” 的定义，将这种方法与 “近似差分隐私” 相统一。

    May, 2016

  • 函数和函数数据的差分隐私

    利用高斯过程加噪点的方法，实现了对具有不同隐私级别的查询的差分隐私保护，可以应用于例如核密度估计，核支持向量机等在核希尔伯特空间中的函数。

    Mar, 2012

  • 集中式差分隐私

    介绍了一种集中差分隐私，比纯差分隐私和流行的 “(epsilon,delta)” 松弛具有更好的准确性，同时在多次计算中不会影响累积隐私损失。

    Mar, 2016