ICMLJul, 2022

通过演变离散化实现更快的隐私账户

PDF
TL;DR本论文介绍了一个新算法，用于计算隐私随机变量的数字组成，可用于计算机制的组合的准确差分隐私参数。该算法可以在多项式对数 (k) 的时间和内存使用情况下自我组合机制 k 次。该方法不仅适用于子采样高斯机制等广泛机制的分析，还可扩展至组合同类别别不同机制的情况，并改进了运行时间和内存使用率。
differential privacynumerical compositionrandom variablesmechanismsalgorithm
发现论文，激发创造
  • 差分隐私的数值组成

    提供了一种快速算法，可以将差分隐私算法的隐私保证优化到任意精度，并使用隐私损失随机变量的概念来量化差分隐私算法的隐私损失，该算法可以加速隐私计算几个数量级同时保持类似的准确性。

    Jun, 2021

  • 在组合下避免子采样机制的隐私计算陷阱

    我们考虑计算子采样差分私有机制组合的紧密隐私保证的问题。我们的主要贡献在于解决了两个常见的困惑：一是有些隐私估计者认为，子采样机制组合的隐私保证是通过自组合未组合机制的最坏情况数据集来确定的；二是泊松子采样有时被假设具有与无替换采样相似的隐私保证，但我们表明这两种采样方案的隐私保证可能存在显著差异。具体而言，我们给出了一个示例，其中泊松子采样的 ε≈1，而无替换采样的 ε>10。这对于实际可选择的 DP-SGD 参数而言是可能发生的。

    May, 2024

  • 使用 FFT 的离散值机制和子采样高斯机制的严格差分隐私

    提出一种基于隐私损失分布的数值账本方法，用于准确隐私计算，尤其是对子采样高斯机制的严格上下界隐私参数的计算，并给出幂系数约束下的隐私损失分布的误差分析，应用于计数查询的指数机制的计算也满足严格下界隐私参数。

    Jun, 2020

  • 有限计算机上的差分隐私

    提供严格多项式时间的离散算法，用于近似分类数据集的直方图，同时保留与拉普拉斯机制相同的（纯）差分隐私保证，并基于受限离散计算模型，避免了基于实际算术的不同隐私算法攻击实现的可能性。

    Sep, 2017

  • 使用快速傅里叶变换计算异构组合的差分隐私保证

    本文将最近提出的基于快速傅里叶变换（FFT）的隐私保证算法扩展到异构组合，并进行了完整的误差分析以选择算法参数，进一步提高了差分隐私保证精度，并使用 Plancherel 定理加速算法。

    Feb, 2021

  • Pay-what-you-get 组合中的实用差分隐私 Top-k 选择

    研究了在用户级差分隐私的条件下，对于大数据域中的前 k 项选择问题。介绍了新的算法，使用真实的前固定 k 项，实现了（近似）（ϵ，δ>0）差分隐私。提供了算法的隐私组合边界。

    May, 2019

  • 通过离散化 Langevin MCMC 的 Rényi 散度分析加速差分隐私采样器

    本文旨在通过使用从 Rényi 距离获得收敛速度的 Langevin 动态算法，给出 Differentially Private 算法的快速实现方法，特别是对于平滑，强凸 f 的情况。

    Oct, 2020

  • 一种随机化的严格隐私计帐方法

    本文提出了一种基于估计验证释放（EVR）的新差分隐私范式来限制 DP 组合中的隐私泄露，其中隐私参数的限制通过将其估计转化为严格上限的形式来解决。这个范式包含隐私验证和基于 Monte Carlo 技术的不同的 DP accountant，通过本文的实证研究表明，EVR 增加了隐私保护和机器学习性能的平衡。

    Apr, 2023

  • 差分隐私的组合定理

    本文重点研究搜索不同的差分隐私机制，研究隐私水平下降的速度，并通过引入假设测试和数据处理不等式的新操作解释提出了一种解决方案，改进了现有技术并具有多方计算等多领域的应用。

    Nov, 2013

  • Skellam 机制用于差分隐私联合学习

    本研究介绍了基于两个独立的泊松随机变量之差的多维 Skellam 机制，可以用于分散式隐私应用及联邦学习下的安全聚合。该机制提供了与连续高斯机制相同的隐私 - 准确性折衷，即使精度较低也可以实现，而实现该机制只需要从泊松分布中进行取样。

    Oct, 2021