May, 2024

在组合下避免子采样机制的隐私计算陷阱

PDF
TL;DR我们考虑计算子采样差分私有机制组合的紧密隐私保证的问题。我们的主要贡献在于解决了两个常见的困惑：一是有些隐私估计者认为，子采样机制组合的隐私保证是通过自组合未组合机制的最坏情况数据集来确定的；二是泊松子采样有时被假设具有与无替换采样相似的隐私保证，但我们表明这两种采样方案的隐私保证可能存在显著差异。具体而言，我们给出了一个示例，其中泊松子采样的 ε≈1，而无替换采样的 ε>10。这对于实际可选择的 DP-SGD 参数而言是可能发生的。
privacy guaranteessubsampled differentially private mechanismsworst-case datasetspoisson subsamplingsampling without replacement
发现论文，激发创造
  • 通过演变离散化实现更快的隐私账户

    本论文介绍了一个新算法，用于计算隐私随机变量的数字组成，可用于计算机制的组合的准确差分隐私参数。该算法可以在多项式对数 (k) 的时间和内存使用情况下自我组合机制 k 次。该方法不仅适用于子采样高斯机制等广泛机制的分析，还可扩展至组合同类别别不同机制的情况，并改进了运行时间和内存使用率。

    Jul, 2022

  • 使用 FFT 的离散值机制和子采样高斯机制的严格差分隐私

    提出一种基于隐私损失分布的数值账本方法，用于准确隐私计算，尤其是对子采样高斯机制的严格上下界隐私参数的计算，并给出幂系数约束下的隐私损失分布的误差分析，应用于计数查询的指数机制的计算也满足严格下界隐私参数。

    Jun, 2020

  • 子样本 Rényi 差分隐私和分析矩会计

    研究文章中，我们提供了差分隐私机器学习算法的紧密上界，特别针对在数据子抽样和应用随机化机制的情况下，考虑了 Mironov（2017）的 Renyi 差分隐私参数和数据子抽样概率参数的影响，将 Abadi 等人（2016）针对高斯机制开发的矩计数技术推广到任何经过子抽样的 RDP 机制，此研究是关于差分隐私重要问题的研究。

    Jul, 2018

  • 随机子采样的隐私扩增：基于耦合和差异的严密分析

    本研究介绍一种新的方法，可通过随机抽样来提高差分隐私机制提供的隐私保证。该方法利用程序验证社区中出现的差分隐私特征，引入高级联合凸性和隐私概况等新工具，既可恢复和改进以往的分析，也可推导出新的隐私扩增实例。

    Jul, 2018

  • 差分隐私的数值组成

    提供了一种快速算法，可以将差分隐私算法的隐私保证优化到任意精度，并使用隐私损失随机变量的概念来量化差分隐私算法的隐私损失，该算法可以加速隐私计算几个数量级同时保持类似的准确性。

    Jun, 2021

  • Rényi 差分隐私的群隐私放大和统一放大的子采样

    我们研究了差分隐私和 Rényi-DP 框架下的群体隐私和分样本扩增，并提出了一种统一的分样本扩增隐私计算方法。我们的研究发现，这种方法不仅可以改进和推广现有的分样本扩增结果，还能导出比现有方法更严格的群体隐私扩增保证，从而将不同差分隐私属性的联合研究作为一个有希望的研究方向。

    Mar, 2024

  • 有限计算机上的差分隐私

    提供严格多项式时间的离散算法，用于近似分类数据集的直方图，同时保留与拉普拉斯机制相同的（纯）差分隐私保证，并基于受限离散计算模型，避免了基于实际算术的不同隐私算法攻击实现的可能性。

    Sep, 2017

  • 精度优先机制的自适应隐私组合

    研究了如何将降噪机制与其他差分隐私机制相结合，并使用隐私过滤器进行自适应转换，以实现整体隐私保证。

    Jun, 2023

  • 差分隐私的组合定理

    本文重点研究搜索不同的差分隐私机制，研究隐私水平下降的速度，并通过引入假设测试和数据处理不等式的新操作解释提出了一种解决方案，改进了现有技术并具有多方计算等多领域的应用。

    Nov, 2013

  • 使用快速傅里叶变换计算异构组合的差分隐私保证

    本文将最近提出的基于快速傅里叶变换（FFT）的隐私保证算法扩展到异构组合，并进行了完整的误差分析以选择算法参数，进一步提高了差分隐私保证精度，并使用 Plancherel 定理加速算法。

    Feb, 2021