采样高斯机制的Rényi 差分隐私
本文针对高维情况下的差分隐私数据分析算法中的高斯机制,提出了一种经过优化的高斯机制,通过解决其方差在隐私程度较高和较低的限制,直接利用高斯累积分布函数进行方差校准,采用基于自适应估计技术的后处理步骤实现抑噪,实验证明该方法相比于经典高斯机制,能减少至少三分之一的噪声方差,并且在高维情境下能够显著提高其精确性。
May, 2018
本文提出$f$-差分隐私,一种新的隐私松弛定义,避免了使用发散松弛的一些困难,并支持隐私定义的组合和代数推理。同时,作者通过介绍高斯差分隐私,一个基于测试两个移动高斯函数的$f$-差分隐私的单参数家族,并通过数学证明和计算机实验了演示工具,进一步完善并解决了隐私数据分析的问题。
May, 2019
该研究使用 f-分歧 的联合作用,推导出满足给定的 Renyi 差分隐私(RDP)水平的机制的最佳差分隐私(DP)参数,并将其应用于表征随机梯度下降的隐私保证的“Moments Accountant”框架,与最先进的技术相比,我们的范围可能导致相同隐私预算的深度学习模型的训练过程增加约100次随机梯度下降迭代。
Jan, 2020
本文旨在通过使用从Rényi距离获得收敛速度的Langevin动态算法,给出Differentially Private算法的快速实现方法,特别是对于平滑,强凸f的情况。
Oct, 2020
本文着重研究了隐私预算的问题,提出了一套训练范式,通过调整噪声比例,使更多的噪声能被纳入隐私预算,从而在保护隐私和维护计算效用之间提供一种更好的平衡方案。
Oct, 2021
本论文介绍了一个新算法,用于计算隐私随机变量的数字组成,可用于计算机制的组合的准确差分隐私参数。该算法可以在多项式对数(k)的时间和内存使用情况下自我组合机制k次。该方法不仅适用于子采样高斯机制等广泛机制的分析,还可扩展至组合同类别别不同机制的情况,并改进了运行时间和内存使用率。
Jul, 2022
通过在向量值查询之前添加高斯噪声以保护隐私的方式,考虑了相对L2敏感性假设和输出依赖噪声,并证明了相关的RDP参数的紧密上下界,来解决确界L2敏感性困难问题,并给出了应用与Private Gradient Descent问题的具体保证。
Aug, 2023
Pufferfish隐私是差分隐私的一种灵活泛化,允许对任意机密信息进行建模,并考虑到对手对数据的先前知识。我们引入了一种基于Rényi散度的Pufferfish变体,并展示它的应用拓展性。我们首先推广了Wasserstein机制,涵盖了各种噪声分布并提高了其效用。我们还对抗了对手的分布外攻击,并证明了压缩有噪声迭代的隐私放大结果,并展示了在私有凸优化中Pufferfish的第一个使用。我们的结果的一个公共要素是使用和扩展转移减少引理。
Dec, 2023
本研究针对局部差分隐私下的采样问题,填补了隐私-效用权衡的基础分析空白。我们定义了私有采样的最小最大效用-隐私权衡,并为有限和连续数据空间精确刻画了该权衡,提出了针对所有f-散度的普适最优采样机制。我们的实验表明,该机制在理论效用和经验效用方面均优于基线模型。
Oct, 2024