采样高斯机制的 Rényi 差分隐私
通过在向量值查询之前添加高斯噪声以保护隐私的方式,考虑了相对 L2 敏感性假设和输出依赖噪声,并证明了相关的 RDP 参数的紧密上下界,来解决确界 L2 敏感性困难问题,并给出了应用与 Private Gradient Descent 问题的具体保证。
Aug, 2023
该研究提出了一种新型的异构高斯机制(HGM),用于保护深度神经网络的差分隐私,并具有针对对抗性攻击的可证明强鲁棒性。HGM 可以提供灵活的噪声分布来平衡模型效用和隐私损失,并在第一个隐藏层注入高斯噪声以获得强鲁棒性保护。该研究理论分析和实验验证显示,相比基准方法,HGM 机制显着提高了不同 ially private 深度神经网络在各种模型攻击下的鲁棒性。
Jun, 2019
本文介绍一种新的机器学习算法,称为随机梯度马尔科夫链蒙特卡罗(SG-MCMC),可在不牺牲隐私的情况下提高算法的准确性。该算法是在差分隐私框架下提供了一个简单和优雅的解决方案来保护训练数据的隐私,并且比现有算法具有更好的性能。
Dec, 2017
本文针对使用 Renyi 差分隐私(RDP)定义时的数据隐私问题,特别是在指数族和特定广义线性模型 (例如:逻辑回归) 的采样中,利用先验分布减轻个体数据点的影响,提出了新颖的 RDP 机制,并为现有方法提供了新的 RDP 分析,以增加 RDP 框架的价值。每种方法都能够实现任意的 RDP 隐私保障,并提供其有效性的实验结果。
Oct, 2017
本文针对高维情况下的差分隐私数据分析算法中的高斯机制,提出了一种经过优化的高斯机制,通过解决其方差在隐私程度较高和较低的限制,直接利用高斯累积分布函数进行方差校准,采用基于自适应估计技术的后处理步骤实现抑噪,实验证明该方法相比于经典高斯机制,能减少至少三分之一的噪声方差,并且在高维情境下能够显著提高其精确性。
May, 2018
本文介绍了基于 Renyi 散度的差分隐私的自然松弛,将其作为隐私定义并展示其在隐私损失尾部的保障方面精准的表示,同时演示了新定义与标准差分隐私定义性质相似度高,在分析异构机制组合方面具有更紧密的能力。
Feb, 2017
本文着重研究了隐私预算的问题,提出了一套训练范式,通过调整噪声比例,使更多的噪声能被纳入隐私预算,从而在保护隐私和维护计算效用之间提供一种更好的平衡方案。
Oct, 2021
研究文章中,我们提供了差分隐私机器学习算法的紧密上界,特别针对在数据子抽样和应用随机化机制的情况下,考虑了 Mironov(2017)的 Renyi 差分隐私参数和数据子抽样概率参数的影响,将 Abadi 等人(2016)针对高斯机制开发的矩计数技术推广到任何经过子抽样的 RDP 机制,此研究是关于差分隐私重要问题的研究。
Jul, 2018