- 超越统计估计:洗牌模型中的差分隐私个体计算
这项工作探讨了用于非统计计算的混洗隐私扩大的可行性,提出了一种新的混洗模型范例,并引入了统计上的随机标识,从而在保持隐私扩大同时实现关键的安全功能。实验结果表明,这种模型和机制在减少错误率、提高效用性能方面相对于非隐私设置快速并且实用。
- 差分隐私的偏移插值
这篇论文通过建立 “迭代的隐私放大” 现象的统一框架,改进了先前分析的方法,有效地量化了差分隐私算法的隐私泄露,并扩展到各种设置和概念中,进而在 strongly convex optimization 领域中实现了第一个精确的隐私分析。
- Rényi Pufferfish 隐私:一般性加性噪声机制及迭代的隐私增强
Pufferfish 隐私是差分隐私的一种灵活泛化,允许对任意机密信息进行建模,并考虑到对手对数据的先前知识。我们引入了一种基于 Rényi 散度的 Pufferfish 变体,并展示它的应用拓展性。我们首先推广了 Wasserstein - 通过多阶段采样技术(MUST)增强隐私、效用和计算效率的平衡
应用一种随机算法对数据集的子集进行处理,而不是整个数据集,是提高发布信息隐私保护性的一种常见方法。我们提出了一种名为 MUltistage Sampling Technique(MUST)的子采样方法类别,用于差分隐私(DP)上的隐私增强( - 隐私扩大通过(强)凸目标函数的 ADMM 迭代
我们研究了一种私有的凸性目标 ADMM 变种,它是一种原始 - 对偶迭代方法。每次迭代都有一个用户使用私有函数来更新原始变量,通过加入高斯噪声来保证本地隐私,而无需直接给对偶变量添加噪声。通过迭代进行隐私放大,可以探索是否后续迭代中的噪声能 - 矩阵机制的隐私放大
该论文介绍了利用抽样来分析隐私放大的新算法 MMCC,该算法在分析相关噪声时表现出了广泛的实用性,并在标准基准测试中显示出了显著的隐私效益提高。
- 隐私放大通过重要性抽样
通过重要性抽样作为预处理步骤来检验数据子抽样的隐私增强特性,我们发现异质性抽样概率可以同时提供更强的隐私保护和更好的效用,并以保持子样本大小的方式评估基于重要性抽样的隐私增强在 k 均值聚类问题上的隐私、效率和准确性。
- (扩展) 带状矩阵分解:一种私有化训练的统一方法
本文介绍了一种基于带状矩阵的矩阵分解机制,可以用于差分隐私的联合训练和集中式训练,并且具有更好的性能和更低的计算复杂度。
- ICML通过伯努利采样进行隐私放大
本文分析了从一个多维伯努利分布中采样给定私有算法的参数的隐私放大效应,提供了计算放大因子的算法,并建立了上下界,从而平衡隐私和准确性之间的的矛盾。
- AAAIFLAME:洗牌模型下的差分隐私联邦学习
通过隐私放大效应在混洗模型的差分隐私中实现联邦学习的最佳两个世界,提出了 SS-Simple,在 FL 中提供了不足的隐私放大效应,之后通过分层采样提高了隐私放大效应,减少了模型参数维度的数量级,并提出了一种高级方案 SS-Topk 用于梯 - 随机签到的隐私扩大
本文介绍了一种分布式协议,称为随机签到分布式协议,它可用于联合学习等环境中的差分隐私随机梯度下降,在隐私和准确性之间实现了权衡,并且不需要服务器发起通信或了解总体规模。同时,作者还扩展了隐私放大技术,以在使用数量更少的用户数据时提供相似的隐 - 隐私随机凸优化:在线性时间的最优收敛率
本文提出两种新的不同 ially private 的方法,实现了凸优化的最优解,使用较少的梯度计算,同时需要对数据有轻度平滑性的假设。
- 采样高斯机制的 Rényi 差分隐私
通过数值计算和密度提升实现了对 SGM(Sampled Gaussian Mechanism)的精确计算,进一步探究了其隐私性质。
- 高斯差分隐私
本文提出 $f$- 差分隐私,一种新的隐私松弛定义,避免了使用发散松弛的一些困难,并支持隐私定义的组合和代数推理。同时,作者通过介绍高斯差分隐私,一个基于测试两个移动高斯函数的 $f$- 差分隐私的单参数家族,并通过数学证明和计算机实验了演 - 混淆模型的隐私保护措施
本文在研究中提供了三个贡献:在洗牌模型中提供了一种最佳的实数求和私有协议,并提供了一种新的更为通用的隐私放大界,用于分析洗牌模型中协议提供的隐私保护程度。
- 随机子采样的隐私扩增:基于耦合和差异的严密分析
本研究介绍一种新的方法,可通过随机抽样来提高差分隐私机制提供的隐私保证。该方法利用程序验证社区中出现的差分隐私特征,引入高级联合凸性和隐私概况等新工具,既可恢复和改进以往的分析,也可推导出新的隐私扩增实例。
- 私密环境中的变分贝叶斯(VIPS)
研究 Bayesian 数据分析中的隐私保护问题,提出基于 differential privacy 的通用隐私保护 Variational Bayes 框架,并介绍了如何对 binomial likelihoods 等非 CE 模型进行转 - 非共轭模型的差分隐私变分推断
本文提出一种差分隐私变分推理方法,该方法基于双重随机变分推理,并通过剪辑和扰动梯度来加入差分隐私,并通过子采样来增加隐私保护的效率。该方法在强隐私保证下的准确性接近于非私密级别,是以前基于抽样方法的替代品的明显改进。