本文提出了一种使用差分隐私技术保证贝叶斯学习个体隐私安全的算法,采样自后验分布得出的估计符合要求,同时随机梯度下降方法也可以达到类似效果,是较好的解决贝叶斯学习隐私问题的方法。
Feb, 2015
本文介绍一种新的机器学习算法,称为随机梯度马尔科夫链蒙特卡罗(SG-MCMC),可在不牺牲隐私的情况下提高算法的准确性。该算法是在差分隐私框架下提供了一个简单和优雅的解决方案来保护训练数据的隐私,并且比现有算法具有更好的性能。
Dec, 2017
该研究通过指定参数 delta 来构建一个全新的下界,从而优化(epsilon,delta)差分隐私算法在高维数据库上精确回答统计查询的样本复杂度。除了新的下界之外,该研究还提出了纯粹和近似的差分隐私算法,用于回答任意统计查询,并通过对比标准拉普拉斯和高斯机制在最坏情况下精度保证方面的样本复杂度,改善了对该问题的解决方法。
Jan, 2015
提出了一个将差分隐私统计估计转化为无差分隐私的框架,并给出了用于学习高斯分布和鲁棒学习高斯分布的多项式时间差分隐私算法,该方法中学习高斯分布的样本复杂度和已知的信息论样本复杂度的上限相匹配,并且还证明了相似的结果,其中鲁棒学习高斯分布的样本复杂度更低。
Nov, 2021
通过采样器估计非私有机制的敏感性,可以自动实现随机差分隐私,避免了全局敏感度的计算复杂性,并在黑盒计算机程序中实现更精确的发布,采用自然放松的隐私保证。
Jun, 2017
本文提出了一种基于耦合的马尔可夫链的估计方法,用于评估渐近偏差抽样方法的质量,并在高维度下证明了该方法的有效性,将其应用于各种贝叶斯估计方法中,包括在 4500 维度下的贝叶斯逻辑回归和在 50000 维度下的贝叶斯线性回归。
Dec, 2021
基于潜在函数模型抽样的显式基于评分的 MCMC 方法,以确定性的方式演化粒子,使用核卷积逼近的方法得到评分项,表现出快速收敛性和改进的维度依赖性相对于未调整的 Langevin 算法(ULA)和 Metropolis 调整的 Langevin 算法(MALA)的混合时间界限,在二次势函数下导出了每次迭代的分布的闭式表达,表征了方差降低,实证结果表明粒子以有序的方式行动,位于潜在函数的等值线上,此外,基于提出方法的后验均值估计器相对于 ULA 和 MALA 更接近最大后验估计器,在贝叶斯逻辑回归中表现出来。
Aug, 2023
使用 Laplace 机制对数据进行隐私保护的方法效率与非私有后验推断相同,可用于敏感军事记录的时间序列分析,并具有隐私预算的有效利用优势。
Mar, 2016
该论文介绍了利用抽样来分析隐私放大的新算法 MMCC,该算法在分析相关噪声时表现出了广泛的实用性,并在标准基准测试中显示出了显著的隐私效益提高。
Oct, 2023
提出了一种新的框架,以将鲁棒性的凸松弛算法修改为满足适当参数规范的强最坏情况稳定性保证。通过这一框架,提出了一个可以在存在恶意数据干扰下实现微分隐私的高阶矩的鲁棒估计的算法,包括均值和协方差的估计。该算法成功地应用于成族分布,并在适当参数范数下提供恢复和维度参数的从容保证。