Feb, 2015

免费隐私：后验采样和随机梯度 Monte Carlo

PDF
TL;DR本文提出了一种使用差分隐私技术保证贝叶斯学习个体隐私安全的算法，采样自后验分布得出的估计符合要求，同时随机梯度下降方法也可以达到类似效果，是较好的解决贝叶斯学习隐私问题的方法。
bayesian learningdifferential privacyposterior distributionstochastic gradientprivacy constraint
发现论文，激发创造
  • 连接随机梯度 MCMC 和差分隐私

    本文介绍一种新的机器学习算法，称为随机梯度马尔科夫链蒙特卡罗（SG-MCMC），可在不牺牲隐私的情况下提高算法的准确性。该算法是在差分隐私框架下提供了一个简单和优雅的解决方案来保护训练数据的隐私，并且比现有算法具有更好的性能。

    Dec, 2017

  • 通过后验采样进行贝叶斯差分隐私

    本文提出了一种新的用于保护数据隐私的方法，即使用贝叶斯推理本身提供对数据的私密访问，并利用后验采样来实现差分隐私和数据效用的平衡。同时，我们提出一般的差分隐私度量方法，使得适用范围更广泛，能够处理非 i.i.d 数据和非表格形式的数据集，并在套用路易斯界限法时得到更好的下界。

    Jun, 2013

  • 隐私保护贝叶斯数据分析的理论与实践

    使用 Laplace 机制对数据进行隐私保护的方法效率与非私有后验推断相同，可用于敏感军事记录的时间序列分析，并具有隐私预算的有效利用优势。

    Mar, 2016

  • 基于纯差分和高斯差分隐私的可处理的 MCMC 私密学习

    提出了一种使用后验抽样和近似采样方法相结合的算法，通过引入噪声来保持隐私性，并结合局部化步骤，在 DP-ERM 问题中实现了最佳的速率。

    Oct, 2023

  • 不是所有的噪声都是相同计算的：不同隐私学习从大样本率中受益

    本文着重研究了隐私预算的问题，提出了一套训练范式，通过调整噪声比例，使更多的噪声能被纳入隐私预算，从而在保护隐私和维护计算效用之间提供一种更好的平衡方案。

    Oct, 2021

  • 贝叶斯推断的差分隐私

    该研究探讨了如何以差分隐私的方式将贝叶斯推断的结果传达给第三方，共提出了四种不同的算法，包括两种向后验参数直接添加噪声以及将噪声添加到后验参数的傅里叶变换中以保持更新一致性的机制，一种基于后验采样的机制以及一种最大后验概率机制，并在实验中涵盖了贝叶斯朴素贝叶斯和贝叶斯线性回归的应用及图结构对隐私影响的新型隐私和效用敏感性分析。

    Dec, 2015

  • 机器学习的贝叶斯差分隐私

    提出了基于贝叶斯的差分隐私方法，并实验表明基于样本数据分布的隐私保护方法比传统方法更实用有效。

    Jan, 2019

  • 通过 $β$- 分散度进行差分隐私统计推断的一般后验抽样

    本文提出了 $eta$D-Bayes，一种从广义后验分布中采样的私有估计方法，旨在最小化模型与生成数据过程之间的 $eta$- 差异，并且为同等的隐私保护提供更精确的推断估计；通过对神经网络等复杂分类器和连续回归模型进行后验采样，同时也实现了相应的差分隐私估计。

    Jul, 2023

  • 非共轭模型的差分隐私变分推断

    本文提出一种差分隐私变分推理方法，该方法基于双重随机变分推理，并通过剪辑和扰动梯度来加入差分隐私，并通过子采样来增加隐私保护的效率。该方法在强隐私保证下的准确性接近于非私密级别，是以前基于抽样方法的替代品的明显改进。

    Oct, 2016

  • 隐私保护数据的条件密度估计

    在该研究中，我们提出了基于模拟的隐私保护数据集推理方法，利用神经条件密度估计器近似后验分布，纠正隐私保护机制引入的偏差，并展示了隐私与效用之间的权衡的必要性和可行性。

    Oct, 2023