May, 2023

在审计差分隐私机器学习中释放随机化的力量

PDF
TL;DR提出了一种基于 Canaries 的方法，通过扩展差分隐私定义来处理随机数据集，设计随机 Canaries，然后采用 Lifted Differential Privacy 来审计，引入新的置信区间，能够显著提高样本复杂性，这一新方案在合成和实际数据上得到了验证。
发现论文，激发创造
  • 仅需一次训练即可进行隐私审计

    本研究提出了一种方案，用于单次训练运行的差分隐私机器学习系统的审计，利用了可以独立添加或删除多个训练样例的并行性，该审计方案利用差分隐私和统计泛化之间的联系进行分析，避免了群体隐私成本，而且对算法需求的假设极少，可在黑盒或白盒设置中应用。

    May, 2023

  • 实用差分隐私的三种工具

    在实际数据中进行差分隐私学习存在挑战：隐私保证难以解释，对私有数据进行的超参数调整会降低隐私预算，通常需要进行特殊的隐私攻击来测试模型的隐私性。本文提出了三种工具来使差分隐私机器学习更加实用：（1）可在训练前以集中方式进行的简单的健全性检查，（2）自适应裁剪边界来减少可调隐私参数的有效数量，（3）大批量训练可以提高模型性能。

    Dec, 2018

  • 审计差分隐私机器学习：隐私难道不够隐私？(Auditing Differentially Private Machine Learning: How Private is Private SGD?)

    我们使用新的数据污染攻击研究不同 ially Private SGD 的隐私保护是否比其最先进的分析保证更好，并量化实现差异隐私算法提供的隐私保护，以便在分析隐私的工作上实现补充和影响。

    Jun, 2020

  • 训练知道自己不知道什么的私有模型

    通过研究选择性分类器在差分隐私约束下的效果，探讨深度学习模型的可靠性及隐私泄漏问题，发现最近的一种基于现成的深度学习模型生成检查点的方法在差分隐私下更为合适，使用差分隐私不仅会降低模型的效能，而且在隐私预算降低时需要付出相当大的覆盖成本。

    May, 2023

  • DPMLBench：差分隐私机器学习的整体评估

    我们通过对改进的 DPML 算法的效用和防御能力对成员推断攻击进行了整体度量，在图像分类任务中我们首次提出了具有机器学习生命周期其中改进的分类法的分类体系。我们通过使用实验来表明了 DP 能够有效地抵御成员推断攻击，并且敏感性绑定技术，如每个样本梯度剪辑，在防御中起着重要作用。 标签 DP 算法可以实现较小的效用损失，但对攻击十分脆弱。我们的研究结果可以支持数据拥有者使用 DPMLBench 部署 DPML 算法，并作为研究人员和实践者的基准工具。

    May, 2023

  • 迭代训练程序添加差分隐私的一般方法

    本文介绍了一种模块化方法，可以最小化对训练算法的更改，提供各种隐私机制的配置策略，并隔离和简化计算最终隐私保证的关键逻辑，以解决在隐私敏感数据集上训练机器学习模型所面临的实际挑战。

    Dec, 2018

  • 经验机器学习的差分隐私算法

    本文提出了一种基于差分隐私的算法，用于处理实际应用中的分类问题及测试过程中的评估，包括特征选择和 ROC 曲线。

    Nov, 2014

  • 机器学习的贝叶斯差分隐私

    提出了基于贝叶斯的差分隐私方法，并实验表明基于样本数据分布的隐私保护方法比传统方法更实用有效。

    Jan, 2019

  • 深度学习差分隐私模型发布

    提出了一种基于集中差分隐私的神经网络训练方法，通过动态隐私预算分配和新的优化技术来提高模型准确性、训练效率和隐私保护能力。

    Apr, 2019

  • 集中式深度学习中的差分隐私最新进展：系统性概述

    差分隐私已成为机器学习中广受欢迎的数据保护方法，尤其是因为它允许提供严格的数学隐私保证。本文综述了差分隐私集中深度学习的现状，对最近的进展和开放问题进行了深入分析，并讨论了该领域未来的可能发展。通过系统的文献综述，涵盖了以下主题：针对隐私模型的审计和评估方法，提高隐私与效用之间的权衡，防范各种威胁和攻击，差分隐私生成模型以及新兴应用领域。

    Sep, 2023