Oct, 2016

在时间相关性下量化差分隐私

PDF
TL;DR本文探讨在连续数据发布背景下 DP 机制在时间相关性下的潜在隐私泄漏。通过使用 Markov 模型对时间相关性进行建模，并分析了 DP 机制在对手知道时间相关性情况下的隐私泄漏。文章提出了一种有效算法来计算该隐私泄露，并提出了一种机制来将现有的 DP 机制转化为针对时间隐私泄漏的机制，实验结果表明该方法既有效又高效。
differential privacytemporal correlationsprivacy leakagemarkov modeldp mechanism
发现论文，激发创造
  • 差分隐私的极限（及其在数据发布和机器学习中的误用）

    文章介绍了差分隐私的优点及其在交互式查询的数据使用中的应用，同时指出了其局限性，强调需要注意其在个人数据采集、发布以及机器学习等领域中的滥用。

    Nov, 2020

  • 使用输出特定和数据解析隐私配置文件探究 ML 模型的数据集级隐私转变

    本文研究了衡量数据集上 DP 机制对模型隐私保护的能力的新指标 - 隐私覆盖度，并提出了使用该指标排名训练集中样本隐私的方法，进而使用观察到的邻域分布的不可区分性转换来选择 epsilon 值。

    Jun, 2023

  • 差分隐私：什么是所有的噪音？

    本文概述了隐私保护的形式定义 Differential Privacy 在数据处理中提供严格保证的重要思想、概念和应用，特别关注它在机器学习和联邦学习领域的交叉应用。

    May, 2022

  • 集中和本地差分隐私条件下的数据流连续发布

    本文研究了差分隐私下发布实数数据流的问题，并提出了一种基于指数机制和质量函数的私有阈值计算方法、在线分层方法和后处理技术。这个框架由三个组件组成：一个能私下计算阈 值的阈值优化器，一个在数据流中添加标定噪声的扰动器以及一个通过后处理来改善结果的远光镜。我们的算法考虑了更严格的本地差分隐私限制并超越了现有技术。使用四个真实数据集，展示了本方法比现有技术提高了 6 到 10 个数量级的实用性。

    May, 2020

  • 在时间相关性下利用差分隐私保护位置信息

    该论文提出了一种系统性解决方案以保护位置隐私，通过引入 “delta-location set” 基于差分隐私的定义来考虑位置数据中的时间相关性，提出了一个新的敏感度计算概念 —— 精度壳，为位置扰动提出了一个平面各向同性机制， 经实验验证，在数据的效用方面优于基线方法。

    Oct, 2014

  • 演化数据的本地差分隐私

    本文介绍了一种新的本地差分隐私技术，可以在时间上保持最新的统计数据，隐私保证仅随基础分布变化次数而衰减，而不是收集周期次数，其中提供了使用频率和重量估计的应用程序。

    Feb, 2018

  • 机器学习的贝叶斯差分隐私

    提出了基于贝叶斯的差分隐私方法，并实验表明基于样本数据分布的隐私保护方法比传统方法更实用有效。

    Jan, 2019

  • 差分隐私的分布式均值估计的相关隐私机制

    基于相关高斯噪音的 CorDP-DME 机制在平均估计任务中显著提高了效用，即使在对抗性环境中，保持了比分布式差分隐私更好的抗干扰性和攻击抵御能力。

    Jul, 2024

  • 具有相关噪声的差分隐私在线联邦学习

    我们提出了一种新颖的差分隐私算法，用于在线联合学习，通过使用时间相关的噪声来提高效用并确保连续发布的模型的隐私性。

    Mar, 2024

  • 终身 DP：在终身机器学习中保持一致的有界差分隐私

    本文介绍了一种被称为 Lifelong DP 的连续隐私定义，提出了一种可扩展和异构的算法，称为 L2DP-ML，用于保护在一个不断增长的任务流中任何数据元组的参与，以保护训练集的隐私，并且无论任务数量如何，DP 隐私预算都有一个固定的值。实现表明，我们的机制显着优于基线方法，能更好地保护 Lifelong DP。

    Jul, 2022