元素级差分隐私:隐私的正确粒度
本文概述了隐私保护的形式定义 Differential Privacy 在数据处理中提供严格保证的重要思想、概念和应用,特别关注它在机器学习和联邦学习领域的交叉应用。
May, 2022
本文研究了衡量数据集上 DP 机制对模型隐私保护的能力的新指标 - 隐私覆盖度,并提出了使用该指标排名训练集中样本隐私的方法,进而使用观察到的邻域分布的不可区分性转换来选择 epsilon 值。
Jun, 2023
文章介绍了差分隐私的优点及其在交互式查询的数据使用中的应用,同时指出了其局限性,强调需要注意其在个人数据采集、发布以及机器学习等领域中的滥用。
Nov, 2020
本文提出一种算法来解决在不同隐私偏好的用户条件下的均值估计问题,并发现在两组用户具有不同隐私级别的情况下,该算法是最优的。当一个群体的隐私要求得到放宽时,会出现一个饱和现象,即进一步放宽该群体的隐私要求并不能改善估计器的性能。因此,中央服务器可以在不影响性能的情况下提供一定程度的隐私保护。
Apr, 2023
该论文研究差分隐私中个体隐私偏好对均值估计的影响,并提出了一种接近线性运行时间且极小化的算法,结果表明最严格隐私要求的用户决定了整体误差率,其他隐私偏好较低但不同的用户将获得超过需求的相等隐私保护,而估计器性能不受影响。
Oct, 2023
对自然语言生成任务中使用大型语言模型进行用户级差分隐私保护的设计选择进行系统评估,重点研究两种实现用户级差分隐私保证的机制,即群体隐私和用户级 DP-SGD,包括数据选择策略和参数调优,以实现最佳的隐私 - 效用平衡。
Jun, 2024
本论文利用差分隐私算法对分布式和流数据进行分析,通过学习全局数据模型并保障差分隐私,提出了三种分布式学习贝叶斯网络模型的新方法,并针对流数据中的用户密度估计问题,提供了用户级别的隐私保护算法和改进策略。
Jul, 2023
本文研究了基于用户级差分隐私的离散分布学习问题,提出了一种新的实现方法,使隐私惩罚的数量级小于标准机制在某些感兴趣的设置下,并进一步展示了该建议机制在某些范围内是几乎最优的。同时,本文还提出了一些获取受限差分隐私的估计量下限的通用技术以及二项分布之间总变化量的下限,两者可能具有独立的研究意义。
Jul, 2020
本文介绍了一种新的本地差分隐私技术,可以在时间上保持最新的统计数据,隐私保证仅随基础分布变化次数而衰减,而不是收集周期次数,其中提供了使用频率和重量估计的应用程序。
Feb, 2018