一个简单实用的方法来减少差异隐私的不均衡影响
本文提出一种算法来解决在不同隐私偏好的用户条件下的均值估计问题,并发现在两组用户具有不同隐私级别的情况下,该算法是最优的。当一个群体的隐私要求得到放宽时,会出现一个饱和现象,即进一步放宽该群体的隐私要求并不能改善估计器的性能。因此,中央服务器可以在不影响性能的情况下提供一定程度的隐私保护。
Apr, 2023
本文研究的 DP-SGD 算法在训练神经网络时,由于梯度裁剪和噪声加法等机制对复杂和少数类样本的影响更大,造成训练模型的准确率不公平,使 DP-SGD 算法不适用于存在不平衡类别数据的训练任务。
May, 2019
基于随机实验估计因果效应只有在参与者同意透露潜在敏感回应的情况下才可行。我们提出了一种新的差分隐私机制 “Cluster-DP”,通过利用数据的任何给定的聚类结构来实现更强的隐私保证和更低的方差损失,同时仍然允许因果效应的估计。
Aug, 2023
通过定量研究隐私保护机制差分隐私对机器学习模型公平性的影响,本研究提供了在不同的隐私级别和数据分布下,差分隐私能对模型公平性产生影响的界限,并确定了隐私减少歧视和增加歧视的情况,验证了理论发现在合成和现实世界数据集上的有效性。
May, 2024
该论文研究差分隐私中个体隐私偏好对均值估计的影响,并提出了一种接近线性运行时间且极小化的算法,结果表明最严格隐私要求的用户决定了整体误差率,其他隐私偏好较低但不同的用户将获得超过需求的相等隐私保护,而估计器性能不受影响。
Oct, 2023
本文研究了数据隐私保护和公平决策之间的权衡,提出了随机差分隐私机制以及基于随机差分隐私算法的公平度量,并通过对美国人口普查数据在联邦资金分配、选举权利福利分配和代表分配三个实例中的应用,揭示了局部隐私保护构成的一系列利益分配不公的情况。
May, 2019
本文探讨差分隐私对公平性的影响,并评估隐私保护机制对公平性的影响。结果发现,差分隐私在基线设置下会增加组间性能差异,但在鲁棒设置下会减少组间性能差异,解释了这是由于差分隐私被重新解释为规范化的结果。
Mar, 2022
该研究提出了一种基于计数查询的线性组合方法,通过最优策略支持一组相关查询的答案,并对该策略的误差进行几何特征化并提出了优化方法,以应用于不同数据分析任务中的隐私保护。
Dec, 2009
本文研究了衡量数据集上 DP 机制对模型隐私保护的能力的新指标 - 隐私覆盖度,并提出了使用该指标排名训练集中样本隐私的方法,进而使用观察到的邻域分布的不可区分性转换来选择 epsilon 值。
Jun, 2023
本文概述了隐私保护的形式定义 Differential Privacy 在数据处理中提供严格保证的重要思想、概念和应用,特别关注它在机器学习和联邦学习领域的交叉应用。
May, 2022