文章介绍了差分隐私的优点及其在交互式查询的数据使用中的应用,同时指出了其局限性,强调需要注意其在个人数据采集、发布以及机器学习等领域中的滥用。
Nov, 2020
提出了基于贝叶斯的差分隐私方法,并实验表明基于样本数据分布的隐私保护方法比传统方法更实用有效。
Jan, 2019
通过定量研究隐私保护机制差分隐私对机器学习模型公平性的影响,本研究提供了在不同的隐私级别和数据分布下,差分隐私能对模型公平性产生影响的界限,并确定了隐私减少歧视和增加歧视的情况,验证了理论发现在合成和现实世界数据集上的有效性。
May, 2024
本文研究了衡量数据集上 DP 机制对模型隐私保护的能力的新指标 - 隐私覆盖度,并提出了使用该指标排名训练集中样本隐私的方法,进而使用观察到的邻域分布的不可区分性转换来选择 epsilon 值。
Jun, 2023
本文介绍了 FairDP 机制,它是一种同时确保差分隐私和公平性的新型机制。 FairDP 通过为不同的个体群体独立训练模型,并使用群体特定的剪辑术语来评估和限制 DP 的差异影响来运行。 在整个训练过程中,该机制逐步集成来自群体模型的知识,从而制定在下游任务中平衡隐私,实用性和公平性的综合模型。 广泛的理论和实证分析验证了 FairDP 的功效,展示了与现有方法相比,模型实用性,隐私和公平性之间的权衡得到了改善。
May, 2023
本文研究的 DP-SGD 算法在训练神经网络时,由于梯度裁剪和噪声加法等机制对复杂和少数类样本的影响更大,造成训练模型的准确率不公平,使 DP-SGD 算法不适用于存在不平衡类别数据的训练任务。
May, 2019
本论文利用差分隐私算法对分布式和流数据进行分析,通过学习全局数据模型并保障差分隐私,提出了三种分布式学习贝叶斯网络模型的新方法,并针对流数据中的用户密度估计问题,提供了用户级别的隐私保护算法和改进策略。
Jul, 2023
本文提出 $f$- 差分隐私,一种新的隐私松弛定义,避免了使用发散松弛的一些困难,并支持隐私定义的组合和代数推理。同时,作者通过介绍高斯差分隐私,一个基于测试两个移动高斯函数的 $f$- 差分隐私的单参数家族,并通过数学证明和计算机实验了演示工具,进一步完善并解决了隐私数据分析的问题。
本文讨论了机器学习和差分隐私之间的相互作用,即隐私保护机器学习算法和基于学习的数据发布机制,探讨了可以通过差分隐私进行学习的内容以及差分隐私算法的损失函数上限。同时提出了一些开放性问题,包括如何整合公共数据,如何处理私人数据集中的缺失数据,以及当观察样本数量任意增大时,是否可以实现差分隐私机器学习算法而无需牺牲相关算法的效用成本。
Dec, 2014
本文针对 LDP 算法在隐私、统计计算和大数据等领域的应用,介绍了不同 LDP 算法在本地程序用户隐私保护、重要数据识别和空间数据收集等问题上的实现并探讨了其未来发展方向。
Jul, 2019