- CRS-FL: 条件随机抽样用于高效通信和隐私保护的联邦学习
本文提出一种基于 CRS(Conditional Random Sampling)的方法,用于提高联合学习(FL)的沟通效率和模型准确性,同时保证数据隐私。实验结果表明,CRS-FL 在沟通效率和隐私保护方面表现出色,并且在更高的抽样率条件 - 私人和通信高效的熵估计算法
本文提供了针对现代统计估计的改进的隐私保护算法和通信效率算法,包括用于估计分布熵的算法和用于通信效率估计基尼熵的算法,并基于现有最佳算法推广了一种用于碰撞熵估计的算法,满足局部差分隐私。
- 大型语言模型服务的隐私保护提示调整
本文提出了基于响应式调整的隐私保护响应式调整(RAPT)框架,结合本地差分隐私的局部隐私设置,通过 token 重建任务与下游任务一起进行训练,旨在提供针对大型语言模型的隐私保障。实验表明,RAPT 在各种任务上均表现出优秀的性能并针对窃密 - (本地) 差分隐私对公平性无不同影响
本文研究了使用 LDP 在学习问题中收集多个敏感属性对公平性的影响。作者提出了一种新的隐私预算分配方案,考虑了敏感属性的不同域大小,实验结果表明该方案在隐私 - 效用 - 公平性权衡方面优于现有解决方案。作者使用多个公平度量和七个最先进的 - 局部差分隐私下的文本重写 DP-BART
本研究提出了一种名为 'DP-BART' 的新系统,可以通过新的剪裁方法,迭代修剪和对内部表示的进一步训练,大幅减少 DP 维度中噪声的数量,实现了较好的效果,并在五个不同规模的文本数据集上进行了实验以及评估重写文本的下游文本分类任务,同时 - AAAI在动态环境下的序列决策中使用本地差分隐私
研究了在序列决策场景中如何在保持隐私的同时提供高效用性的问题。我们提出了一种非平稳随机腐败老虎机并构建了一个叫做 SW-KLUCB-CF 的算法,并证明了它的效用的上界。我们提供了一种可证明最优的机制,可以在提供高效用性的同时保证期望的本地 - AAAIXRand:差分隐私防御解释引导攻击
该研究介绍了一个叫做 XRand 的新的机制来保护基于特征的解释不被恶意利用,该机制使用局部差分隐私来限制攻击者对重要特征的了解。
- 基于知识蒸馏的本地差分隐私分布式深度学习
本文提出了一种隐私保护的分布式深度学习框架 LDP-DL, 通过使用本地差分隐私和知识蒸馏进行模型训练。实验结果表明,在三个常用深度学习数据集 (CIFAR10, MNIST, FashionMNIST) 上的实验中,LDP-DL 在隐私预 - MM一个可扩展的基于区块链的联邦学习系统中的公正性、完整性和隐私保护
本论文旨在探究如何采用区块链技术,本地差分隐私和零知识证明等前沿技术,构建一个公平、透明、保护隐私的分散式机器学习系统,以有效解决实践中的公正、完整性和隐私问题。
- MMAHEAD: 局部差分隐私下范围查询的自适应分层分解
研究了一种自适应建树方法(AHEAD),以实现在保持高效用的同时,通过控制注入的噪声来同时保障 LDP。通过在实际应用中使用多个真实和合成数据集进行测试,证明了 AHEAD 在低维度和高维度范围查询场景中的有效性,以及其优于现有的最先进方法 - ICML多维数据的任务感知隐私保护
本文提出一种基于编码器 - 解码器框架的任务感知隐私保护方法,旨在使用任务相关的潜在用户数据表示来匿名化丰富的用户数据,实现最优解,较传统的隐私预算下注入噪声的方法显著提高任务准确性。
- 具有本地差分隐私的广义线性赌博机
本文介绍了使用本地差分隐私的情境赌博算法,为了在保持用户数据隐私不受侵犯的情况下个性化学习,利用了一种基于随机梯度下降法的估计器和更新机制来确保使用 LDP,并且在广义线性情境中利用了该方法。我们还开发了一个基于最小二乘法的评估器和更新机制 - 基于隐式反馈的联邦协同过滤更强隐私保护
我们提出了一个实用的联邦推荐系统,用于隐式数据下的用户级本地差分隐私,包括代理网络来减少用户跟踪表面。我们在 Movielens 数据集上进行实证研究,并在保护用户隐私的同时,实现了高命中率。
- 差分隐私的非交互式局部模型中的经验风险最小化
本文研究了在非交互式局部差分隐私(LDP)模型下经验风险最小化(ERM)问题,利用 Bernstein 多项式逼近方法和内积多项式逼近技术提出了两种解决高维数据下样本复杂度指数级上升的方法,最终提出了用于学习 k 维边际查询和平滑查询的(高 - 关于本地差分隐私在数据统计和分析中的综合调研
本文论述了 LDP(Local Differential Privacy)模型的隐私保护架构,包括模型、机理、应用场景以及未来研究方向,并比较了在不同数据分析任务中的应用,以达到保护数据隐私的目的。
- IJCAI局部差分隐私下联邦学习中的实用聚合
本文研究基于联邦学习的隐私保护问题,提出了一种局部差分隐私机制,以解决当前机制存在的噪声数据接近原始值、估计平均数的方差过大和深度学习模型权重维数高导致隐私预算过大的问题。实验结果表明,该机制不仅具有优异的深度学习性能,而且能够提供强大的隐 - 具有本地差分隐私的多臂赌博机
本文探讨了多臂赌博问题在本地差分隐私保证下的遗憾最小化问题,采用差分隐私技术处理用户敏感信息,证明了一种下限并提出算法,数值实验验证了结论。
- 局部隐私图神经网络
本文研究了节点数据隐私的问题,并提出了一种基于局部差分隐私的 GNN 学习算法和一个名为 KProp 的简单图卷积层作为降噪机制,实验表明该方法在低隐私损失的同时可以保持令人满意的准确性。
- MM联邦学习攻击:响应式 Web 用户界面从用户梯度中恢复训练数据
本研究展示了一种基于局部差分隐私的交互式网络演示,展现了联合学习在局部差分隐私下的力量,并且演示了局部差分隐私如何防止不受信任的聚合器从联邦学习中恢复用户的敏感训练数据,同时提出了衡量聚合器还原数据程度的指标 exp-hamming rec - LDP-Fed: 本地差分隐私联邦学习
LDP-Fed 是一个具有正式隐私保证的新型联邦学习系统,使用本地差分隐私(LDP),有别于现有的 LDP 协议,其可以处理来自参与者的高维连续值参数。