我们展示了在不同类型的数据上,客户端数量和差分隐私机制的增加对模型性能的影响的实证基准,结果显示在分布式和差分隐私设置中,非独立同分布和小数据集的性能降低最为显著。
Feb, 2024
该研究论文探讨了在联邦学习中使用 $d$-privacy 的方法,以保护客户的敏感信息并允许个性化模型训练以提高系统的公平性和效用。同时,使用度量基础的混淆技术来保持原始数据的拓扑分布特征,并在真实数据集上进行了证明和实验验证。
Jun, 2022
本研究提出了一种新的基于分布式差分隐私的隐私保护联合学习方法,其可以有效避免联合攻击,以及 “Sybil” 攻击,并给出了相应的安全性证明。在模拟的 5000 个分布式网络客户端上的实验结果表明,该协议执行速度快,学习准确率高,且具有良好的隐私保护性能。
Feb, 2022
我们的研究针对差分隐私的联邦学习进行了系统的概述和分类,提出了一种新的基于差分隐私和联邦场景定义和保证的分类方法,并探讨了差分隐私在联邦学习场景中的应用,为隐私保护的联邦学习提供了有价值的洞见和未来研究方向。
May, 2024
在这篇论文中,我们以一个联邦迁移学习框架解决了数据异构性和隐私保护这两个突出的挑战,旨在在遵守隐私约束的同时通过利用来自多个异构源数据集的信息来增强目标数据集上的学习能力。我们严格地提出了 “联邦差分隐私” 的概念,为每个数据集提供隐私保证而不依赖于可信任的中央服务器。在此隐私约束下,我们研究了三个经典的统计问题,即一维均值估计、低维线性回归和高维线性回归。通过研究极小化速率和确定这些问题的隐私成本,我们展示了联邦差分隐私是介于已确立的本地和中央模型差分隐私之间的一个中间隐私模型。我们的分析涵盖了数据异构性和隐私,突出了在联邦学习中二者的基本成本,并强调了跨数据集的知识迁移的好处。
Mar, 2024
本研究将差分隐私技术引入联邦学习框架以实现隐私保护的医学图像分类,证实了隐私保护与模型准确性之间的权衡存在,但我们证明了差分隐私的隐私预算的战略校准可以保持健壮的图像分类性能同时提供实质性的隐私保护。
Jun, 2023
本文研究基于联邦学习的隐私保护问题,提出了一种局部差分隐私机制,以解决当前机制存在的噪声数据接近原始值、估计平均数的方差过大和深度学习模型权重维数高导致隐私预算过大的问题。实验结果表明,该机制不仅具有优异的深度学习性能,而且能够提供强大的隐私保证。
Jul, 2020
本文介绍了一种联邦学习框架,可以从不同站点本地持有的分布式健康数据中学习全局模型,提供了两个级别的隐私保护,第一级别的隐私保护不在模型训练过程中移动或共享原始数据,第二级别的隐私保护使用差分隐私机制防止对模型的潜在隐私攻击,并在两个医疗应用程序上对我们的方法进行了全面评估,使用 100 万患者的真实世界电子健康数据,证明了联邦学习框架在提供更高级别的隐私保护和维护全局模型效用方面的可行性和有效性。
Oct, 2019
此论文介绍了图联邦学习,这是一种多服务器联邦学习方案,使用密码学和差分隐私概念来保护隐私数据,并证明在特定条件下可以匹配非私有算法的性能。
Apr, 2021
本文提出了一种在联邦学习中学习所有参与客户机中共同不变(因果)特征的方法,并经验性地分析了它如何增强模型的精度和隐私性。