具有遗忘分布式差分隐私的抗串谋联邦学习

Feb, 2022

具有遗忘分布式差分隐私的抗串谋联邦学习

Collusion Resistant Federated Learning with Oblivious Distributed Differential Privacy

David Byrd, Vaikkunth Mugunthan, Antigoni Polychroniadou, Tucker Hybinette Balch

TL;DR本研究提出了一种新的基于分布式差分隐私的隐私保护联合学习方法，其可以有效避免联合攻击，以及 “Sybil” 攻击，并给出了相应的安全性证明。在模拟的 5000 个分布式网络客户端上的实验结果表明，该协议执行速度快，学习准确率高，且具有良好的隐私保护性能。

Abstract

privacy-preserving federated learning enables a population of distributed clients to jointly learn a shared model while keeping client training data private, even from an untrusted server. Prior works do not provide efficient solutions that protect against →

privacy-preserving federated learning distributed differential privacy collusion attacks secure federated learning protocol sybil attack

发现论文，激发创造

差分隐私联邦学习：客户端视角

提出了一种新的算法，通过差分隐私保护的联邦优化算法来处理联邦学习中的差分攻击问题，能够在只牺牲模型性能的小量代价下保持客户端差分隐私。

Dec, 2017

隐私保护联邦学习的混合方法

本文提出了一种结合差分隐私和安全多方计算的联邦学习方法，在保证训练和最终模型的隐私性的同时，也能够保持较高的预测准确率，这个系统不仅能应用于多种机器学习模型的训练，而且在实验上验证了它的优越性。

Dec, 2018

面向因果联邦学习的增强鲁棒性和隐私保护

本文提出了一种在联邦学习中学习所有参与客户机中共同不变（因果）特征的方法，并经验性地分析了它如何增强模型的精度和隐私性。

Apr, 2021

具备差分隐私的联邦学习用于敏感健康数据

本文介绍了一种联邦学习框架，可以从不同站点本地持有的分布式健康数据中学习全局模型，提供了两个级别的隐私保护，第一级别的隐私保护不在模型训练过程中移动或共享原始数据，第二级别的隐私保护使用差分隐私机制防止对模型的潜在隐私攻击，并在两个医疗应用程序上对我们的方法进行了全面评估，使用 100 万患者的真实世界电子健康数据，证明了联邦学习框架在提供更高级别的隐私保护和维护全局模型效用方面的可行性和有效性。

Oct, 2019

具差分隐私的联邦学习

我们展示了在不同类型的数据上，客户端数量和差分隐私机制的增加对模型性能的影响的实证基准，结果显示在分布式和差分隐私设置中，非独立同分布和小数据集的性能降低最为显著。

Feb, 2024

透过面纱看世界：联邦学习中的差分隐私在医学影像分类中的应用

本研究将差分隐私技术引入联邦学习框架以实现隐私保护的医学图像分类，证实了隐私保护与模型准确性之间的权衡存在，但我们证明了差分隐私的隐私预算的战略校准可以保持健壮的图像分类性能同时提供实质性的隐私保护。

Jun, 2023

客户协作：具有保证效用 - 隐私权衡改进的灵活差分隐私联邦学习

我们介绍一种新颖的联邦学习框架 FedCEO，通过让客户端相互合作，在模型效用和用户隐私之间取得平衡，实现了严格的隐私保障。我们在服务器上对堆叠的本地模型参数进行高效的张量低秩近似优化，并使用光谱空间灵活截断高频分量，从而有效地恢复被破坏的语义信息并对不同隐私设置和持续训练过程平滑全局语义空间，同时改进了最先进的效用 - 隐私折衷边界。我们通过对典型图像数据集进行实验证实了我们的理论结果，在不同隐私设置下观察到显著的性能提升和严格的隐私保证。

Feb, 2024

一个带隐私保护学习的图联邦架构

此论文介绍了图联邦学习，这是一种多服务器联邦学习方案，使用密码学和差分隐私概念来保护隐私数据，并证明在特定条件下可以匹配非私有算法的性能。

Apr, 2021

局部差分隐私下联邦学习中的实用聚合

本文研究基于联邦学习的隐私保护问题，提出了一种局部差分隐私机制，以解决当前机制存在的噪声数据接近原始值、估计平均数的方差过大和深度学习模型权重维数高导致隐私预算过大的问题。实验结果表明，该机制不仅具有优异的深度学习性能，而且能够提供强大的隐私保证。

Jul, 2020

无破坏：隐私保护和拜占庭强健的联邦学习

本文旨在构建一个隐私保护、拜占庭强健的联邦学习方案，提供一个无破坏者环境，以保护数据隐私并排除恶意攻击者。我们通过构建模型过滤器、采用零知识证明提供进一步的隐私保护、采用秘密共享提供可验证的安全聚合，证明了 NoV 能有效应对包括 PGD 在内的数据和模型污染攻击，并超越其他相关方案。

Jun, 2024