分布式联邦图匹配的差分隐私预训练模型融合

Nov, 2023

分布式联邦图匹配的差分隐私预训练模型融合

Differentially Private Pre-Trained Model Fusion using Decentralized Federated Graph Matching

Qian Chen, Yiqiang Chen, Xinlong Jiang, Teng Zhang, Weiwei Dai...

TL;DR通过介绍 PrivFusion，一种基于图结构的隐私保护模型融合架构，本文在维护模型性能的同时确保模型隐私，解决了模型融合中的隐私保护问题，并采用混合本地差分隐私机制和分散式联合图匹配来提高模型隐私性，在随机化噪声的影响下保留融合模型的实用性。通过在各种图像数据集和实际医疗应用上进行广泛实验，本文提供了 PrivFusion 的有效性证明，为隐私保护模型融合领域的安全且协同数据分析提供了有价值的洞见和实际解决方案。

Abstract

model fusion is becoming a crucial component in the context of model-as-a-service scenarios, enabling the delivery of high-quality model services to local users. However, this approach introduces privacy risks and imposes certain limitations on its applications. Ensuring secure model e

model fusion privacy preservation local differential privacy graph-based structure data analysis

发现论文，激发创造

透过面纱看世界：联邦学习中的差分隐私在医学影像分类中的应用

本研究将差分隐私技术引入联邦学习框架以实现隐私保护的医学图像分类，证实了隐私保护与模型准确性之间的权衡存在，但我们证明了差分隐私的隐私预算的战略校准可以保持健壮的图像分类性能同时提供实质性的隐私保护。

Jun, 2023

具备差分隐私的联邦学习用于敏感健康数据

本文介绍了一种联邦学习框架，可以从不同站点本地持有的分布式健康数据中学习全局模型，提供了两个级别的隐私保护，第一级别的隐私保护不在模型训练过程中移动或共享原始数据，第二级别的隐私保护使用差分隐私机制防止对模型的潜在隐私攻击，并在两个医疗应用程序上对我们的方法进行了全面评估，使用 100 万患者的真实世界电子健康数据，证明了联邦学习框架在提供更高级别的隐私保护和维护全局模型效用方面的可行性和有效性。

Oct, 2019

隐私保护联邦学习的混合方法

本文提出了一种结合差分隐私和安全多方计算的联邦学习方法，在保证训练和最终模型的隐私性的同时，也能够保持较高的预测准确率，这个系统不仅能应用于多种机器学习模型的训练，而且在实验上验证了它的优越性。

Dec, 2018

一个带隐私保护学习的图联邦架构

此论文介绍了图联邦学习，这是一种多服务器联邦学习方案，使用密码学和差分隐私概念来保护隐私数据，并证明在特定条件下可以匹配非私有算法的性能。

Apr, 2021

具有个性化和共享组件混合的医疗联合模型

本文提出了一种新的个性化联邦学习框架来解决异构医疗数据在多个医院之间协作训练神经网络时的降级问题，并设计了差异性稀疏正则化器和降低计算成本的方法来提高计算效率，最后通过实验证明该方法可以获取最佳模型性能和高达 60％的通信效率改进。

Jun, 2023

使用共识图预训练不同特征的模型联邦学习

本文提出了一种通过特征融合方法来提高预测性能，解决了在分布式物联网中利用不同模型进行本地学习而合并本地模型以实现一致性的问题。通过在现实场景中的应用，如电力网和交通网络，证明了此方法的有效性。

Jun, 2023

使用差分隐私原型联邦推荐

我们提出了一种新的联邦学习方法，以保护敏感数据领域（如医学或银行业）中的用户隐私，同时用于推荐系统，不提取原始数据、用户统计数据或个人偏好信息，通过构建一组原型，推断全局行为模式，提供差分隐私保证，并实现局部模型的本地适应，取得了远优于传统中心计算模型、准确度高且具备可证明隐私保障的推荐效果。

Mar, 2020

隐私敏感视觉任务的扩散模型联邦学习

通过实验和研究，我们发现联邦扩散模型在隐私敏感领域提供视觉服务方面具有巨大潜力。

Nov, 2023

隐私保护机制在联邦学习中的应用

本文研究在联邦学习中，使用差分隐私和社区驱动方法来保障本地数据隐私，识别了一个安全漏洞并设计了两种攻击模式，Adversarial Mode 和 Backdoor Mode，实验结果表明这些攻击是有效的。

May, 2023

差分隐私下的联邦迁移学习

在这篇论文中，我们以一个联邦迁移学习框架解决了数据异构性和隐私保护这两个突出的挑战，旨在在遵守隐私约束的同时通过利用来自多个异构源数据集的信息来增强目标数据集上的学习能力。我们严格地提出了 “联邦差分隐私” 的概念，为每个数据集提供隐私保证而不依赖于可信任的中央服务器。在此隐私约束下，我们研究了三个经典的统计问题，即一维均值估计、低维线性回归和高维线性回归。通过研究极小化速率和确定这些问题的隐私成本，我们展示了联邦差分隐私是介于已确立的本地和中央模型差分隐私之间的一个中间隐私模型。我们的分析涵盖了数据异构性和隐私，突出了在联邦学习中二者的基本成本，并强调了跨数据集的知识迁移的好处。

Mar, 2024