带有生成式图像 prior 的梯度反演

Oct, 2021

Gradient Inversion with Generative Image Prior

Jinwoo Jeon, Jaechang Kim, Kangwook Lee, Sewoong Oh, Jungseul Ok

TL;DR通过利用预先训练的生成模型，本文探究了在缺乏先前知识的情况下可以从 Federated Learning 训练过程中看到的一系列梯度中学习先验知识的可能性。实验证明这种先验知识可以被轻易违反隐私，从而强烈建议在 FL 中需要采用额外的机制来防止隐私泄露。

Abstract

federated learning (FL) is a distributed learning framework, in which the local data never leaves clients devices to preserve privacy, and the server trains models on the data via accessing only the gradients of

federated learning privacy generative model prior knowledge gradient

发现论文，激发创造

通过生成的渐变泄露审计联邦学习中的隐私防御

本文探讨了如何避免在联邦学习框架下，通过梯度信息泄露用户隐私的问题，并提出了一种名为生成梯度泄露的新型隐私泄露方法。作者为了解决这个问题，探讨了各种无梯度优化方法，并相对于梯度优化方法实现了更好的高质量图像重建效果。

Mar, 2022

从表示的角度可证明抵御联邦学习中的隐私泄露

本文针对联邦学习系统存在的隐私泄露问题，提出一种学习数据扰动来防止模型逆推攻击的防御策略，实验证明该方法在防御 DLG 和 GS 攻击的同时能够将数据重构误差提高 160 倍以上，有效提升联邦学习系统的隐私保护性能。

Dec, 2020

联邦学习中的梯度泄漏

该研究全面研究了联邦学习系统中梯度反演攻击的实际效用，通过对该攻击在实践中的限制进行理论和实证评估，揭示了梯度反演攻击在实际情境下的局限性，并提出了一些有效的防御措施。

Apr, 2024

个性化图形联邦学习与差分隐私

本文提出一种个性化图形联邦学习（PGFL）框架，通过分布式连接的服务器和它们的边缘设备协作学习设备或集群特定的模型，同时维护每个个体设备的隐私，通过利用不同模型之间的相似性，即使在数据分布和不成比例的数据集的情况下也提供更相关的体验。在此基础上，我们研究了一个变量 PGFL 实现，利用差分隐私，特别是零集中差分隐私，其中一个噪声序列扰乱模型的交换。我们的数学分析表明，所提出的支持隐私保护的 PGFL 算法在线性时间内收敛于每个集群的最优集群特定解。同时，我们的分析表明，利用集群之间的相似性会导致另一种输出，其与原始解的距离被限制，这个限制可以通过修改算法的超参数来调整。最后，我们还通过使用合成数据和 MNIST 数据集进行回归和分类的数值实验来检验所提出的 PGFL 算法的性能。

Jun, 2023

联邦生成模型的系统回顾

综述了 2019 年至 2024 年间的涉及联邦学习和生成模型的研究，系统比较了近 100 篇论文的方法和隐私问题，强调了最新的进展和未解决的挑战，为未来的研究提供了洞见。

May, 2024

面向联邦学习的通用深度泄露

该研究论文研究了联邦学习中的数据隐私问题，提出了一种从共享梯度或权重中恢复训练数据的方法，并使用方法在 CIFAR-10 和 ImageNet 等图像基准上进行了实验，超过了现有的 GradInversion 技术。

Oct, 2021

联邦扩散模型的梯度反演

我们研究了扩散模型在生成高分辨率图像数据方面的应用，使用基于梯度的协作训练方法，我们设计了一种融合优化模型（GIDM），以减小梯度反演攻击的风险，并进一步提出了三重优化模型（GIDM+）来解决隐私保护方面的挑战。通过广泛的评估结果，我们发现共享梯度对于扩散模型的数据保护存在漏洞，即使是高分辨率图像也可以被高质量地重建。

May, 2024

个性化生成网络的异构联邦学习

通过减少客户端之间的异质性，本研究提出了一种传递知识的方法，利用客户端专用生成器为每个客户端生成样本，以减少与其他客户端模型的冲突，从而构建出具有良好泛化能力的全局模型。

Aug, 2023

处理疑虑：揭示联邦学习下梯度反转攻击的威胁模型，调查与分类

该研究论文介绍了一种关于 Gradient Inversion Attacks 的调查和分类法，强调了联邦学习威胁模型，特别是恶意服务器和客户端情况下的攻击方法和防御策略。

May, 2024

好奇心放任时：联邦学习并不具备隐私性

在联邦学习中，通过使用陷阱权重进行数据重建攻击，甚至可以从梯度中恢复用户数据，从而破坏了其看似隐私保护的优势。

Dec, 2021