泄露与学习：利用联邦学习的泄露数据进行攻击者训练的烹饪书

CVPRMar, 2024

泄露与学习：利用联邦学习的泄露数据进行攻击者训练的烹饪书

Leak and Learn: An Attacker's Cookbook to Train Using Leaked Data from Federated Learning

Joshua C. Zhao, Ahaan Dabholkar, Atul Sharma, Saurabh Bagchi

TL;DR本文研究了分布式学习中的数据重构攻击，并探讨了利用泄露数据进行模型训练和改进的可能性。研究表明，即使重构质量有限或泄露图像数量较少，也可以通过敌意训练模型更准确地使用泄露数据，对于下游训练而言，渐变反转攻击和线性层泄漏攻击存在一定的限制。

Abstract

federated learning is a decentralized learning paradigm introduced to preserve privacy of client data. Despite this, prior work has shown that an attacker at the server can still reconstruct the private training data using only the client updates. These attacks are known as

federated learning privacy preservation data reconstruction attacks gradient inversion linear layer leakage attacks

发现论文，激发创造

面向联邦学习的通用深度泄露

该研究论文研究了联邦学习中的数据隐私问题，提出了一种从共享梯度或权重中恢复训练数据的方法，并使用方法在 CIFAR-10 和 ImageNet 等图像基准上进行了实验，超过了现有的 GradInversion 技术。

Oct, 2021

神经网络图像分类中的梯度泄露训练数据理解

本文分析了基于梯度下降的攻击如何泄露深度学习模型的训练数据，并提出了一种度量安全性的指标，同时也提出了一种用于解决重构训练数据的优化问题的方法。

Nov, 2021

联邦学习中评估渗漏攻击的框架

本文提出了一个原则性框架来评估和比较不同形式的客户隐私泄漏攻击。我们提供了正式和实验分析表明，攻击者可以通过分析本地训练的共享参数更新 (例如，本地梯度或权重更新向量) 来重构私有本地训练数据。该论文还分析了联邦学习中不同超参数配置和攻击算法设置对攻击效果和代价的影响，并且给出了在使用通信高效的 FL 协议时不同梯度压缩比下客户隐私泄漏攻击的有效性的测量、评估和分析。最后，我们提供了一些初步的缓解策略，以突出提供系统化的攻击评估框架来深入了解联邦学习中各种形式的客户隐私泄漏威胁并发展攻击缓解的理论基础。

Apr, 2020

防御竖直联邦学习中的重构攻击

本文研究了在纵向联邦学习中防御输入泄漏攻击的方法，提出了一种基于对抗训练的框架，包含敌对重建、噪声正则化和距离相关性最小化三个模块，此框架能够有效保护输入隐私同时保留了模型的效用。

Jul, 2021

从联邦学习推断用户级隐私泄露：超越类别代表的挖掘

本文第一次探索了一种恶意攻击来破坏联邦学习中的用户级别隐私泄漏，并提出一种结合了 GAN 和多任务鉴别器的框架，该框架在客户端标识上具有新颖的识别，使生成器能够恢复用户指定的私有数据。

Dec, 2018

从表示的角度可证明抵御联邦学习中的隐私泄露

本文针对联邦学习系统存在的隐私泄露问题，提出一种学习数据扰动来防止模型逆推攻击的防御策略，实验证明该方法在防御 DLG 和 GS 攻击的同时能够将数据重构误差提高 160 倍以上，有效提升联邦学习系统的隐私保护性能。

Dec, 2020

联邦学习中的梯度泄漏

该研究全面研究了联邦学习系统中梯度反演攻击的实际效用，通过对该攻击在实践中的限制进行理论和实证评估，揭示了梯度反演攻击在实际情境下的局限性，并提出了一些有效的防御措施。

Apr, 2024

好奇心放任时：联邦学习并不具备隐私性

在联邦学习中，通过使用陷阱权重进行数据重建攻击，甚至可以从梯度中恢复用户数据，从而破坏了其看似隐私保护的优势。

Dec, 2021

通过修改模型直接获得联邦学习中的私人数据

这项研究介绍了一种基于最小但恶意修改的共享模型架构的新威胁模型，使服务器能够直接从梯度更新中获取用户数据的逐字副本，即使是在大批量情况下的用户数据也能被这些略有修改的模型重构。

Oct, 2021

联邦学习中模型的深度泄漏

本文提出了两个新的框架，证明在联合学习的情况下传输模型权重也可能会泄露客户端的本地数据，同时介绍了两种对抗措施和评估其保护效果。

Jun, 2022