本文提出了一个原则性框架来评估和比较不同形式的客户隐私泄漏攻击。我们提供了正式和实验分析表明，攻击者可以通过分析本地训练的共享参数更新(例如，本地梯度或权重更新向量)来重构私有本地训练数据。该论文还分析了联邦学习中不同超参数配置和攻击算法设置对攻击效果和代价的影响，并且给出了在使用通信高效的FL协议时不同梯度压缩比下客户隐私泄漏攻击的有效性的测量、评估和分析。 最后，我们提供了一些初步的缓解策略，以突出提供系统化的攻击评估框架来深入了解联邦学习中各种形式的客户隐私泄漏威胁并发展攻击缓解的理论基础。

Apr, 2020

这项研究介绍了一种基于最小但恶意修改的共享模型架构的新威胁模型，使服务器能够直接从梯度更新中获取用户数据的逐字副本，即使是在大批量情况下的用户数据也能被这些略有修改的模型重构。

Oct, 2021

该研究论文探讨了安全聚合在联邦学习中的应用，发现不当使用安全聚合和缺乏参数校验等问题威胁着联邦学习的隐私和数据安全，提出了两种攻击手法，揭示了当前安全聚合在联邦学习领域中的薄弱之处。

Nov, 2021

本文研究了梯度反演攻击对联邦学习安全和隐私保护的威胁。针对已有的攻击和防御方法，我们发现某些强假设下的攻击可以通过放宽假设来削弱强度。我们评估了三种防御机制的效果和性能开销，发现在适当的方法组合下，攻击可以更加有效地被抵抗。总体而言，我们提供了潜在的应对策略，并且发现目前最新的攻击已经可以通过稍微降低数据效用的方式来抵御。

Nov, 2021

在联邦学习中，通过使用陷阱权重进行数据重建攻击，甚至可以从梯度中恢复用户数据，从而破坏了其看似隐私保护的优势。

Dec, 2021

本文介绍了一个基于轻量级加密和数据混淆的联邦学习系统，结合恰当的带宽效率优化和对云服务器主动攻击的安全保护机制，在保证客户端数据隐私的前提下，整合来自多源的数据进行联合训练，并在多项数据集（MNIST、CIFAR-10、CelebA）上验证该系统的可行性及精度。

Feb, 2022

本文提出针对联邦学习中的图像分类任务的新型数据重构攻击框架，并证明了通常采用的梯度后处理程序可能会给联邦学习中的数据隐私保护带来虚假的安全感。作者设计了一种基于语义级数据重构的新方法，并与传统的基于图像相似度分数的方法进行了比较。结果表明，需要重新审视和重新设计现有联邦学习算法中客户端数据隐私保护机制的重要性。

Jun, 2022

提出一种隐蔽标签推断攻击绕过安全聚合从而恢复个体客户的私有标签，并通过理论分析和实验证明该攻击可以在各种数据集和模型架构上以100％的准确性实现大规模标签恢复。

Jun, 2024

本研究解决了联邦学习中隐私攻击有效性的问题，尽管已有多种攻击算法，但是否能在现实环境中有效提取用户私密数据仍不确定。通过对相关文献的分析和在真实联邦学习环境中的实验，我们发现目前的隐私攻击算法在实际应用中难以突破用户数据隐私，这表明隐私攻击的难度超出预期。

Sep, 2024

本研究解决了联邦学习中梯度泄露的安全问题，提出了一种新颖的防护方法"AdaDefense"。该方法通过替代实际局部梯度进行全局聚合，有效防止信息泄露，并保持模型性能基本不变。研究结果显示，该方法在保证模型完整性的同时，增强了联邦学习的隐私保护能力。

Oct, 2024