联邦学习隐私攻击效率研究

Apr, 2024

On the Efficiency of Privacy Attacks in Federated Learning

Nawrin Tabassum, Ka-Ho Chow, Xuyu Wang, Wenbin Zhang, Yanzhao Wu

TL;DR在这项研究中，我们从效率的角度研究了联邦学习中的隐私攻击，并提出了一种提高联邦学习中隐私攻击效率的框架（EPAFL）。通过系统评估代表性的联邦学习隐私攻击的计算成本，我们发现有很高的优化效率的潜力。我们还提出了三种早停技术来有效地减少这些隐私攻击的计算成本。在基准数据集上进行的实验表明，我们提出的方法可以显著降低计算成本，并保持与现有联邦学习隐私攻击方法相当的攻击成功率。我们把代码放在 GitHub 上，链接在这个 URL 中。

Abstract

Recent studies have revealed severe privacy risks in federated learning, represented by Gradient Leakage Attacks. However, existing studies mainly aim at increasing the privacy attack success rate and overlook the high computation costs for recovering private data, making the privacy a

federated learning privacy attacks efficiency computational costs early-stopping techniques

发现论文，激发创造

联邦学习中评估渗漏攻击的框架

本文提出了一个原则性框架来评估和比较不同形式的客户隐私泄漏攻击。我们提供了正式和实验分析表明，攻击者可以通过分析本地训练的共享参数更新 (例如，本地梯度或权重更新向量) 来重构私有本地训练数据。该论文还分析了联邦学习中不同超参数配置和攻击算法设置对攻击效果和代价的影响，并且给出了在使用通信高效的 FL 协议时不同梯度压缩比下客户隐私泄漏攻击的有效性的测量、评估和分析。最后，我们提供了一些初步的缓解策略，以突出提供系统化的攻击评估框架来深入了解联邦学习中各种形式的客户隐私泄漏威胁并发展攻击缓解的理论基础。

Apr, 2020

联邦学习算法的效率和隐私的实证研究

物联网网络和数据处理技术的发展对分布式学习方法中的联邦学习具有巨大潜力，本论文通过两个实例展示了联邦学习在物联网网络中实现高效和保护隐私的机器学习的潜力，并通过模拟研究了隐私和准确性之间的权衡关系。

Dec, 2023

联邦学习中的隐私与鲁棒性：攻击与防御

在这篇综述性论文中，作者重点介绍基于联邦学习的系统在应对恶意攻击、保障隐私方面所面临的问题，特别关注如何提高系统鲁棒性和隐私保护措施。

Dec, 2020

联邦学习隐私：攻击、防御、应用和政策环境 - 一项调研

深度学习和联邦学习是当前研究的重点，其中涉及隐私保护技术、隐私攻击以及隐私法规的探讨。

May, 2024

联邦学习攻击再探讨：对间隙、假设和评估方案的关键讨论

通过对攻击 FL 的 48 篇相关文章进行系统性的映射研究，我们提供了对所提出的攻击及其评估设置的定量分析。在此基础上，我们揭示了几个关于目标 ML 模型类型、架构和数据分布的研究空白，并提出了一些推荐以避免评估中存在的偏差并促进充分的评估。

Nov, 2021

联邦学习攻击和防御：综述

本文系统总结了目前联邦学习系统中存在的各种攻击和针对性防御，包括学习和预测阶段中对不同角色的攻击，并分析了各种隐私和安全层面的防御机制，旨在为建立更加安全、稳定的联邦学习系统提供参考。

Nov, 2022

从表示的角度可证明抵御联邦学习中的隐私泄露

本文针对联邦学习系统存在的隐私泄露问题，提出一种学习数据扰动来防止模型逆推攻击的防御策略，实验证明该方法在防御 DLG 和 GS 攻击的同时能够将数据重构误差提高 160 倍以上，有效提升联邦学习系统的隐私保护性能。

Dec, 2020

联邦 PAC 学习

本文提出了 FedPAC 框架，一个利用 PAC 学习量化多个指标的统一框架，以找到隐私泄露，效用损失和效率之间的最佳平衡

Apr, 2023

联邦学习系统中对抗训练模型的隐私泄露

本文研究 Adversarial Training 在保护模型免受对抗攻击的同时可能会使模型更容易受到隐私攻击，并设计了一种新型的隐私攻击方法，在使用 Federated Learning 系统时，攻击者可以利用我们的方法准确重构用户的私人训练图像，而无须关心训练批次的大小。

Feb, 2022

评估联邦学习中的梯度反演攻击与防御

本文研究了梯度反演攻击对联邦学习安全和隐私保护的威胁。针对已有的攻击和防御方法，我们发现某些强假设下的攻击可以通过放宽假设来削弱强度。我们评估了三种防御机制的效果和性能开销，发现在适当的方法组合下，攻击可以更加有效地被抵抗。总体而言，我们提供了潜在的应对策略，并且发现目前最新的攻击已经可以通过稍微降低数据效用的方式来抵御。

Nov, 2021