通过修改模型直接获得联邦学习中的私人数据

Oct, 2021

通过修改模型直接获得联邦学习中的私人数据

Robbing the Fed: Directly Obtaining Private Data in Federated Learning with Modified Models

Liam Fowl, Jonas Geiping, Wojtek Czaja, Micah Goldblum, Tom Goldstein

TL;DR这项研究介绍了一种基于最小但恶意修改的共享模型架构的新威胁模型，使服务器能够直接从梯度更新中获取用户数据的逐字副本，即使是在大批量情况下的用户数据也能被这些略有修改的模型重构。

Abstract

federated learning has quickly gained popularity with its promises of increased user privacy and efficiency. Previous works have shown that federated →

federated learning user privacy gradient updates threat model model architecture

发现论文，激发创造

梯度分解：通过重构用户参与矩阵打破联合学习的隐私

通过聚合模型更新，掌握联邦学习中的用户隐私信息可能存在风险，破坏了联邦学习的数据安全，研究展示了一种攻击方法，通过聚合的模型更新重建用户和其私有训练数据之间的联系，属于一种细致入微、平行操作并具有较高灵敏度的推断攻击。

Jun, 2021

好奇心放任时：联邦学习并不具备隐私性

在联邦学习中，通过使用陷阱权重进行数据重建攻击，甚至可以从梯度中恢复用户数据，从而破坏了其看似隐私保护的优势。

Dec, 2021

泄露与学习：利用联邦学习的泄露数据进行攻击者训练的烹饪书

本文研究了分布式学习中的数据重构攻击，并探讨了利用泄露数据进行模型训练和改进的可能性。研究表明，即使重构质量有限或泄露图像数量较少，也可以通过敌意训练模型更准确地使用泄露数据，对于下游训练而言，渐变反转攻击和线性层泄漏攻击存在一定的限制。

Mar, 2024

反演梯度 —— 联邦学习隐私保护的易破性探究

本文研究联邦学习中参数梯度共享机制的安全性，并通过实证研究表明，在计算机视觉领域，即使对多个迭代或多个图像进行梯度平均处理，也无法保护用户隐私。

Mar, 2020

从联邦学习推断用户级隐私泄露：超越类别代表的挖掘

本文第一次探索了一种恶意攻击来破坏联邦学习中的用户级别隐私泄漏，并提出一种结合了 GAN 和多任务鉴别器的框架，该框架在客户端标识上具有新颖的识别，使生成器能够恢复用户指定的私有数据。

Dec, 2018

面向联邦学习的通用深度泄露

该研究论文研究了联邦学习中的数据隐私问题，提出了一种从共享梯度或权重中恢复训练数据的方法，并使用方法在 CIFAR-10 和 ImageNet 等图像基准上进行了实验，超过了现有的 GradInversion 技术。

Oct, 2021

通过梯度放大在大批量联邦学习中收集用户数据

本文介绍了一种新的策略，能够在批处理任意大小和不需要架构修改的情况下，在交叉设备和交叉硅质联邦学习中提取高保真数据，通过修改发送给用户的模型参数来在现实威胁模型中实现。

Feb, 2022

联邦学习中的个性化改善隐私 - 准确性权衡

研究分布式机器学习系统，并基于修正的随机优化算法实现私人级联学习，在保证局部模型私密性的同时，与全局模型进行协调，提升了准确性和隐私保护的平衡。

Feb, 2022

Decepticons：损坏变形金刚在语言模型联邦学习中侵犯隐私

提出了一种攻击机制可在 Federated Learning 中，通过恶意参数向量直接攻击文本应用程序，利用 Transformer 架构和标记嵌入技术提取标记和位置嵌入来检索高保真文本，使得历史上抵抗隐私攻击的文本 Federated Learning 变得比以前更加脆弱。

Jan, 2022

梯度混淆在联邦学习中会产生虚假的安全感

本文提出针对联邦学习中的图像分类任务的新型数据重构攻击框架，并证明了通常采用的梯度后处理程序可能会给联邦学习中的数据隐私保护带来虚假的安全感。作者设计了一种基于语义级数据重构的新方法，并与传统的基于图像相似度分数的方法进行了比较。结果表明，需要重新审视和重新设计现有联邦学习算法中客户端数据隐私保护机制的重要性。

Jun, 2022