Sep, 2023

针对来自投毒的联邦学习的客户端梯度反转

PDF
TL;DR该研究提出了一种名为 Client-side poisoning Gradient Inversion (CGI) 的新攻击方法，旨在从聚合的全局模型中恢复训练样本，展示了在有限知识的客户端对聚合全局模型进行恶意操纵的可行性，并且具备对拜占庭 - 鲁棒聚合规则的隐蔽性。
federated learninggradient inversion attackclient-side poisoningprivacybyzantine-robust aggregation rules
发现论文，激发创造
  • 处理疑虑：揭示联邦学习下梯度反转攻击的威胁模型，调查与分类

    该研究论文介绍了一种关于 Gradient Inversion Attacks 的调查和分类法，强调了联邦学习威胁模型，特别是恶意服务器和客户端情况下的攻击方法和防御策略。

    May, 2024

  • 联邦学习中的梯度泄漏

    该研究全面研究了联邦学习系统中梯度反演攻击的实际效用，通过对该攻击在实践中的限制进行理论和实证评估，揭示了梯度反演攻击在实际情境下的局限性，并提出了一些有效的防御措施。

    Apr, 2024

  • 强化优化的时间梯度反转攻击

    本文介绍了一种名为 TGIAs-RO 的新型 Gradient Inversion Attacks 攻击方式，采用多重时间梯度来恢复本地客户端保留的私有数据，能够有效克服瓶颈，提高重构性能和鲁棒性，同时启发了更多关于联邦学习中隐私保护方法的探索。

    Jun, 2023

  • GI-SMN：无先验知识的反梯度逆转攻击对抗联邦学习

    通过 Style Migration Network（GI-SMN）提出了一种新的梯度逆转攻击方法，它打破了以往梯度逆转攻击所做的强假设，在批处理中实现了高相似度的用户数据重建，同时超越了当前的梯度逆转攻击方法和差分隐私防御方法。

    May, 2024

  • 强大的联邦学习抵抗客户端训练数据分布推理攻击

    通过提出 InferGuard，一个新颖的拜占庭鲁棒聚合规则，我们的防御机制在保护客户端训练数据分布推断攻击方面表现出高度的有效性，甚至对于强适应性攻击也具有很强的防御能力，并在各种实际的联邦学习场景中显著优于基准方法。

    Mar, 2024

  • 评估联邦学习中的梯度反演攻击与防御

    本文研究了梯度反演攻击对联邦学习安全和隐私保护的威胁。针对已有的攻击和防御方法，我们发现某些强假设下的攻击可以通过放宽假设来削弱强度。我们评估了三种防御机制的效果和性能开销，发现在适当的方法组合下，攻击可以更加有效地被抵抗。总体而言，我们提供了潜在的应对策略，并且发现目前最新的攻击已经可以通过稍微降低数据效用的方式来抵御。

    Nov, 2021

  • 面向联邦学习的通用深度泄露

    该研究论文研究了联邦学习中的数据隐私问题，提出了一种从共享梯度或权重中恢复训练数据的方法，并使用方法在 CIFAR-10 和 ImageNet 等图像基准上进行了实验，超过了现有的 GradInversion 技术。

    Oct, 2021

  • 打破安全聚合：联邦学习中通过聚合梯度泄漏标签

    提出一种隐蔽标签推断攻击绕过安全聚合从而恢复个体客户的私有标签，并通过理论分析和实验证明该攻击可以在各种数据集和模型架构上以 100％的准确性实现大规模标签恢复。

    Jun, 2024

  • 针对联邦学习的数据不可知模型污染：一种图自编码器方法

    该研究提出了一种基于对抗图自编码器的新颖的数据无关型模型污染攻击方法，攻击者通过监听无害的本地模型和全局模型来提取其中的图结构关联，并用对抗性图结构和训练数据特征生成恶意本地模型，导致联邦学习的准确性逐渐下降，现有的防御机制无法检测这种攻击，对联邦学习构成严重威胁。

    Nov, 2023

  • 基于 Canny 边缘检测的多标签梯度反转攻击在联邦学习中的应用

    基于边缘检测的渐变反转策略 (Gradient Inversion Strategy based on Canny Edge Detection, MGIC) 在多标签和单标签数据集中减少了语义错误，并在 ImageNet 数据集上比最广泛使用的方法节省了超过 78% 的时间成本。

    Mar, 2024