ICMLMay, 2023

代理模型扩展（SME）：一种快速准确的联邦学习权重更新攻击

PDF
TL;DR该研究提出了一种基于替代模型方法的梯度反演攻击权重更新的方法，从而更好地揭示了 Federated Learning 中预设的隐私保护固有的弱点，并展示了 SOTA 表现。
federated learningprivacy protectiongradient inversion attacksweight updatessurrogate model method
发现论文，激发创造
  • GI-SMN：无先验知识的反梯度逆转攻击对抗联邦学习

    通过 Style Migration Network（GI-SMN）提出了一种新的梯度逆转攻击方法，它打破了以往梯度逆转攻击所做的强假设，在批处理中实现了高相似度的用户数据重建，同时超越了当前的梯度逆转攻击方法和差分隐私防御方法。

    May, 2024

  • 处理疑虑：揭示联邦学习下梯度反转攻击的威胁模型，调查与分类

    该研究论文介绍了一种关于 Gradient Inversion Attacks 的调查和分类法，强调了联邦学习威胁模型，特别是恶意服务器和客户端情况下的攻击方法和防御策略。

    May, 2024

  • 从表示的角度可证明抵御联邦学习中的隐私泄露

    本文针对联邦学习系统存在的隐私泄露问题，提出一种学习数据扰动来防止模型逆推攻击的防御策略，实验证明该方法在防御 DLG 和 GS 攻击的同时能够将数据重构误差提高 160 倍以上，有效提升联邦学习系统的隐私保护性能。

    Dec, 2020

  • FLTrojan: 通过选择性重量篡改对联邦语言模型进行的隐私泄漏攻击

    我们介绍了关于从联邦语言模型中泄露隐私敏感用户数据的两个新发现：一是中间轮次的模型快照可能引起比最终训练模型更严重的隐私泄露，二是通过篡改模型的选择权重，可以加剧隐私泄露，并显示了恶意客户端如何在联邦学习中泄露某个其他用户的隐私敏感数据，甚至无需服务器的任何合作。我们的最佳方法提高了成员推理召回率 29%，可达到 70% 的私密数据重构，显然优于现有的攻击方法，其对对手能力有更强的假设。

    Oct, 2023

  • 联邦学习中的梯度泄漏

    该研究全面研究了联邦学习系统中梯度反演攻击的实际效用，通过对该攻击在实践中的限制进行理论和实证评估，揭示了梯度反演攻击在实际情境下的局限性，并提出了一些有效的防御措施。

    Apr, 2024

  • 联邦学习中模型的深度泄漏

    本文提出了两个新的框架，证明在联合学习的情况下传输模型权重也可能会泄露客户端的本地数据，同时介绍了两种对抗措施和评估其保护效果。

    Jun, 2022

  • 面向联邦学习的通用深度泄露

    该研究论文研究了联邦学习中的数据隐私问题，提出了一种从共享梯度或权重中恢复训练数据的方法，并使用方法在 CIFAR-10 和 ImageNet 等图像基准上进行了实验，超过了现有的 GradInversion 技术。

    Oct, 2021

  • 梯度反演重建质量的预测：优化视角

    通过使用自适应的损失函数，本研究提出了一种用于梯度逆转攻击的敏感性代理指标，该指标能够更准确地捕捉样本的脆弱性，并为以后在联邦学习中应对多种潜在损失函数的安全问题提供了解决方案。

    Dec, 2023

  • 评估联邦学习中的梯度反演攻击与防御

    本文研究了梯度反演攻击对联邦学习安全和隐私保护的威胁。针对已有的攻击和防御方法，我们发现某些强假设下的攻击可以通过放宽假设来削弱强度。我们评估了三种防御机制的效果和性能开销，发现在适当的方法组合下，攻击可以更加有效地被抵抗。总体而言，我们提供了潜在的应对策略，并且发现目前最新的攻击已经可以通过稍微降低数据效用的方式来抵御。

    Nov, 2021

  • 联邦学习中的近似加权数据重构攻击

    水平联邦平均（FedAvg）中的参数攻击问题可以通过我们提出的插值近似方法和层次加权损失函数来解决，实验证明我们的方法在图像数据重建方面具有明显的改进。

    Aug, 2023