Mar, 2024

泄露与学习：利用联邦学习的泄露数据进行攻击者训练的烹饪书

HTML
PDF
TL;DR本文研究了分布式学习中的数据重构攻击，并探讨了利用泄露数据进行模型训练和改进的可能性。研究表明，即使重构质量有限或泄露图像数量较少，也可以通过敌意训练模型更准确地使用泄露数据，对于下游训练而言，渐变反转攻击和线性层泄漏攻击存在一定的限制。
发现论文，激发创造
  • 从表示的角度可证明抵御联邦学习中的隐私泄露

    本文针对联邦学习系统存在的隐私泄露问题，提出一种学习数据扰动来防止模型逆推攻击的防御策略，实验证明该方法在防御DLG 和 GS攻击的同时能够将数据重构误差提高160倍以上，有效提升联邦学习系统的隐私保护性能。

    Dec, 2020

  • 防御竖直联邦学习中的重构攻击

    本文研究了在纵向联邦学习中防御输入泄漏攻击的方法，提出了一种基于对抗训练的框架，包含敌对重建、噪声正则化和距离相关性最小化三个模块，此框架能够有效保护输入隐私同时保留了模型的效用。

    Jul, 2021

  • 面向联邦学习的通用深度泄露

    该研究论文研究了联邦学习中的数据隐私问题，提出了一种从共享梯度或权重中恢复训练数据的方法，并使用方法在CIFAR-10和ImageNet等图像基准上进行了实验，超过了现有的GradInversion技术。

    Oct, 2021

  • 评估联邦学习中的梯度反演攻击与防御

    本文研究了梯度反演攻击对联邦学习安全和隐私保护的威胁。针对已有的攻击和防御方法，我们发现某些强假设下的攻击可以通过放宽假设来削弱强度。我们评估了三种防御机制的效果和性能开销，发现在适当的方法组合下，攻击可以更加有效地被抵抗。总体而言，我们提供了潜在的应对策略，并且发现目前最新的攻击已经可以通过稍微降低数据效用的方式来抵御。

    Nov, 2021

  • 梯度混淆在联邦学习中会产生虚假的安全感

    本文提出针对联邦学习中的图像分类任务的新型数据重构攻击框架，并证明了通常采用的梯度后处理程序可能会给联邦学习中的数据隐私保护带来虚假的安全感。作者设计了一种基于语义级数据重构的新方法，并与传统的基于图像相似度分数的方法进行了比较。结果表明，需要重新审视和重新设计现有联邦学习算法中客户端数据隐私保护机制的重要性。

    Jun, 2022

  • 数据重构攻击和防御：系统评估

    在这项工作中，我们提出了一种针对联邦学习环境中的强力重构攻击，该攻击重构了中间特征，并且与大多数先前的方法相比，集成且表现更好。我们在这种更强力的攻击上进行了深入的理论和实证研究，发现梯度剪裁是针对最先进攻击的最有效策略。

    Feb, 2024

  • 联邦学习中的数据重构攻击防御：一种信息论方法

    在分布式学习中，我们提出了一种通过限制传输信息量并应用数据空间操作的渠道模型，以提高数据重构攻击下的隐私保护，验证了方法的有效性。

    Mar, 2024

  • 处理疑虑：揭示联邦学习下梯度反转攻击的威胁模型，调查与分类

    该研究论文介绍了一种关于Gradient Inversion Attacks的调查和分类法，强调了联邦学习威胁模型，特别是恶意服务器和客户端情况下的攻击方法和防御策略。

    May, 2024

  • 从理论角度理解联邦学习中的数据重建泄漏

    本研究针对联邦学习（FL）中数据重建攻击的理论基础缺失问题，提出了一个理论框架以理解数据重建攻击。该框架通过界定数据重建误差来比较不同攻击的有效性，研究发现iDLG攻击在多个数据集上的表现优于DLG攻击，揭示了联邦学习中的潜在攻击风险。

    Aug, 2024

  • 对抗梯度重建攻击的优化防御

    本研究解决了联邦学习中梯度重建攻击导致的数据泄露问题。文章提出了一种新的防御方法，通过推导重建误差的理论下界，并定制噪声添加和梯度剪枝策略，以优化数据泄露与模型效用的平衡。实验结果表明，所提出的方法在保护训练数据的同时，实现了更优的模型效用。

    Nov, 2024