Jan, 2024

重审梯度修剪：一种用于抵御梯度攻击的双重实现

PDF
TL;DR协作学习是一种分布式学习框架，旨在通过共享梯度更新，保护用户隐私。然而，梯度反演攻击对协作学习构成严重的隐私威胁。现有的防御方法在隐私、效用和效率之间存在着很大的折衷。为了克服现有解决方案的缺点，我们提出了一种新的防御方法，双梯度修剪（DGP），基于梯度修剪，可以提高通信效率，同时保护协作学习的效用和隐私。我们的实验证明，DGP 能够有效地抵御最强大的梯度反演攻击，并在不牺牲模型效用的情况下降低通信成本。
发现论文，激发创造
  • 通过生成的渐变泄露审计联邦学习中的隐私防御

    本文探讨了如何避免在联邦学习框架下，通过梯度信息泄露用户隐私的问题，并提出了一种名为生成梯度泄露的新型隐私泄露方法。作者为了解决这个问题，探讨了各种无梯度优化方法，并相对于梯度优化方法实现了更好的高质量图像重建效果。

    Mar, 2022

  • 分布式学习中的隐私攻击

    分布式梯度下降 (D-GD) 允许一组用户在网络图中通过迭代平均本地模型更新与其相邻节点进行协同学习，而无需共享数据。我们提出了针对 D-GD 的第一个攻击，并演示了用户（或一组用户）如何通过回声平均协议的重构攻击来重建其他用户的私有数据，验证了攻击的有效性和对用户数量、攻击者数量及其在图中的位置等因素的影响。

    Feb, 2024

  • 数据重构攻击和防御：系统评估

    在这项工作中，我们提出了一种针对联邦学习环境中的强力重构攻击，该攻击重构了中间特征，并且与大多数先前的方法相比，集成且表现更好。我们在这种更强力的攻击上进行了深入的理论和实证研究，发现梯度剪裁是针对最先进攻击的最有效策略。

    Feb, 2024

  • 联邦学习中的梯度泄漏

    该研究全面研究了联邦学习系统中梯度反演攻击的实际效用，通过对该攻击在实践中的限制进行理论和实证评估，揭示了梯度反演攻击在实际情境下的局限性，并提出了一些有效的防御措施。

    Apr, 2024

  • 定向图中分布式在线学习的本地差分隐私梯度跟踪

    本研究提出了一种基于梯度追踪的本地差分隐私分布式在线学习算法，通过确保严格的本地差分隐私，该算法在均方意义下收敛于精确的最优解，即使在迭代次数趋向无穷的情况下，累积隐私预算也是有限的。在实验中，该算法在多个基准机器学习应用中表现良好，并且在训练和测试准确性方面均优于现有的对应方法。

    Oct, 2023

  • 强化优化的时间梯度反转攻击

    本文介绍了一种名为 TGIAs-RO 的新型 Gradient Inversion Attacks 攻击方式，采用多重时间梯度来恢复本地客户端保留的私有数据，能够有效克服瓶颈，提高重构性能和鲁棒性，同时启发了更多关于联邦学习中隐私保护方法的探索。

    Jun, 2023

  • 从表示的角度可证明抵御联邦学习中的隐私泄露

    本文针对联邦学习系统存在的隐私泄露问题，提出一种学习数据扰动来防止模型逆推攻击的防御策略，实验证明该方法在防御 DLG 和 GS 攻击的同时能够将数据重构误差提高 160 倍以上，有效提升联邦学习系统的隐私保护性能。

    Dec, 2020

  • 评估联邦学习中的梯度反演攻击与防御

    本文研究了梯度反演攻击对联邦学习安全和隐私保护的威胁。针对已有的攻击和防御方法，我们发现某些强假设下的攻击可以通过放宽假设来削弱强度。我们评估了三种防御机制的效果和性能开销，发现在适当的方法组合下，攻击可以更加有效地被抵抗。总体而言，我们提供了潜在的应对策略，并且发现目前最新的攻击已经可以通过稍微降低数据效用的方式来抵御。

    Nov, 2021

  • 预修剪和梯度下降改进差分隐私图像分类

    通过引入预剪枝和梯度删除来减少参数空间和提高可伸缩性，从而提高深度神经网络的训练，同时解决了差分隐私在训练过程中的可扩展性问题。

    Jun, 2023

  • 处理疑虑：揭示联邦学习下梯度反转攻击的威胁模型，调查与分类

    该研究论文介绍了一种关于 Gradient Inversion Attacks 的调查和分类法，强调了联邦学习威胁模型，特别是恶意服务器和客户端情况下的攻击方法和防御策略。

    May, 2024