AAAIDec, 2023

梯度反演重建质量的预测：优化视角

PDF
TL;DR通过使用自适应的损失函数，本研究提出了一种用于梯度逆转攻击的敏感性代理指标，该指标能够更准确地捕捉样本的脆弱性，并为以后在联邦学习中应对多种潜在损失函数的安全问题提供了解决方案。
gradient inversion attacksdata privacyfederated learningloss-aware vulnerability proxyfl security
发现论文，激发创造
  • 使用梯度混合策略增强联邦学习中的隐私保护

    本文探究了几个神经网络设计决策如何防御梯度反演攻击，提出重叠梯度可以在高度易受攻击的全连接层上提供数值抵抗，并通过合适的损失函数和相同标签的批处理最大程度地混合梯度，从而避免了数据泄露的风险，并提出了一个基于绝对变异距离的信息泄露连续统计，最终通过经验结果验证所提出的防御策略对信息恢复有一定的应用。

    Apr, 2022

  • 评估联邦学习中的梯度反演攻击与防御

    本文研究了梯度反演攻击对联邦学习安全和隐私保护的威胁。针对已有的攻击和防御方法，我们发现某些强假设下的攻击可以通过放宽假设来削弱强度。我们评估了三种防御机制的效果和性能开销，发现在适当的方法组合下，攻击可以更加有效地被抵抗。总体而言，我们提供了潜在的应对策略，并且发现目前最新的攻击已经可以通过稍微降低数据效用的方式来抵御。

    Nov, 2021

  • 代理模型扩展（SME）：一种快速准确的联邦学习权重更新攻击

    该研究提出了一种基于替代模型方法的梯度反演攻击权重更新的方法，从而更好地揭示了 Federated Learning 中预设的隐私保护固有的弱点，并展示了 SOTA 表现。

    May, 2023

  • 强化优化的时间梯度反转攻击

    本文介绍了一种名为 TGIAs-RO 的新型 Gradient Inversion Attacks 攻击方式，采用多重时间梯度来恢复本地客户端保留的私有数据，能够有效克服瓶颈，提高重构性能和鲁棒性，同时启发了更多关于联邦学习中隐私保护方法的探索。

    Jun, 2023

  • 消除梯度反转攻击中的硬标签约束

    本论文研究梯度反转攻击在联邦学习框架下从中间梯度中重建本地训练数据，提出了一种基于分析的算法来同时恢复单输入梯度中的真实增强标签和最后全连接层的输入特征，并证明了该算法对标签恢复的准确性以及对随后的图像重建的好处，强调了分类任务中软标签在梯度反转攻击中值得进一步关注。

    Feb, 2024

  • 梯度反演综述：攻击、防御和未来方向

    本研究对 GradInv 攻击进行全面调查，对现有攻击进行分类并总结新兴的对策，从数据隐蔽、模型改进和梯度保护三个方面探讨进一步的研究方向和开放性问题。

    Jun, 2022

  • R-GAP: 递归梯度攻击隐私

    本研究提出了一种递归梯度攻击算法（R-GAP）及排名分析方法，能够从梯度中恢复原始数据并评估网络结构的安全性，实验结果表明该算法能在一定的条件下以较小的计算量实现与优化方法同等甚至更好的隐私保护。

    Oct, 2020

  • 联邦学习中的梯度泄漏

    该研究全面研究了联邦学习系统中梯度反演攻击的实际效用，通过对该攻击在实践中的限制进行理论和实证评估，揭示了梯度反演攻击在实际情境下的局限性，并提出了一些有效的防御措施。

    Apr, 2024

  • 通过反演影响函数理解深层渗漏梯度

    基于 Inversion Influence Function (I^2F) 的研究，探讨了深度梯度泄漏攻击及隐私保护方法。

    Sep, 2023

  • 使用梯度手术探究不同损失函数的影响

    利用 pair-wise loss 进行度量学习可以通过梯度分解来统一当前的损失函数，并明确构建配对梯度更新，以最大程度地提高对图像数据集的检索精度。

    Jan, 2022