Apr, 2022

使用梯度混合策略增强联邦学习中的隐私保护

HTML
PDF
TL;DR本文探究了几个神经网络设计决策如何防御梯度反演攻击，提出重叠梯度可以在高度易受攻击的全连接层上提供数值抵抗，并通过合适的损失函数和相同标签的批处理最大程度地混合梯度，从而避免了数据泄露的风险，并提出了一个基于绝对变异距离的信息泄露连续统计，最终通过经验结果验证所提出的防御策略对信息恢复有一定的应用。
发现论文，激发创造
  • 反演梯度——联邦学习隐私保护的易破性探究

    本文研究联邦学习中参数梯度共享机制的安全性，并通过实证研究表明，在计算机视觉领域，即使对多个迭代或多个图像进行梯度平均处理，也无法保护用户隐私。

    Mar, 2020

  • 评估联邦学习中的梯度反演攻击与防御

    本文研究了梯度反演攻击对联邦学习安全和隐私保护的威胁。针对已有的攻击和防御方法，我们发现某些强假设下的攻击可以通过放宽假设来削弱强度。我们评估了三种防御机制的效果和性能开销，发现在适当的方法组合下，攻击可以更加有效地被抵抗。总体而言，我们提供了潜在的应对策略，并且发现目前最新的攻击已经可以通过稍微降低数据效用的方式来抵御。

    Nov, 2021

  • 梯度混淆在联邦学习中会产生虚假的安全感

    本文提出针对联邦学习中的图像分类任务的新型数据重构攻击框架，并证明了通常采用的梯度后处理程序可能会给联邦学习中的数据隐私保护带来虚假的安全感。作者设计了一种基于语义级数据重构的新方法，并与传统的基于图像相似度分数的方法进行了比较。结果表明，需要重新审视和重新设计现有联邦学习算法中客户端数据隐私保护机制的重要性。

    Jun, 2022

  • 具有卷积变分瓶颈的隐私保护联邦学习

    梯度反转攻击是联邦学习中普遍存在的威胁，利用梯度泄漏重构原本私密的训练数据。最近的研究提出了一种通过结合基于变分建模的隐私增强模块（PRECODE）来防止梯度泄漏而不损失模型效用的方法。本文的多项贡献包括：揭示了PRECODE对梯度反转攻击的作用原理，提出了一个能在神经网络中早期放置且不受限制的新型隐私模块Convolutional Variational Bottleneck (CVB)，并通过对三个重要模型结构和六个图像分类数据集的广泛实证研究发现，我们的CVB能够有效预防梯度泄漏攻击且参数更少，从而减少计算和通信成本并有效地保护隐私。

    Sep, 2023

  • 梯度反演重建质量的预测：优化视角

    通过使用自适应的损失函数，本研究提出了一种用于梯度逆转攻击的敏感性代理指标，该指标能够更准确地捕捉样本的脆弱性，并为以后在联邦学习中应对多种潜在损失函数的安全问题提供了解决方案。

    Dec, 2023

  • RAF-GI：面向联邦学习的稳健、准确和快速收敛的梯度反演攻击

    通过额外的卷积块以及白盒攻击策略，我们提出了一个鲁棒、准确且快速收敛的梯度反转攻击算法 RAF-GI，能够在损失很少时间的情况下以出色的质量重构基准数据。

    Mar, 2024

  • 联邦学习中的梯度泄漏

    该研究全面研究了联邦学习系统中梯度反演攻击的实际效用，通过对该攻击在实践中的限制进行理论和实证评估，揭示了梯度反演攻击在实际情境下的局限性，并提出了一些有效的防御措施。

    Apr, 2024

  • GI-SMN：无先验知识的反梯度逆转攻击对抗联邦学习

    通过Style Migration Network（GI-SMN）提出了一种新的梯度逆转攻击方法，它打破了以往梯度逆转攻击所做的强假设，在批处理中实现了高相似度的用户数据重建，同时超越了当前的梯度逆转攻击方法和差分隐私防御方法。

    May, 2024

  • 联邦扩散模型的梯度反演

    我们研究了扩散模型在生成高分辨率图像数据方面的应用，使用基于梯度的协作训练方法，我们设计了一种融合优化模型（GIDM），以减小梯度反演攻击的风险，并进一步提出了三重优化模型（GIDM+）来解决隐私保护方面的挑战。通过广泛的评估结果，我们发现共享梯度对于扩散模型的数据保护存在漏洞，即使是高分辨率图像也可以被高质量地重建。

    May, 2024

  • 攻击下的联邦学习：改善图像批次的梯度反演

    本研究解决了联邦学习中梯度反演攻击对用户数据隐私的威胁。提出了一种新方法“基于反馈融合的梯度深度泄漏”（DLG-FB），利用图像批次的空间相关性来提升攻击效果。研究结果表明，该方法在攻击成功率和每张被攻击图像的迭代次数上分别提高了19.18%和48.82%。

    Sep, 2024