Aug, 2023

在回归设置下防御分布式学习中的标签推断攻击

PDF
TL;DR通过随机标签扩展（RLE）和基于模型的自适应标签扩展（MLE）来防御 Split Learning 中的标签推断攻击，提高隐私保护能力。实验结果表明，相比基本的防御方法，我们提出的防御方法可以显著降低攻击模型的性能，同时保持原始任务的性能。
发现论文，激发创造
  • 实用分散式学习对聚类标签推断攻击

    本文针对隐私敏感的应用，提出了一种针对实际分割学习的被动聚类标签推断攻击，该攻击可以通过收集交换的梯度和压碎数据来精确检索私有标签，并使用余弦和欧几里得相似度度量来分析潜在的标签泄露。实验结果表明，即使对标签进行差分隐私和梯度压缩的保护，攻击者仍然可以在不同的设置下（例如，切割层位置，时代和批量大小）实现准确的预测。

    Mar, 2022

  • 关于分割学习的数据无关模型反演、模型窃取和标签推理攻击

    通过两种新攻击方法，我们表明 Split learning 算法不能保障训练数据和模型参数的安全，因此提供的隐私保护是虚假的。

    Aug, 2021

  • 两方分裂学习中的标签泄露和保护

    本研究探索了在双方分别拥有数据的场景下，一方能否窃取另一方的标签信息，并提出了量化泄露度的隐私损失度量、防御方法和基于随机扰动的修复技术 $ exttt {Marvell}$。实验证明，该技术具有更好的隐私效果和使用效用权衡。

    Feb, 2021

  • 通过势能损失使分裂学习具有标签泄漏韧性

    本研究探讨了利用少量标记样本来微调底层模型从而导致的隐私泄漏问题，并通过引入势能损失来增加底层模型输出的复杂性，使其更难以被泄漏，从而提高了 Split Learning 的隐私安全性。

    Oct, 2022

  • 解锁猛虎：对分布式学习的推断攻击

    本文探讨了 Split Learning 协作机器学习框架的安全性，揭示了其安全漏洞，并提出了攻击策略。通过不同的实验和测试，论文表明了对该协议的攻击能够打破最近提出的安全防御技术，从而获得客户的数据信息。

    Dec, 2020

  • 防止属性推断、数据重建和特征空间劫持攻击的安全分裂学习

    通过研究 SplitNN 及其所带来的潜在威胁和攻击，本研究提出了一种隐私保护的信息交换通道，利用可控的解决方案扰乱知识的传播，并使用新的激活函数 R3eLU 来有效地防御威胁。本研究的实验结果表明，该方法在绝大部分情况下都能较好地平衡防御和模型可用性。

    Apr, 2023

  • 仅标签成员推断攻击

    本文介绍了一种基于标签的会员推理攻击方法，通过对模型预测标签进行扰动来获取精细的成员信号，该攻击未被置换机密度分数的防御措施所挫败，仅采用差分隐私和（强）L2 正则化等防御策略才能有效地抵御所有攻击。

    Jul, 2020

  • 分布式训练中标签的揭示与保护

    本文提出了一种从模型最后一层的梯度和 id 映射中发现训练样本标签的方法，该方法适用于多个领域的各种模型架构，并在图像分类和自动语音识别两个领域的模型训练中展示了其有效性，同时还发现梯度量化和稀疏化可以显著降低攻击的成功率。

    Oct, 2021

  • 垂直联邦学习中基于特征的推理攻击对模型预测的影响

    本文介绍了几种特征推断攻击方法，以调查垂直联邦学习模型预测阶段可能存在的隐私泄露问题。实验评估证明了所提出攻击方法的有效性，并强调了在垂直 FL 中设计保护模型预测输出的机制的必要性。

    Oct, 2020

  • 消除梯度反转攻击中的硬标签约束

    本论文研究梯度反转攻击在联邦学习框架下从中间梯度中重建本地训练数据，提出了一种基于分析的算法来同时恢复单输入梯度中的真实增强标签和最后全连接层的输入特征，并证明了该算法对标签恢复的准确性以及对随后的图像重建的好处，强调了分类任务中软标签在梯度反转攻击中值得进一步关注。

    Feb, 2024