ICLRFeb, 2021

两方分裂学习中的标签泄露和保护

PDF
TL;DR本研究探索了在双方分别拥有数据的场景下，一方能否窃取另一方的标签信息，并提出了量化泄露度的隐私损失度量、防御方法和基于随机扰动的修复技术 $ exttt {Marvell}$。实验证明，该技术具有更好的隐私效果和使用效用权衡。
two-party split learningprivacy loss metriclabel leakagerandom perturbationmarvell
发现论文，激发创造
  • 通过势能损失使分裂学习具有标签泄漏韧性

    本研究探讨了利用少量标记样本来微调底层模型从而导致的隐私泄漏问题，并通过引入势能损失来增加底层模型输出的复杂性，使其更难以被泄漏，从而提高了 Split Learning 的隐私安全性。

    Oct, 2022

  • 实用分散式学习对聚类标签推断攻击

    本文针对隐私敏感的应用，提出了一种针对实际分割学习的被动聚类标签推断攻击，该攻击可以通过收集交换的梯度和压碎数据来精确检索私有标签，并使用余弦和欧几里得相似度度量来分析潜在的标签泄露。实验结果表明，即使对标签进行差分隐私和梯度压缩的保护，攻击者仍然可以在不同的设置下（例如，切割层位置，时代和批量大小）实现准确的预测。

    Mar, 2022

  • 关于分割学习的数据无关模型反演、模型窃取和标签推理攻击

    通过两种新攻击方法，我们表明 Split learning 算法不能保障训练数据和模型参数的安全，因此提供的隐私保护是虚假的。

    Aug, 2021

  • 分散学习对抗攻击的鲁棒性

    本文旨在评估分片学习在抵御对抗攻击方面的鲁棒性，尤其是在非信任服务器只能访问模型的中间层时进行评估。通过提出一种定制的攻击方法 SPADV，证明了分片学习在面对对抗攻击时存在令人惊讶的脆弱性。

    Jul, 2023

  • SplitGuard：在分布式学习中检测和缓解训练劫持攻击

    本文提出 SplitGuard 方法来检测分布式深度学习模型中的训练劫持攻击，以保障数据私密性的同时，最大化减少敏感信息恢复的风险。

    Aug, 2021

  • 在回归设置下防御分布式学习中的标签推断攻击

    通过随机标签扩展（RLE）和基于模型的自适应标签扩展（MLE）来防御 Split Learning 中的标签推断攻击，提高隐私保护能力。实验结果表明，相比基本的防御方法，我们提出的防御方法可以显著降低攻击模型的性能，同时保持原始任务的性能。

    Aug, 2023

  • 防止属性推断、数据重建和特征空间劫持攻击的安全分裂学习

    通过研究 SplitNN 及其所带来的潜在威胁和攻击，本研究提出了一种隐私保护的信息交换通道，利用可控的解决方案扰乱知识的传播，并使用新的激活函数 R3eLU 来有效地防御威胁。本研究的实验结果表明，该方法在绝大部分情况下都能较好地平衡防御和模型可用性。

    Apr, 2023

  • 多方机器学习中数据集属性泄露

    该研究确认了安全多方机器学习会导致数据的属性泄露，包括敏感属性和整个数据集的属性，即使敏感属性未被训练，说明存在相关模型。

    Jun, 2020

  • 多方机器学习中的污染攻击及其缓解

    本文讨论了在多方数据联合训练机器学习模型时，可能存在一方恶意注入污染数据导致模型性能下降的问题，并提出了采用对抗训练的方法可以避免此问题，同时保证各方数据的隐私安全。

    Jan, 2019

  • 关于分割学习服务端后门攻击的可行性

    本文通过在服务器端注入后门触发器，对分割学习中的后门攻击进行了新型研究，研究结果表明，尽管使用了强的模式和注入方法，但分割学习对于这种污染攻击是高度强大和抗性强的。

    Feb, 2023