划分而非劫持：在划分学习中防止特征空间劫持攻击

Apr, 2024

划分而非劫持：在划分学习中防止特征空间劫持攻击

Make Split, not Hijack: Preventing Feature-Space Hijacking Attacks in Split Learning

Tanveer Khan, Mindaugas Budzys, Antonis Michalas

TL;DR结合拆分学习和函数秘密共享的混合方法可以确保客户数据的隐私安全，并提高机器学习流程的效率。通过给激活图添加随机掩码，利用函数秘密共享生成股份，从而实现在前向和后向传播过程中，服务器无法从激活图重构客户的原始数据。此方法成功降低了隐私泄露，并对特征空间劫持攻击具有安全性保障。

Abstract

The popularity of machine learning (ML) makes the privacy of sensitive data more imperative than ever. Collaborative learning techniques like Split Learning (SL) aim to protect client data while enhancing ML processes. Though promising, SL has been proved to be vulnerable to a plethora

machine learning split learning function secret sharing data privacy security

发现论文，激发创造

无泄漏的分割学习：减少隐私泄露

使用分层学习 (SL) 和同态加密 (HE) 的混合方法在 MIT-BIH 数据集上提供了更快的训练时间 (大约是其他基于 HE 的方法的 6 倍) 和显著减少的通信开销 (几乎是其他方法的 160 倍)，从而为深度学习中的敏感数据提供了更好的隐私保护。

Aug, 2023

基于代表共享的可扩展协作学习

通过在线知识蒸馏使用对比损失的新方法，保证了参与者在不共享其输入数据的情况下学习相似类别的相似特征，并将平均最后隐藏层激活的特征表示发布到中央服务器，然后客户端使用对比目标在其个人模型中蒸馏其知识，从而比独立学习和其他联邦知识蒸馏 (FD) 方案提高了模型的效用，本框架在多个数据集上使用不同的模型架构进行了性能基准测试。

Nov, 2022

隐私保护训练：使用分割学习和同态加密

本论文提出了基于 U 型分割学习的协议，可以在同态加密的数据上进行操作，从而保护用户隐私，并通过实验结果表明，在 U 型分割学习模式中使用同态加密只会将准确率降低 2.65%，同时保护了原始训练数据的隐私。

Sep, 2023

针对差分隐私分裂学习的特征空间劫持攻击

本论文旨在探讨对分布式数据集进行隐私合规高级分析时，分割学习和差分隐私这两项技术的应用。通过使用最近的特征空间劫持攻击对增强差分隐私的分割神经网络的学习过程进行攻击，我们发现差分隐私并不是很有效的保护方法，并提出了一些潜在的风险缓解方法。

Jan, 2022

防止属性推断、数据重建和特征空间劫持攻击的安全分裂学习

通过研究 SplitNN 及其所带来的潜在威胁和攻击，本研究提出了一种隐私保护的信息交换通道，利用可控的解决方案扰乱知识的传播，并使用新的激活函数 R3eLU 来有效地防御威胁。本研究的实验结果表明，该方法在绝大部分情况下都能较好地平衡防御和模型可用性。

Apr, 2023

关于分割学习的数据无关模型反演、模型窃取和标签推理攻击

通过两种新攻击方法，我们表明 Split learning 算法不能保障训练数据和模型参数的安全，因此提供的隐私保护是虚假的。

Aug, 2021

SplitGuard：在分布式学习中检测和缓解训练劫持攻击

本文提出 SplitGuard 方法来检测分布式深度学习模型中的训练劫持攻击，以保障数据私密性的同时，最大化减少敏感信息恢复的风险。

Aug, 2021

面向隐私保护的联邦学习进展：从联邦学习到分裂学习

该文章探讨了分散协作机器学习（DCML）范式下分布式学习（FL）和分裂学习（SL）的应用，以及它们与隐私的关系和代码实现。

Nov, 2020

关于分割学习服务端后门攻击的可行性

本文通过在服务器端注入后门触发器，对分割学习中的后门攻击进行了新型研究，研究结果表明，尽管使用了强的模式和注入方法，但分割学习对于这种污染攻击是高度强大和抗性强的。

Feb, 2023

EXACT：Split Learning 的广泛攻击

介绍了 Split Learning 的优点和潜在的隐私风险，并提出了 EXACT 攻击方法以及不同隐私保护策略的有效性，结论表明，微小的差分隐私可以有效地减轻这一风险。

May, 2023