SplitFed Learning 的安全性分析

Dec, 2022

Security Analysis of SplitFed Learning

Momin Ahmad Khan, Virat Shejwalkar, Amir Houmansadr, Fatima Muhammad Anwar

TL;DR本文首次对 SplitFed 的强韧性进行了实证分析，结果表明 SplitFed 在面对模型毒化攻击时降低精度的程度是 Federated Learning 的 1/5，这是由于 SplitFed 具有较小的维度和更高的抗攻击能力。

Abstract

split learning (SL) and federated learning (FL) are two prominent distributed collaborative learning techniques that maintain data privacy

split learning federated learning data privacy model poisoning attacks robustness

发现论文，激发创造

SplitFed: 联邦学习与 Split Learning 相遇

本研究介绍一种名为 Split-fed learning (SFL) 的新颖算法，它将 Federated learning (FL) 和 Split learning (SL) 相结合，解决了它们各自固有的缺点，并增强了数据隐私和模型鲁棒性。SFL 具有比 SL 更短的计算时间，并具有与 SL 相似的测试准确性和通信效率，非常适用于资源受限的环境中。

Apr, 2020

面向隐私保护的联邦学习进展：从联邦学习到分裂学习

该文章探讨了分散协作机器学习（DCML）范式下分布式学习（FL）和分裂学习（SL）的应用，以及它们与隐私的关系和代码实现。

Nov, 2020

分析 SplitFed Learning 中的漏洞：评估对数据投毒攻击的鲁棒性

该研究是在分布式协作机器学习中对数据投毒攻击影响进行早期研究，提出了针对 SplitFed Learning 的三种新型攻击策略：非定向攻击、定向攻击和基于距离的攻击。通过对心电图信号分类和自动手写数字识别两个案例研究进行了一系列攻击实验，分别改变了恶意客户端的比例和模型分割层的选择，综合分析结果表明，非定向攻击和基于距离的投毒攻击对逃避分类器结果的影响更大。

Jul, 2023

SplitFed 对数据包丢失的韧性：分割的位置在哪里，这是个问题

分析了分布式机器学习中的深度分裂学习及其对通信链路中数据丢失的鲁棒性，验证了不同分裂点对最终模型准确性的统计显著差异，为分布式机器学习的发展提供了重要洞察。

Jul, 2023

优化分割点的容错分割联邦学习

研究调查了 SplitFed 在模型分割点的数据丢失健壮性，通过分析在不同点（浅分割或深分割）处分割模型对最终全局模型性能的影响，探讨了 SplitFed 的各种参数聚合策略。在人类胚胎图像分割任务上进行的实验表明，深分割点具有显著优势。

May, 2024

基于代表共享的可扩展协作学习

通过在线知识蒸馏使用对比损失的新方法，保证了参与者在不共享其输入数据的情况下学习相似类别的相似特征，并将平均最后隐藏层激活的特征表示发布到中央服务器，然后客户端使用对比目标在其个人模型中蒸馏其知识，从而比独立学习和其他联邦知识蒸馏 (FD) 方案提高了模型的效用，本框架在多个数据集上使用不同的模型架构进行了性能基准测试。

Nov, 2022

高效异构联邦学习：一种基于匹配和分割学习的方法

提出了一种新颖的拆分联邦学习（SFL）框架，它通过将具有不同计算资源的客户端配对，将神经网络模型逻辑分为两部分，每个客户端只计算分配给它的部分，从而显著提高了联邦学习的训练速度，并在独立相同分布（IID）和非 IID 数据分布中实现了高性能。

Aug, 2023

MISA：揭示分割联邦学习的漏洞

提出了一种名为 MISA 的新型中毒攻击，通过污染顶部和底部模型导致全局模型失调，最终导致显著的准确率下降。该攻击揭示了 Split Federated Learning 的漏洞，挑战了其对中毒攻击的鲁棒性的传统观念。广泛的实验证明了 MISA 对 Split Federated Learning 可用性的重大威胁，强调学术界和工业界需要给予此问题充分重视。

Dec, 2023

联邦学习的进展：模型、方法和隐私

本文详细阐述了联邦学习的体系结构、应用问题、算法设计原则和安全问题，提出了一种更加通用的算法设计框架、攻击场景和防御方法，致力于将联邦学习与真实世界应用相集成并实现高性能、隐私保护和安全性。

Feb, 2023

联邦学习的安全与隐私问题

分布式学习中的联邦学习存在安全和隐私挑战，本研究针对各类机器学习模型，包括大型语言模型，提出了安全和隐私挑战的综合分类，重点关注聚合器和参与者的攻击，包括投毒攻击、后门攻击、成员推断攻击、生成对抗网络攻击和差分隐私攻击，同时提出了未来研究的新方向，旨在强化联邦学习系统以应对新兴安全风险并保护分布式学习环境中的敏感数据隐私。

Jul, 2023