CVPRMay, 2022

ResSFL：面向拆分联邦学习中模型倒置攻击的抵抗传递框架

PDF
TL;DR本文提出了 ResSFL，一个抵抗 Model Inversion 攻击的 Split Federated Learning 框架。使用攻击感知的训练方法推导出抵抗特征提取器，并在标准的 SFL 训练之前初始化客户端模型。实验表明，在 CIFAR-100 数据集上，该框架成功地减轻了 VGG-11 模型上的 MI 攻击，并取得了 67.5% 的准确率，仅有 1% 的准确率下降。
model inversionsplit federated learningresistant feature extractoradversarial trainingmi attack mitigation
发现论文，激发创造
  • 适应性资源受限边缘网络中的自适应拆分联邦学习

    通过模型分割和客户端模型聚合，我们提出了一种适应资源受限边缘计算系统的新型资源自适应分割联邦学习（AdaptSFL）框架，以加速分割联邦学习并实现更好的训练性能。

    Mar, 2024

  • 基于代表共享的可扩展协作学习

    通过在线知识蒸馏使用对比损失的新方法，保证了参与者在不共享其输入数据的情况下学习相似类别的相似特征，并将平均最后隐藏层激活的特征表示发布到中央服务器，然后客户端使用对比目标在其个人模型中蒸馏其知识，从而比独立学习和其他联邦知识蒸馏 (FD) 方案提高了模型的效用，本框架在多个数据集上使用不同的模型架构进行了性能基准测试。

    Nov, 2022

  • 从表示的角度可证明抵御联邦学习中的隐私泄露

    本文针对联邦学习系统存在的隐私泄露问题，提出一种学习数据扰动来防止模型逆推攻击的防御策略，实验证明该方法在防御 DLG 和 GS 攻击的同时能够将数据重构误差提高 160 倍以上，有效提升联邦学习系统的隐私保护性能。

    Dec, 2020

  • 高效准确的分割联邦学习

    由于资源约束场景的优势，分割联邦学习（SFL）在 AIoT 系统中具有潜力。为了解决数据异构性和滞后问题，本文提出了一种名为滑动分割联邦学习（S^2FL）的新型 SFL 方法，该方法采用自适应滑动模型拆分策略和基于数据平衡的训练机制。实验结果表明，与传统的 SFL 相比，S^2FL 的推断准确性提高了 16.5％，训练加速了 3.54 倍。

    Nov, 2023

  • UIFV：纵向联邦学习中的数据重构攻击

    利用统一 InverNet 框架引入 VFL 中，通过利用中间特征数据重构原始数据，而不是依赖于梯度或模型细节，我们的研究揭示了 VFL 系统中的严重隐私漏洞，这对实际 VFL 应用构成了真正的威胁，并证实了进一步增强 VFL 架构中的隐私保护的必要性。

    Jun, 2024

  • MISA：揭示分割联邦学习的漏洞

    提出了一种名为 MISA 的新型中毒攻击，通过污染顶部和底部模型导致全局模型失调，最终导致显著的准确率下降。该攻击揭示了 Split Federated Learning 的漏洞，挑战了其对中毒攻击的鲁棒性的传统观念。广泛的实验证明了 MISA 对 Split Federated Learning 可用性的重大威胁，强调学术界和工业界需要给予此问题充分重视。

    Dec, 2023

  • SplitFed Learning 的安全性分析

    本文首次对 SplitFed 的强韧性进行了实证分析，结果表明 SplitFed 在面对模型毒化攻击时降低精度的程度是 Federated Learning 的 1/5，这是由于 SplitFed 具有较小的维度和更高的抗攻击能力。

    Dec, 2022

  • 有效的半监督异构参与者联邦学习

    在资源受限环境中，通过介绍聚类正则化和全局更新频率适应的控制算法，我们提出了一种新的训练模型系统，用于解决联合学习中的数据非独立同分布和模型收敛性问题，该系统在减少训练时间和通信成本的同时提高了准确性。

    Jul, 2023

  • FLIP：联邦学习中后门缓解的可证明防御框架

    本文介绍了一个理论分析及实验研究结果，关于联邦学习在提高隐私保护的同时，如何防止数据或梯度被恶意污染，通过提出反向工程防御方法，可以保证攻击成功率的减少，并提高对抗性的鲁棒性。

    Oct, 2022

  • 当 MiniBatch SGD 遇上 SplitFed Learning：收敛性分析与性能评估

    提出了 MiniBatch-SFL 算法，通过将模型在切割层处分为两部分，在减轻客户端设备的计算负载的同时解决了分布式学习中的客户端偏移问题。实验证明，相对于传统的 SFL 和 FL 方法，MiniBatch-SFL 在高度非独立同分布数据上的准确性提升分别可达 24.1% 和 17.1%。

    Aug, 2023