Jul, 2023

分析 SplitFed Learning 中的漏洞：评估对数据投毒攻击的鲁棒性

PDF
TL;DR该研究是在分布式协作机器学习中对数据投毒攻击影响进行早期研究，提出了针对 SplitFed Learning 的三种新型攻击策略：非定向攻击、定向攻击和基于距离的攻击。通过对心电图信号分类和自动手写数字识别两个案例研究进行了一系列攻击实验，分别改变了恶意客户端的比例和模型分割层的选择，综合分析结果表明，非定向攻击和基于距离的投毒攻击对逃避分类器结果的影响更大。
发现论文，激发创造
  • SplitFed Learning 的安全性分析

    本文首次对 SplitFed 的强韧性进行了实证分析，结果表明 SplitFed 在面对模型毒化攻击时降低精度的程度是 Federated Learning 的 1/5，这是由于 SplitFed 具有较小的维度和更高的抗攻击能力。

    Dec, 2022

  • 计算机网络中的数据污染攻击暴露下的联邦学习漏洞

    数据污染攻击对于计算机网络领域的严重性进行了实证研究，发现 Label Flipping 攻击易于检测，而 Feature Poisoning 攻击难以被察觉，证明了后者在欺骗服务器方面的重要性。

    Mar, 2024

  • 面向隐私保护的联邦学习进展：从联邦学习到分裂学习

    该文章探讨了分散协作机器学习（DCML）范式下分布式学习（FL）和分裂学习（SL）的应用，以及它们与隐私的关系和代码实现。

    Nov, 2020

  • 针对联邦学习系统的数据污染攻击

    本文研究了面向联邦学习系统的有针对性的数据毒化攻击，通过对恶意参与者的异常检测和排除，提出了一种有效的防御策略。

    Jul, 2020

  • 联邦式机器学习的数据注入攻击

    本文旨在研究联邦机器学习中的数据投毒攻击漏洞，使用一个基于多任务学习框架的联邦学习框架，提出了一个自适应的双层优化问题，并提出了一种系统感知的优化方法，ATTack on Federated Learning (AT2FL)，用于计算联邦机器学习中的设备投毒策略。实验结果表明，无论是直接毒害目标节点还是利用通信协议间接毒害相关节点，联邦多任务学习模型都非常容易受到投毒攻击的影响。

    Apr, 2020

  • MISA：揭示分割联邦学习的漏洞

    提出了一种名为 MISA 的新型中毒攻击，通过污染顶部和底部模型导致全局模型失调，最终导致显著的准确率下降。该攻击揭示了 Split Federated Learning 的漏洞，挑战了其对中毒攻击的鲁棒性的传统观念。广泛的实验证明了 MISA 对 Split Federated Learning 可用性的重大威胁，强调学术界和工业界需要给予此问题充分重视。

    Dec, 2023

  • 资源有限的物联网环境中仅包含正标签的联邦分割学习

    在分布式协作机器学习领域中，我们提出了一种名为 SFPL 的框架，通过在设备之间分布处理数据并利用正标记数据，使得资源受限的物联网设备在训练深度学习模型时能够达到比现有方法更好的结果。

    Jul, 2023

  • SplitFed: 联邦学习与 Split Learning 相遇

    本研究介绍一种名为 Split-fed learning (SFL) 的新颖算法，它将 Federated learning (FL) 和 Split learning (SL) 相结合，解决了它们各自固有的缺点，并增强了数据隐私和模型鲁棒性。SFL 具有比 SL 更短的计算时间，并具有与 SL 相似的测试准确性和通信效率，非常适用于资源受限的环境中。

    Apr, 2020

  • SplitFed 对数据包丢失的韧性：分割的位置在哪里，这是个问题

    分析了分布式机器学习中的深度分裂学习及其对通信链路中数据丢失的鲁棒性，验证了不同分裂点对最终模型准确性的统计显著差异，为分布式机器学习的发展提供了重要洞察。

    Jul, 2023

  • 关于分割学习服务端后门攻击的可行性

    本文通过在服务器端注入后门触发器，对分割学习中的后门攻击进行了新型研究，研究结果表明，尽管使用了强的模式和注入方法，但分割学习对于这种污染攻击是高度强大和抗性强的。

    Feb, 2023