EMNLPJan, 2022

自然语言处理的安全高效联邦学习框架

PDF
TL;DR本文介绍了一种名为 SEFL 的安全高效联邦学习框架，它消除了训练所需的可信实体，提高了模型准确性，又能适应客户端退出等问题。通过 NLP 任务的实验研究表明，SEFL 与现有的 FL 方案具有可比性，且提出的剪枝技术可以提高运行时性能高达 13.7 倍。
federated learningsecureefficientseflclient dropout
发现论文，激发创造
  • 联邦学习的进展：模型、方法和隐私

    本文详细阐述了联邦学习的体系结构、应用问题、算法设计原则和安全问题，提出了一种更加通用的算法设计框架、攻击场景和防御方法，致力于将联邦学习与真实世界应用相集成并实现高性能、隐私保护和安全性。

    Feb, 2023

  • 5G 网络安全联邦学习框架

    本文提出了一种基于区块链的安全联邦学习框架，通过构建智能合约，自动执行防御策略，识别恶意攻击参与者，同时采用本地差分私有化技术，有效地防止中毒和成员推断攻击。

    May, 2020

  • 联邦学习：应用、挑战和未来方向

    本文提供了关于联邦学习的概述，并重点关注医疗保健领域。通过中央协调器服务器共享全局深度学习模型，解决了隐私保护需求并探讨了联邦学习遇到的挑战和未来发展方向，其中使用多方计算、同态加密、差分隐私和随机梯度下降等多种隐私方法。

    May, 2022

  • 安全地使用私有数据：大规模语言模型的联邦学习框架

    我们提出了一种用于大型语言模型的联邦学习框架 FL-GLM，通过在本地客户端放置输入块和输出块以防止来自服务器的嵌入梯度攻击，使用密钥加密来防止来自对端客户端的逆向工程攻击，并采用客户端批处理或服务器分层等优化方法来提高训练效率。通过在 NLU 和生成任务上的实验结果，证明了 FL-GLM 与集中式 chatGLM 模型具有可比较的指标，验证了我们的联邦学习框架的有效性。

    Jun, 2024

  • SaFL：面部识别系统中具备 Sybil 感知能力的联邦学习

    使用 Sybil 感知的联邦学习（SaFL）的新防御方法，通过一种新颖的时变聚合方案最小化 sybil 的影响。

    Nov, 2023

  • 在联邦学习框架下维护隐私和安全

    通过模拟结果，本文分析了联邦学习中的隐私和安全问题并提出了保护数据隐私的挑战。

    Sep, 2019

  • 安全聚合的高效垂直联邦学习

    本文提出了一种使用最先进的安全模块进行安全和高效的垂直联邦学习的新方法，与同态加密（HE）相比，该方法提供了 9.1e2〜3.8e4 的加速，同时不影响训练性能。

    May, 2023

  • 联邦学习的安全与隐私问题

    分布式学习中的联邦学习存在安全和隐私挑战，本研究针对各类机器学习模型，包括大型语言模型，提出了安全和隐私挑战的综合分类，重点关注聚合器和参与者的攻击，包括投毒攻击、后门攻击、成员推断攻击、生成对抗网络攻击和差分隐私攻击，同时提出了未来研究的新方向，旨在强化联邦学习系统以应对新兴安全风险并保护分布式学习环境中的敏感数据隐私。

    Jul, 2023

  • 联邦学习：最新进展与应用的前沿综述

    在机器学习系统中，通过联邦学习作为一个安全的分布式机器学习方法，有效提升隐私安全；它利用区块链技术将机器学习模型转移到边缘服务器，通过这种机制保证了集中式和分散式系统的高效处理和数据存储需求，强调可伸缩性、隐私考虑和成本有效的通信。本文对最近的联邦学习应用进行了分析和比较，以评估其效率、准确性和隐私保护。然而，鉴于联邦学习复杂且不断演化的特点，明确需要进一步研究来解决知识间的差距并有效应对该领域面临的挑战。在本文中，我们将最近的文献分为以下几个类别：隐私保护、资源分配、案例研究分析和应用，此外，在每个章节的末尾，我们还对参考文献中提出的开放领域和未来方向进行了总结，为研究人员提供了领域演进的深入视角。

    Oct, 2023

  • H-FL：面向联邦学习的分层通信高效和隐私保护体系结构

    本文提出了一种名为分层联邦学习（H-FL）的新框架，通过运行时分布重构策略，利用中介将客户端重新分配并重新安排客户端的本地训练，设计了一种压缩校正机制，同时不牺牲模型性能，降低通信开销，引入局部训练的差分隐私，注入适量的噪声到完整模型的一部分中，从而提供隐私保障，在真实的图像识别任务的不同数据集上实验结果表明，我们的 H-FL 框架实现了最先进的性能。

    Jun, 2021