异构云和高性能计算资源上的安全联邦学习 -- 以 LLaMA 2 联邦微调为案例研究

Feb, 2024

异构云和高性能计算资源上的安全联邦学习 -- 以 LLaMA 2 联邦微调为案例研究

Secure Federated Learning Across Heterogeneous Cloud and High-Performance Computing Resources -- A Case Study on Federated Fine-tuning of LLaMA 2

PDF

Zilinghan Li, Shilan He, Pranshu Chaturvedi, Volodymyr Kindratenko, Eliu A Huerta...

TL;DR通过仅共享本地训练模型的参数，联邦学习可以使多个数据所有者合作训练强大的机器学习模型，而无需传输大量或敏感的本地数据。本文详细介绍了我们的高级隐私保护联邦学习（APPFL）框架的设计，通过利用 Globus Compute，一个分布式函数即服务平台和亚马逊云服务，在云计算设施和高性能计算资源之间实现端到端的安全可靠的联邦学习实验流程。我们进一步演示了在几个云资源和超级计算机上使用 APPFL 对 LLaMA 2 7B 模型进行微调的用例。

Abstract

federated learning enables multiple data owners to collaboratively train robust machine learning models without transferring large or sensitive local datasets by only sharing the parameters of the locally trained models. In this paper, we elaborate on the design of our Advanced Privacy

federated learning advanced privacy-preserving federated learning cloud computing high-performance computing llama 2 7b model

发现论文，激发创造

联邦学习：最新进展与应用的前沿综述

在机器学习系统中，通过联邦学习作为一个安全的分布式机器学习方法，有效提升隐私安全；它利用区块链技术将机器学习模型转移到边缘服务器，通过这种机制保证了集中式和分散式系统的高效处理和数据存储需求，强调可伸缩性、隐私考虑和成本有效的通信。本文对最近的联邦学习应用进行了分析和比较，以评估其效率、准确性和隐私保护。然而，鉴于联邦学习复杂且不断演化的特点，明确需要进一步研究来解决知识间的差距并有效应对该领域面临的挑战。在本文中，我们将最近的文献分为以下几个类别：隐私保护、资源分配、案例研究分析和应用，此外，在每个章节的末尾，我们还对参考文献中提出的开放领域和未来方向进行了总结，为研究人员提供了领域演进的深入视角。

Oct, 2023

在最边缘上的 LLM 联邦微调：好，坏，丑陋

通过硬件为中心的方法，本研究探讨了如何将大型语言模型 (LLMs) 应用于现代边缘计算系统，并使用联邦学习 (FL) 对 FLAN-T5 模型家族进行微调，以进行文本摘要任务。通过与数据中心 GPU 的比较，我们评估了边缘计算系统的当前能力以及它们在 LLM FL 工作负载方面的潜力，并展示了在边缘端实现更大计算效率的潜力与下一步的发展方向。

Oct, 2023

联邦学习：应用、挑战和未来方向

本文提供了关于联邦学习的概述，并重点关注医疗保健领域。通过中央协调器服务器共享全局深度学习模型，解决了隐私保护需求并探讨了联邦学习遇到的挑战和未来发展方向，其中使用多方计算、同态加密、差分隐私和随机梯度下降等多种隐私方法。

May, 2022

安全地使用私有数据：大规模语言模型的联邦学习框架

我们提出了一种用于大型语言模型的联邦学习框架 FL-GLM，通过在本地客户端放置输入块和输出块以防止来自服务器的嵌入梯度攻击，使用密钥加密来防止来自对端客户端的逆向工程攻击，并采用客户端批处理或服务器分层等优化方法来提高训练效率。通过在 NLU 和生成任务上的实验结果，证明了 FL-GLM 与集中式 chatGLM 模型具有可比较的指标，验证了我们的联邦学习框架的有效性。

Jun, 2024

联邦学习的进展：模型、方法和隐私

本文详细阐述了联邦学习的体系结构、应用问题、算法设计原则和安全问题，提出了一种更加通用的算法设计框架、攻击场景和防御方法，致力于将联邦学习与真实世界应用相集成并实现高性能、隐私保护和安全性。

Feb, 2023

APPFLx：以服务方式提供隐私保护的跨场所联邦学习

通过引入 APPFLx，实现跨领域隐私保护联邦学习作为一种服务的平台，并采用 Globus 认证，实现容易且安全地邀请值得信赖的合作者进行隐私保护联邦学习，并实现多种同步和异步的联邦学习算法，简化联邦学习实验启动过程，实现联邦学习实验的生命周期跟踪和可视化，使领域专家和机器学习从业者能够在一个平台上轻松协调和评估跨领域联邦学习。

Aug, 2023

大型语言模型的个性化无线联邦学习

基于大型语言模型的联邦学习方法，在无线网络中解决了隐私和安全保护机制不足的问题，并通过两种个性化无线联邦微调方法实现了低通信开销。

Apr, 2024

异构语言任务和客户资源下的分布式大型语言模型微调

FlexLoRA 是一种用于 LLM fine-tuning 的聚合方案，通过动态调整本地 LoRA 等级并使用奇异值分解（SVD）进行权重重新分配，充分利用了异构客户端资源。在涉及超过 1,600 个客户端执行多样化的自然语言处理（NLP）任务的实验中，证实了 FlexLoRA 的有效性，联邦全局模型在下游 NLP 任务性能方面平均提高了 3.1%。FlexLoRA 的实用性进一步强调了其与现有的基于 LoRA 的联邦学习方法的无缝集成和理论分析，提供了一种可扩展的、隐私保护的 LLM 联邦调整路径。

Feb, 2024

异构和长尾数据上的多层个性化联邦学习

MuPFL 是一种创新的个性化联邦学习框架，通过多层次结构完全利用不同层次的计算资源，解决数据异质性对模型偏差的影响，缓解过拟合、加速训练，提高分类准确性，并在非独立同分布和长尾条件下取得显著的有效性和效率方面的进展。

May, 2024

FederatedScope-LLM: 用于联邦学习中大型语言模型微调的综合套件

在联邦学习设置中，本文讨论了联邦微调语言模型 (LLMs) 的挑战，并引入了我们的 FS-LLM 软件包作为主要贡献，该软件包提供了全面的联邦参数高效微调算法实现和通用的编程接口，以实现低通信和计算成本的联邦学习场景。同时，本文进行了大量实验证明了 FS-LLM 的有效性，并为研究社区提供了有关联邦微调语言模型的宝贵见解。

Sep, 2023