通过量化的 LoRA 技术促进联邦学习的数据和模型隐私保护

Jun, 2024

通过量化的 LoRA 技术促进联邦学习的数据和模型隐私保护

Promoting Data and Model Privacy in Federated Learning through Quantized LoRA

JianHao Zhu, Changze Lv, Xiaohua Wang, Muling Wu, Wenhao Liu...

TL;DR在联邦学习的背景下，我们引入一种方法来保护数据和模型的隐私，只需在训练过程中分发模型参数的量化版本。该方法结合了量化策略和 LoRA，显著降低了联邦学习中的通信成本，并且确保了数据和模型的隐私保护，同时提高了中央模型的泛化能力和资源利用效率。

Abstract

Conventional federated learning primarily aims to secure the privacy of data distributed across multiple edge devices, with the global model dispatched to edge devices for parameter updates during the learning process. However, the development of large language models (LLMs) requires s

federated learning privacy protection quantization lora communication costs

发现论文，激发创造

差分隐私低秩适应大型语言模型的联邦学习

通过使用 DP-LoRA，这篇文章介绍了一种针对大型语言模型的新的联邦学习算法，旨在确保数据隐私并优化通信效率，以实现严格的隐私约束条件。

Dec, 2023

随机量化，差分隐私在联邦学习中十分必要

本研究提出了一种通过量化和差分隐私相结合的联合学习算法 —— Randomized Quantization Mechanism（RQM）, 该算法通过两层随机化达到了 Renyi 差分隐私保护，同时在 DP 联合学习的隐私 - 准确性平衡方面取得了较好的表现，是首次仅通过随机量化而不使用显式离散噪声实现 Renyi DP 保证的研究。

Jun, 2023

隐私保护联邦学习中 LoRA 的改进

在隐私保护联邦学习中，本文提出了一种高效且有效的低秩适应方法 FFA-LoRA，通过固定非零矩阵并仅微调零矩阵，缓解了数据异构性、差分隐私增强噪声放大以及超参数敏感性等挑战，同时将通信成本减半，并在各种联邦学习任务中展现了更一致的性能和更好的计算效率。

Mar, 2024

高效隐私保护 LLM 的 PrivateLoRA

在这项研究中，我们提出了一个新颖的 LLM 服务范例，通过在边缘设备上分布隐私敏感计算和在云端共享计算的方式，实现了数据本地性；我们的核心创新 PrivateLoRA 通过利用残余激活的低秩性质实现了超过 95% 的通信减少，从而高效地维护了数据本地性；在 5G 网络下，PrivateLoRA 在 7B 模型上的吞吐量达到了设备独立解决方案的 300% 以上和 33B 模型上 A100 GPU 的 80% 以上；同时，PrivateLoRA 还提供了与 LoRA 相媲美的调优性能，使边缘设备能够获得最先进的生成式人工智能，并为广大公众提供更加个性化的 LLM 体验。据我们所知，我们提出的框架是文献中第一个高效且保护隐私的 LLM 解决方案。

Nov, 2023

FedLoRA：具有 LoRA 调整的异构模型个性化联邦学习

基于 LoRA 调优的计算和通信高效的模型异构个性化联邦学习框架（FedLoRA）为每个联邦学习客户端设计了一个同质化小适配器，从而使得客户端可以在不产生高计算和通信成本的情况下训练异构化的本地模型。FedLoRA 在两个真实数据集上的实验表明，它在测试准确性方面比六种最先进的基准方法表现更好，准确性提高了 1.35%，计算开销减少了 11.81 倍，通信成本降低了 7.41 倍。

Oct, 2023

LoftQ: 针对大型语言模型的 LoRA 微调感知量化

我们提出了 LoftQ，这是一个新的量化框架，旨在同时量化 LLM 并为 LoRA fine-tuning 找到适当的低秩初始化，以改善量化和全精度模型之间的差异，并显著提高下游任务的泛化性能。

Oct, 2023

混合精度量化解决联邦学习中的梯度泄露攻击

研究提出了混合精度量化 FL 方案作为反制措施，该方案可解决加密密钥的生成过程由于客户端数量增加而变得繁琐的难题，同时通过量化不同精度不同模式中深度模型的不同层，使该方案具有更多的鲁棒性，实证分析证明，应用量化后全局模型的准确性仅有轻微下降。

Oct, 2022

异构语言任务和客户资源下的分布式大型语言模型微调

FlexLoRA 是一种用于 LLM fine-tuning 的聚合方案，通过动态调整本地 LoRA 等级并使用奇异值分解（SVD）进行权重重新分配，充分利用了异构客户端资源。在涉及超过 1,600 个客户端执行多样化的自然语言处理（NLP）任务的实验中，证实了 FlexLoRA 的有效性，联邦全局模型在下游 NLP 任务性能方面平均提高了 3.1%。FlexLoRA 的实用性进一步强调了其与现有的基于 LoRA 的联邦学习方法的无缝集成和理论分析，提供了一种可扩展的、隐私保护的 LLM 联邦调整路径。

Feb, 2024

量化全局模型更新的联邦学习

本文提出一种基于压缩全局模型的损失型联邦学习算法（LFL），该算法相对于完全无损方法，使用较少的通信资源来实现相同的收敛性。

Jun, 2020

大型语言模型的个性化无线联邦学习

基于大型语言模型的联邦学习方法，在无线网络中解决了隐私和安全保护机制不足的问题，并通过两种个性化无线联邦微调方法实现了低通信开销。

Apr, 2024