Mar, 2024

FedPIT: 面向隐私保护和少样本联邦指导调优

PDF
TL;DR使用 Federated Instructioin Tuning（FedIT）方法，利用大型语言模型的上下文学习能力自动生成任务特定的合成数据进行训练，以提高联邦学习的 Few-shot 性能、保护隐私并对抗不同数据的异质性。
instruction tuninglarge language modelsfederated instruction tuningprivacy-preservingfederated few-shot
发现论文，激发创造
  • 构建联邦 GPT: 联邦指导调优

    本文提出了一种基于联邦学习的指令调整方法，名为 FedIT，它可以利用客户端上存储的异构和多样化指令，保护隐私和确保数据安全，提高了 LLM 的性能，同时在 GitHub 上开发了名为 Shepherd 的基础框架，提供了探索异构指令下的联邦微调 LLM 的支持。

    May, 2023

  • 个性化联邦指令调整通过神经结构搜索

    基于架构搜索的个性化联邦指导微调框架允许每个客户端在扩展的参数空间中搜索个性化架构，通过剪枝参数恢复到原始状态，以同时保留可训练参数的数量，在非完全独立的场景中，相比于最先进的 FIT 方法，我们的方法可以实现达到 23% 的困惑度降低。

    Feb, 2024

  • 大型语言模型联邦指导调优中涌现的安全攻击与防御

    我们首次揭示了 FedIT 中安全对齐的漏洞，提出了一种简单、隐蔽但有效的安全攻击方法，并进一步提出了一种事后防御方法。实验证明，我们的安全攻击方法可以显著破坏 LLM 的安全对齐，而现有的防御方法无法有效防御，而我们的安全防御方法可以显著增强被攻击的 LLM 的安全对齐。

    Jun, 2024

  • 大型语言模型的个性化无线联邦学习

    基于大型语言模型的联邦学习方法，在无线网络中解决了隐私和安全保护机制不足的问题，并通过两种个性化无线联邦微调方法实现了低通信开销。

    Apr, 2024

  • 当联邦学习遇到预训练语言模型的参数高效调整方法

    本文旨在探讨如何在隐私保护的前提下，同时减少通信开销和本地模型适应成本，在联邦学习范式下提高微调预训练语言模型效率和性能，为此我们引入了多种参数节约的微调方法（PETuning），并提供了适用于各种实验条件的实证研究和联邦微调框架 FedPETuning。

    Dec, 2022

  • 大型语言模型的参数高效微调的自动联合管道

    通过使用自动联邦化管道（FedPipe），我们设计和实现了一种在最小化训练成本的同时不增加推理延迟的联邦学习方法来对大语言模型进行微调，从而加速模型训练并获得比最先进基准更高的准确性。

    Apr, 2024

  • 联邦学习：在数据智能和隐私之间取得平衡

    本文提供了一种系统的概述和分类，涵盖了联邦学习的现有安全挑战以及针对数据污染，推断攻击和模型毒化攻击的防御技术。此外，还探讨了处理非独立同分布数据、高维度问题和异构架构的联邦学习的当前训练挑战，并提出了解决相关挑战的几种解决方案。最后，我们讨论了联邦学习训练中剩余的挑战，并提出了针对开放问题的研究方向建议。

    Apr, 2022

  • 黑盒大型预训练模型的高效联邦迁移调整

    基于预训练模型，提出了一种去中心化的黑盒提示调整方法，解决了内存约束和数据隐私问题，并在 CV 和 NLP 任务上进行了全面评估。

    Oct, 2023

  • 通过本地训练增强联邦学习中的隐私保护

    通过提出联邦私有局部训练算法（Fed-PLT），本文解决了联邦学习中昂贵的通信和隐私保护等挑战，通过局部参与和训练，在中央协调员和计算代理之间显著减少通信轮次，实现了局部训练对准确性的无影响匹配。同时，代理具有从不同局部训练求解器中选择的灵活性，如（随机）梯度下降和加速梯度下降，还探讨了如何利用局部训练来增强隐私，并推导了差分隐私边界及其与局部训练轮次的依赖关系，通过理论分析和分类任务的数值结果与其他技术进行比较，评估了所提算法的有效性。

    Mar, 2024

  • FedBPT: 大型语言模型的高效联邦式黑盒提示调整

    该论文介绍了一种名为 Federated Black-box Prompt Tuning (FedBPT) 的框架，通过优化提示语并利用无梯度的优化方法，实现了在保护隐私的前提下，减少模型参数交互、提升通信效率、降低计算和存储成本，从而有效地进行预训练语言模型的细调。

    Oct, 2023