Feb, 2024

个性化联邦指令调整通过神经结构搜索

PDF
TL;DR基于架构搜索的个性化联邦指导微调框架允许每个客户端在扩展的参数空间中搜索个性化架构，通过剪枝参数恢复到原始状态，以同时保留可训练参数的数量，在非完全独立的场景中，相比于最先进的 FIT 方法，我们的方法可以实现达到 23% 的困惑度降低。
federated instruction tuningfitpersonalized federated instruction tuningarchitecture searchparameter-wise aggregation
发现论文，激发创造
  • FedPIT: 面向隐私保护和少样本联邦指导调优

    使用 Federated Instructioin Tuning（FedIT）方法，利用大型语言模型的上下文学习能力自动生成任务特定的合成数据进行训练，以提高联邦学习的 Few-shot 性能、保护隐私并对抗不同数据的异质性。

    Mar, 2024

  • 构建联邦 GPT: 联邦指导调优

    本文提出了一种基于联邦学习的指令调整方法，名为 FedIT，它可以利用客户端上存储的异构和多样化指令，保护隐私和确保数据安全，提高了 LLM 的性能，同时在 GitHub 上开发了名为 Shepherd 的基础框架，提供了探索异构指令下的联邦微调 LLM 的支持。

    May, 2023

  • 大型语言模型的个性化无线联邦学习

    基于大型语言模型的联邦学习方法，在无线网络中解决了隐私和安全保护机制不足的问题，并通过两种个性化无线联邦微调方法实现了低通信开销。

    Apr, 2024

  • FedSelect：个性化联邦学习的参数定制选择

    本文提出了一种新的联邦学习框架，名为 FedSelect，可以通过发现最佳参数进行个性化，并同时进行其他参数进行全局聚合，以此同时地个性化客户子网络结构和参数。

    Jun, 2023

  • 当联邦学习遇到预训练语言模型的参数高效调整方法

    本文旨在探讨如何在隐私保护的前提下，同时减少通信开销和本地模型适应成本，在联邦学习范式下提高微调预训练语言模型效率和性能，为此我们引入了多种参数节约的微调方法（PETuning），并提供了适用于各种实验条件的实证研究和联邦微调框架 FedPETuning。

    Dec, 2022

  • 利润：联邦提示调优中个性化和鲁棒性权衡的基准化

    在联邦学习中，通过有限的本地更新和计算限制，对大型语言模型进行 FEFT（参数高效微调）时，需要平衡个性化和鲁棒性之间的权衡，研究结果表明采用小学习速率和许多局部训练轮次进行个性化时，联邦训练的提示可以在很大程度上保持鲁棒性。

    Oct, 2023

  • 自我感知个性化联邦学习

    本论文提出了一种自我感知的个性化联邦学习方法，通过采用贝叶斯分层模型，利用不确定性量化来平衡本地模型改进和全局模型调整，使用不确定性驱动的本地训练步骤和聚合规则来实现。通过实验研究，该方法显著提高了个性化性能。

    Apr, 2022

  • 黑盒大型预训练模型的高效联邦迁移调整

    基于预训练模型，提出了一种去中心化的黑盒提示调整方法，解决了内存约束和数据隐私问题，并在 CV 和 NLP 任务上进行了全面评估。

    Oct, 2023

  • 自适应个性化联邦学习

    本文提出了一种自适应个性化联邦学习算法，采用局部和整体模型混合的方法来提高模型的个性化能力，并使用通信高效的最优化方法来协同学习个性化模型，实验证明了该算法的有效性与泛化理论的正确性。

    Mar, 2020

  • FedPEAT：移动边缘计算中的联邦学习、参数高效微调和仿真器辅助调整在人工智能基础模型上的融合

    在当前的基础模型时代中，我们介绍了 Emulator-Assisted Tuning (EAT) 和 Parameter-Efficient Fine-Tuning (PEFT) 结合形成的 Parameter-Efficient Emulator-Assisted Tuning (PEAT)，进一步将其扩展为联邦学习的 FedPEAT。FedPEAT 使用适配器、仿真器和 PEFT 进行联邦模型调优，提高了模型的隐私性和内存效率。同时，我们的方法适用于各种神经网络，并利用深度增强学习进行超参数优化。我们在一种特殊的场景中对 FedPEAT 进行了测试，通过服务器参与协作联邦调优的方式展示了其在解决基础模型挑战方面的潜力。

    Oct, 2023