Sep, 2023

FIAT: 融合学习范式和加速调优的指令

PDF
TL;DR使用两种学习模式，即上下文学习（ICL）和完全微调，以及一种新的学习范式 FIAT，该范式将二者结合起来，使得在使用最大尺寸模型的同时，可以进行快速引擎指令和思维链推理，并利用类似方法对规模适度的 LLM 进行参数更新。我们发现，FIAT 在各种多语言任务上的表现优于 ICL 和完全微调，训练样本范围为 100-10,000。希望 FIAT 为充分发挥 LLMs 的潜力提供了一种实用的方式，无需在学习范式之间进行困难选择。
发现论文，激发创造
  • 探索上下文学习与指导调整之间的关系

    In this work, the relationship between In-Context Learning (ICL) and Instruction Tuning (IT) is explored by examining how the hidden states of Large Language Models (LLMs) change in these two paradigms, finding that ICL is implicit IT and the convergence is contingent upon factors related to the provided demonstrations.

    Nov, 2023

  • 利用大型语言模型进行代码生成的参数高效微调技术探究

    通过对大规模语言模型进行参数高效微调技术的研究，本文在自动化代码生成场景下全面研究了这些技术对大规模语言模型的影响，实验结果表明这些技术在减轻计算负担和提高性能方面表现优越，为软件工程场景中的更广泛应用开启了机会。

    Aug, 2023

  • 对大型语言模型进行少样本多语言 NLU 分析与适应：如今已经达到目标了吗？

    三种常用方法，即监督微调、监督指令微调和上下文学习，是少样本学习的三种替代方法。本文对这三种方法进行了广泛而系统的比较，测试了六种高低资源语言、三种不同的 NLU 任务以及各种语言和领域设置。观察结果显示，监督指令微调在性能和资源需求方面具有最佳平衡性。此外，本文还分析了预训练 LLM 的目标语言适应性，并发现标准适应方法能在表面上提高目标语言生成能力，但经 ICL 引发的语言理解并未改善且受限，尤其是对于低资源语言而言，得分较低。

    Mar, 2024

  • 上下文指导学习

    本文发现采用上下文学习作为指示学习方法（ICIL）可提高预训练和指示微调模型的零样本任务泛化能力，使用固定的单一提示来评估所有任务。

    Feb, 2023

  • 重新审视指令精调模型评估以指导工业应用

    指导微调（IFT）是一种强化大型语言模型（LLM）的零样本能力的强大范式，但在此过程中引入了新的评估指标要求。我们展示了基于 LLM 的评估指标适应这些要求，并利用它们对任务专业化策略进行调查，量化在实际工业环境中出现的权衡。我们的发现为从业者在实际的 IFT 模型部署中提供了可行的见解。

    Oct, 2023

  • 大型语言模型（LLM）在低资源环境中不同有效微调方法的比较分析

    该研究探讨了大型语言模型的细调策略，发现可替代方法在领域外泛化方面与标准方法相媲美，强调了对有效提示的需求，并针对可用资源和任务适应性进行合适的细调方法选择。

    May, 2024

  • 迭代前向调整促进语言模型内部学习

    本研究提出了一种有效的、高效的两阶段方法来增强大型语言模型中的上下文学习，该方法利用 Transformer 注意力和梯度下降优化之间的双重形式，将上下文学习过程分为 'Thinking' 和推理阶段，通过递归前向优化演示来增强 LLLs 的推理能力，并且将得到的元梯度通过注意力应用于最终的输出预测中，从而有效地、高效地适应下游任务。

    May, 2023

  • 少样本参数高效微调优于上下文学习且更为经济

    通过比较 Few-shot in-context learning 和 Parameter-efficient fine-tuning 的方法，我们证明 PEFT 具有更好的精度和极低的计算成本。我们提出了一种名为 (IA)$^3$ 的新的 PEFT 方法，并提出了一个基于 T0 模型的简单配方，称为 T-Few，在没有任务特定调整或修改的情况下可以应用于新任务。我们在 RAF 基准测试中验证了 T-Few 的有效性，首次达到了超人类表现，并超越了现有技术的 6％。

    May, 2022

  • 通过微调和上下文学习引导大型语言模型进行机器翻译

    通过使用适配器进行微调，我们可以改善大型语言模型在机器翻译方面的性能，并减少训练参数量，同时保持微调模式的效果，解决了少样本学习和过度生成的问题。

    Oct, 2023

  • 基于上下文学习的重新思考对齐的解锁咒语

    通过对基于 SFT 和 RLHF 的对齐方法的分析，我们发现通过 ICL 方法 URIAL，使得基于语言模型的对齐方法不再需要 SFT 或 RLHF 来实现高效对齐，并且实验证明 URIAL 的性能与基于 SFT 或 SFT+RLHF 的方法相媲美甚至更优。这些结果表明，对于未来的 LLM 研究来说，更深入的对齐分析和理论理解至关重要。

    Dec, 2023