Oct, 2023

Ada-Instruct: 为复杂推理调整指令生成器

TL;DR通过对开源 LLMs 进行微调,我们引入了 Ada-Instruct,一种自适应指令生成器。我们的结果表明,通过仅使用十个样本对开源 LLMs 进行微调,可以生成分布一致的长指令,用于复杂的推理任务。我们在不同的应用中进行了实证验证,包括代码补全、数学推理和常识推理,结果显示 Ada-Instruct 相对于基本模型、当前自我指导方法和其他最先进模型具有优势。