BriefGPT.xyz
Apr, 2023
使用GPT-4进行指令调优
Instruction Tuning with GPT-4
HTML
PDF
Baolin Peng, Chunyuan Li, Pengcheng He, Michel Galley, Jianfeng Gao
TL;DR
本文利用GPT-4生成的instruction-following数据进行大型语言模型finetuning,发现相较于之前最先进模型生成的数据,52K的英文和中文instruction-following数据可以显着提高新任务的零-shot性能。同时我们公开了GPT-4生成的数据以及我们的代码库。
Abstract
Prior work has shown that
finetuning
large language models
(LLMs) using machine-generated
instruction-following data
enables such models t
→