May, 2023
通过逐步指导提高跨任务泛化性能
Improving Cross-Task Generalization with Step-by-Step Instructions
Yang Wu, Yanyan Zhao, Zhongyang Li, Bing Qin, Kai Xiong
TL;DR研究通过逐步指南调整的方式,可以帮助语言模型完成指定任务,提高跨任务泛化能力。自动获得的逐步指南,结合原始指南对语言模型进行调整,可以为完成目标任务提供详细和具体的步骤。研究发现,高质量的逐步指南可以提高不同模型大小之间跨任务的泛化能力,并且步骤的顺序对此具有重要影响。