EMNLPNov, 2023
主动指令调整:通过对响应敏感任务进行训练来改善跨任务泛化能力
Active Instruction Tuning: Improving Cross-Task Generalization by Training on Prompt Sensitive Tasks
Po-Nien Kung, Fan Yin, Di Wu, Kai-Wei Chang, Nanyun Peng
TL;DR通过基于提示不确定性的主动指导调整,本研究提出了一种新颖的框架来识别信息量大的任务,并在所选任务上主动调整模型,实验表明该方法在任务选择方面优于其他基准策略,并通过更少的训练任务实现了更好的超出分布的泛化性能。