Apr, 2024

FPT:用于少样本可读性评估的特征提示调整

TL;DR我们提出了一种新的基于提示的调优框架,称为特征提示调优(FPT),它结合了丰富的语言知识,通过从文本中提取语言特征并将其嵌入可训练的软提示,进一步设计了一种新的损失函数来校准类别之间的相似度排名顺序,实验证明我们的方法在诸多方面均显著提高了性能,并超越了先前引入语言特征的方法以及大型语言模型 gpt-3.5-turbo-16k。我们的方法为提示调优建立了一种新的体系结构,并为如何轻松调整语言特征来适应与语言相关的任务提供了指导。