Sep, 2022
基于提示不确定性传播方法的少样本语言模型微调的冷启动数据选择
Cold-Start Data Selection for Few-shot Language Model Fine-tuning: A
Prompt-Based Uncertainty Propagation Approach
TL;DR本文提出了一种新的方法PATRON，它使用基于提示的不确定性估计来选择数据，以进行在冷启动场景下进行预训练语言模型微调，并且在六个文本分类数据集上的实验证明，PATRON优于最强的冷启动数据选择基准高达6.9%。