ACLMar, 2021

一个 Prompt 值得多少数据点?

TL;DR本研究目的是在公平的环境中比较使用泛用模型的头部和使用任务特定提示的微调,通过控制各种先天优势,我们发现提示确实带来了好处,并且这种好处可以针对每个任务进行量化,结果表明,相对于分类任务,提示通常值得跨越数百个数据点。