May, 2024

透视 LLMs 的词汇敏感性:为 Prompt 增强进行组合优化

TL;DR结合最近的研究,本文发现大型语言模型对任务指令中的词语变化非常敏感,即使对人类来说变化几乎无法察觉。通过在潜在表示空间中提供相近但仅有一个语义上相似的词语的邻居指令,我们发现模型在完成下游任务的性能会有巨大差异。基于这一性质,我们提出了一个黑盒优化框架,即 Prompt Lexical Enhancement 的组合优化(COPLE)。COPLE 根据一批代理任务的反馈进行迭代的词语优化,并使用与词语影响力相关的搜索策略。实验证明,即使是目前流行的人工设计的提示任务,也因模型对词语敏感性而受到影响,而 COPLE 在遵循指令、解决下游任务方面恢复了模型的性能。