ACLMay, 2023
你所言非虚!大型语言模型对负面常识知识表现过于积极
Say What You Mean! Large Language Models Speak Too Positively about Negative Commonsense Knowledge
Jiangjie Chen, Wei Shi, Ziquan Fu, Sijie Cheng, Lei Li...
TL;DR本研究探讨了大型语言模型在处理负常识知识时的能力,通过设计了一系列的受限关键词句子生成任务和布尔问答任务,发现大型语言模型在生成句子方面存在信仰冲突现象,即难以生成基于负常识的句子,但能够正确回答极性的是或否问题。我们的进一步分析表明,语言模型预训练中的统计和否定偏见报告是这种冲突的原因。