May, 2023
信任你的证据:上下文感知解码减少幻觉
Trusting Your Evidence: Hallucinate Less with Context-aware Decoding
Weijia Shi, Xiaochuang Han, Mike Lewis, Yulia Tsvetkov, Luke Zettlemoyer...
TL;DR提出了一种上下文感知解码技术(CAD),通过对比上下文的存在与否来放大模型生成输出的概率得分,从而显著提高了 OPT、GPT、LLaMA 和 FLAN-T5 等不同 LM 系列在摘要任务中的可信度,并能够有效地改变模型的先验知识以解决知识冲突而带来的质量问题。