BriefGPT.xyz
Apr, 2024
RAG模型的忠实程度:量化RAG与LLMs内部先验之间的博弈
How faithful are RAG models? Quantifying the tug-of-war between RAG and LLMs' internal prior
HTML
PDF
Kevin Wu, Eric Wu, James Zou
TL;DR
通过系统分析语言模型的内部知识和检索信息间的冲突来回答疑问,我们发现正确的检索信息可以修复大多数模型错误,但当参考文档中存在错误信息时,模型的内部知识对该错误信息存在较大的依赖性。这些结果突显了模型的先验知识与参考文档中呈现的信息之间的潜在紧张关系。
Abstract
retrieval augmented generation
(RAG) is often used to fix
hallucinations
and provide up-to-date
knowledge
for
→