Apr, 2024
LLMs中可靠的潜在知识估计：与上下文学习相比，基于提示的事实知识提取
Towards Reliable Latent Knowledge Estimation in LLMs: In-Context
Learning vs. Prompting Based Factual Knowledge Extraction
TL;DR我们提出了一种估计大型语言模型中嵌入的潜在知识的方法，该方法利用了大型语言模型的上下文学习能力来估计模型对存储在知识库中的事实的了解程度，并且我们的知识估计器避免了以前的提示式方法中存在的可靠性问题，且在概念上更简单且更易于应用，我们证明它可以揭示出更多嵌入在大型语言模型中的潜在知识。我们还研究了不同设计选择对基于上下文学习的知识估计性能的影响。通过所提出的估计器，我们对各种开源大型语言模型（如OPT，Pythia，Llama(2)，Mistral，Gemma等）在来自Wikidata知识库的大量关系和事实上的事实知识进行了大规模评估。我们观察到不同模型家族和不同大小的模型之间的事实知识存在差异，某些关系普遍比其他关系更为熟知，但是模型在知识上存在差异，以及基本模型和其微调模型之间的知识差异。