Feb, 2024
大型语言模型能否像人类一样回忆参考位置？
Can Large Language Models Recall Reference Location Like Humans?
Ye Wang, Xinrun Xu, Rui Xie, Wenxin Hu, Wei Ye
TL;DR本文研究了利用大型语言模型（LLMs）预训练阶段存储的参数化知识，独立地从任意起始位置检索参考段落的方法，并提出了一个模拟人类检索易被遗忘参考的两阶段框架。实验证明，LLMs 能够独立检索各种任务形式中的参考段落位置，并且获取的参考对下游任务产生了显著帮助。