BriefGPT.xyz
大模型
Ask
alpha
关键词
lost-in-the-middle challenge
搜索结果 - 2
充分利用上下文的 LLM
通过信息密集型(IN2)训练,我们提出了一种完全数据驱动的解决方案来克服长上下文的缺失问题,该方法能够有效地利用长上下文中的信息,并且在现实世界的长上下文任务中显著提高性能。
PDF
2 months ago
位于中间:通过即插即用位置编码,语言模型更好地使用长上下文
本文介绍了一种名为多尺度位置编码(Ms-PoE)的简单而有效的插件式方法,用于增强大型语言模型(LLMs)处理位于上下文中部的相关信息的能力,并通过广泛的实验证明了该方法的有效性。
PDF
4 months ago
Prev
Next