BriefGPT.xyz
Ask
alpha
关键词
external context
搜索结果 - 3
从 RAG 到丰富参数:探索语言模型如何利用外部知识和参数信息来处理事实查询
检视检索增强生成 (RAG) 方法,揭示语言模型倾向于仅依赖上下文信息来回答问题,而较少使用参数化记忆,通过因果中介分析和注意力机制等方法来证明该机械行为。
PDF
18 days ago
斩首结束冲突:解析和缓解语言模型中的知识冲突机制
通过信息流的角度解释知识冲突的机制,并在关键点进行精确干预,以解决语言模型中的知识冲突问题。通过剪枝冲突的注意力头部,我们提出了一种称为 PH3 的新方法,它可以高效地减轻知识冲突,并能改善语言模型在开放领域 QA 任务上的性能。
PDF
4 months ago
ACL
ReACC:一种检索增强型代码补全框架
本文提出了一种利用外部代码片段参考的检索增强代码补全框架,使用统计语言模型来训练,实现了针对 Python 和 Java 编程语言的最新表现状态的代码补全任务。
PDF
2 years ago
Prev
Next