knowledge conflicts | BriefGPT

关键词knowledge conflicts

搜索结果 - 11

IRCAN: 通过识别和重新赋权上下文感知神经元以减少 LLM 生成中的知识冲突
通过强化关键上下文处理神经元的权重，IRCAN 能够解决大型语言模型在生成文本时面临的知识冲突问题，并且提供可与现有模型无缝集成的扩展解决方案。
PDF10 days ago
WikiContradict: 对维基百科上真实知识冲突的 LLM 评估基准
通过对大规模语言模型（LLMs）使用检索增强生成（RAG）来评估知识冲突的处理方法，特别是针对来源相同且具有相等可信度的检索到的段落，研究发现所有模型在提供包含相互矛盾的事实的两个段落时，都难以生成准确反映冲突性质的答案，尤其是对于需要推理
PDF17 days ago
研究大型语言模型在现实知识冲突下的行为
通过真实冲突文档更新错误的派生参数知识来研究知识冲突，结果显示模型的正确派生参数知识对其阅读能力和行为产生负面影响。
PDF2 months ago
LLM 学生的知识冲突调查
通过对大型语言模型（LLMs）的知识冲突进行深入分析，本调查报告重点研究了它们在融合上下文和参数化知识时所面临的复杂挑战。我们关注三类知识冲突：上下文 - 记忆、不同上下文之间和内部记忆冲突。这些冲突会严重影响 LLMs 的可信度和性能，尤
PDF4 months ago
斩首结束冲突：解析和缓解语言模型中的知识冲突机制
通过信息流的角度解释知识冲突的机制，并在关键点进行精确干预，以解决语言模型中的知识冲突问题。通过剪枝冲突的注意力头部，我们提出了一种称为 PH3 的新方法，它可以高效地减轻知识冲突，并能改善语言模型在开放领域 QA 任务上的性能。
PDF4 months ago
COLING知识之间的博弈：探索和解决检索增强语言模型中的知识冲突
探索和解决检索增强语言模型中的知识冲突，提出了冲突 - 分离 - 对比解码（CD2）方法来更好地校准模型的置信度，实验证明 CD2 可以有效解决检索增强语言模型中的知识冲突。
PDF4 months ago
通过上下文信息熵约束的自适应解码来辨别和解决知识冲突
大语言模型内部化了巨大的参数知识，在预训练期间。然而，逼真的应用需要外部的背景知识来帮助模型在底层任务上。本研究提出了一种自适应解码方法，称为上下文信息熵约束解码（COIECD），以确定是否发生知识冲突并解决它们。它可以提高模型对相冲突背景
PDF5 months ago
解决大型语言模型中的知识冲突
大型语言模型（LLMs）在识别知识冲突方面表现良好，但在确定具体的冲突知识并在相冲突的信息中给出不同的答案方面存在困难。为了解决这些问题，我们提出了一种基于指令的方法来增强 LLMs 以更好地实现这三个目标。进一步的分析显示，解决知识冲突的
PDF9 months ago
就医后感到不适？诊断和缓解事件时序推理中的知识冲突
该研究系统地定义了事件时间推理中的偏见种类，包括事件关系、时态、叙述和依赖关系偏见，并介绍了一种基于反事实数据增强的方法来解决这些知识冲突并提高模型的性能。实验证明了减少偏见有助于降低虚构和提高模型性能的潜力。
PDFa year ago
EMNLP丰富的知识来源会带来复杂的知识冲突：重新校准模型以反映冲突的证据
本论文探讨了问题回答模型如何使用丰富的知识源，同时我们模拟了知识冲突并发现检索性能对模型所依赖的知识源有很大影响，我们发现当前的模型大多依赖非参数化知识。为解决此问题，我们在本论文中提出了一项新的校准研究，以避免在检索出多个冲突答案选项时，
PDF2 years ago
EMNLP基于实体的问答中的知识冲突
本文研究了知识依赖任务中遇到的知识冲突问题，找出造成模型幻觉的原因，提出了一种简单的减轻过度依赖学习参数的方法，可以减少幻觉现象并提高模型的泛化性能。
PDF3 years ago