hallucination problem | BriefGPT

关键词hallucination problem

搜索结果 - 15

理解 LLM 的需求：双重偏好对齐的检索增强生成
DPA-RAG 是一种用于对齐 Retrieval-Augmented Generation 系统中不同知识偏好的通用框架，通过引入查询增强策略和构建偏好知识管道解决了偏好数据稀缺的问题，并在实验证明其优于其他基线系统以及能够无缝集成黑盒和
PDF8 days ago
通过路径选择增强的知识图谱大型语言模型
提出了一个称为 KELP 的基于知识图谱的大型语言模型的框架来解决幻觉问题，通过生成与输入文本的潜在语义匹配程度评分，实现对知识路径的精细提取，同时通过已训练的编码器考虑与输入文本间具有间接语义关系的知识路径。实验验证了 KELP 的有效性
PDF15 days ago
如何在 POMDPs 中通过信念进行探索：状态熵最大化
本文研究了强化学习中的状态熵最大化，针对部分观测的真实状态提出了一种内存和计算效率高的策略梯度方法，解决了目标近似、优化和幻觉问题，旨在推广状态熵最大化到更现实的领域。
PDFa month ago
R4: 强化召回 - 重排 - 回应器用于检索增强的大型语言模型
提出了一种名为 “Reinforced Retriever-Reorder-Responder”（R^4）的新流程，用于学习检索增强大型语言模型（LLM）的文档排序，从而进一步增强它们的生成能力，同时保持 LLM 的参数不变。
PDF2 months ago
KS-LLM: 大型语言模型问题回答的证据文档知识选择
利用证据文档作为额外支持材料的知识选择方法可有效解决大型语言模型面临的幻觉问题和知识密集任务，提升大型语言模型的性能。该方法使用三元组从证据文档中选择有益于回答问题的知识片段，并与大型语言模型结合产生答案，实验证明其优于基线方法并取得最佳结
PDF2 months ago
思维的逻辑查询：通过知识图谱引导大型语言模型回答复杂逻辑查询
本文提出了 'Logic-Query-of-Thoughts' (LGOT) 方法，首次将大型语言模型 (LLMs) 与基于知识图谱的逻辑查询推理相结合，通过将复杂的逻辑查询拆解为易答的子问题，并利用知识图谱推理和 LLMs 共同解答，最终
PDF4 months ago
通过偏好微调来对齐视觉大型语言模型中的模态
通过引入偏好调优和自动生成数据的方法 POVID，本研究解决了视觉大语言模型中可能出现的幻觉问题，并通过直接偏好优化的强化学习模型提高了模型性能。
PDF5 months ago
黑盒大型语言模型和决策规划的高效非参数不确定性量化
该论文关注使用大型语言模型进行决策规划，并通过不确定性估计来解决语言模型中的幻觉问题，提出了非参数化的不确定性量化方法和决策代理设计的系统化方法，为人工智能代理的开发提供了一种高效的成本有效途径。
PDF5 months ago
超越幻觉：通过幻觉感知的直接偏好优化增强 LVLMs
这篇论文提出了一个新的策略：幻觉感知直接偏好优化（HA-DPO），通过训练模型在给定同一图像的两个回应（一个准确一个幻觉）时倾向于选择非幻觉回应，从而解决了多模式大型语言模型中存在的 “幻觉问题”。研究结果表明，在应用 HA-DPO 策略后
PDF7 months ago
EMNLP丰富保真度的对比搜索：在文本生成中协调忠实度与多样性的权衡
本文针对自然语言生成任务中常见的幻觉问题提出了一种新的解码方法，称为忠实度增强对比搜索（FECS），该方法通过上下文感知的正则化项来增强语义上与提供的来源相似的标记，同时对生成文本的重复性进行惩罚。在抽象化摘要和对话生成两个容易产生幻觉的任
PDF8 months ago
EMNLPKCTS: 基于知识约束的树搜索解码与令牌级幻觉检测
大型语言模型 (LLMs) 展示了令人瞩目的人类级自然语言生成能力。然而，它们产生误信息的潜力，通常被称为幻觉问题，给其应用带来了重大风险。为了克服这些限制，我们提出了一种称为 KCTS（知识约束树搜索）的知识约束解码方法，通过知识分类器分
PDF9 months ago
元 GPT: 多智能体协同框架的元编程
MetaGPT 是一种创新的框架，将有效的人类工作流作为元编程方法融入到 LLM 驱动的多智能体协作中，以便有效地解决复杂的多智能体协作问题，并在协作软件工程任务上实现了高一致性的全面解决方案。
PDFa year ago
交互式问答知识对齐减轻语言模型幻觉
介绍一种名为 MixAlign 的框架，通过与用户和知识库的交互来消除语言模型生成虚假和不支持的响应。MixAlign 利用语言模型实现自动问题 - 知识对齐，并在必要时通过人工用户澄清来进一步增强对齐，从而缓解了语言模型幻觉问题，并在实验
PDFa year ago
UPRISE：用于改进零样本评估的通用提示检索
UPRISE is a model that improves the generalization of large language models through a lightweight and versatile retrieve
PDFa year ago
从视觉到语言的知识迁移：如何实现和衡量？
探究使用视觉数据来补充大型语言模型知识的方法，并提出一种基于 memory colors 任务查询和模型训练数据过滤的方法，以用于测量模型的视觉知识传输能力，并介绍了一种涉及视觉想象步骤的模型架构，并发现我们的方法可以成功用于衡量模型的视觉
PDF3 years ago