hallucination problems | BriefGPT

关键词hallucination problems

搜索结果 - 6

SIGIR评估 RAG-Fusion 与 RAGElo：自动基于 Elo 的框架
针对检索增强生成（RAG）问答系统的自动化评估中存在的领域特定知识虚构问题和公司内部任务缺乏标准基准的挑战，我们提出了一个综合评估框架，利用大型语言模型（LLM）生成基于真实用户查询和领域内文档的大规模合成查询数据集，使用 LLM 作为评判
PDF12 days ago
高效知识路径的推理：知识图引导领域问题回答的大型语言模型
通过在知识图谱（KG）上选择推理路径并结合思维链（CoT）和 PageRank 的子图检索方法，本文整合和优化了一个基于大型语言模型（LLM）的管道，可以减少对 LLM 的依赖。最终，RoK 证明了使用较少的 LLM 调用可以达到相同的结果
PDF3 months ago
FGAIF：用细粒度 AI 反馈对齐大规模的视觉语言模型
通过 Fine-Grained 人工智能反馈以及基于强化学习将多模态对齐，解决了 Large Vision-Language Models 中的幻觉问题，提高了模型的性能。
PDF3 months ago
InstructGraph: 通过图形中心的指令调优和偏好对齐，提升大型语言模型
通过指令调整和偏好对齐，InstructGraph 框架赋予大型语言模型（LLMs）图推理和生成能力。该框架中，我们首先提出了结构化格式化语言器来统一所有图数据，并且引入了图指令调整阶段来指导 LLMs 解决图推理和生成任务。最后，我们针对
PDF5 months ago
RLHF-V：通过细粒度纠正人类反馈以实现可信赖的 MLLMs
通过细粒度纠正的人类反馈，RLHF-V 通过行为对齐增强了 Multi-Modal Large Language Models (MLLMs) 的可靠性。通过在自动化和人类评估中进行全面实验，RLHF-V 能够以有希望的数据和计算效率，在五
PDF7 months ago
CBSiMT: 基于加权前缀对前缀训练的同时翻译中减轻幻觉
我们提出了一种基于置信度的同传机器翻译框架（CBSiMT），通过利用模型置信度来察觉幻觉标记，并通过加权的前缀对前缀训练来减轻它们的负面影响。实验结果表明我们的方法可以在大多数延迟范围内持续提高翻译质量，低延迟时提高 2 个 BLEU 分数
PDF8 months ago