hallucination mitigation | BriefGPT

关键词hallucination mitigation

搜索结果 - 7

基于策略的细粒度知识反馈用于幻觉缓解
在这篇论文中，我们介绍了一种基于在线强化学习的细粒度反馈方法（RLFH）来减轻大型语言模型在生成过程中产生的幻觉行为。通过将大模型的结果分解为原子事实，并提供语句级评估信号，RLFH 能够探索其内部知识的边界，并提供关于这些探索的在线、细粒
PDF16 days ago
幻觉减轻促进长期视频理解
本文提出了一种基于现有多模态大型语言模型的全面幻觉缓解方法，通过使用 CLIP 分数指导带有问题的帧采样过程，并将问题信息注入到图像 Q-former 的查询中以获取更重要的视觉特征，最终在 MovieChat 数据集上取得了 84.2％和
PDF17 days ago
通过精细的人工智能反馈检测和缓解大型视觉语言模型中的幻觉
通过细粒度人工智能反馈，检测和减轻大规模视觉语言模型中的幻觉现象。通过生成小规模句子级幻觉注释数据集和使用检测 - 重写流程来自动构建偏好数据集，进一步区分幻觉的严重程度，将幻觉严重程度纳入偏好学习来减轻大规模视觉语言模型中的幻觉。广泛实验
PDF2 months ago
用于少样本生成基于内容的问答对话的结构化思路引导
我们提出了一种结构化的思维链（SCoT）提示方法，使用预训练的大型语言模型（LLM）生成基于内容的多轮问答对话，并通过将复杂任务分解为状态机中的多个状态，通过其专用状态执行各种子任务，例如读取内容和生成话语等，以增加对基础文档的代理忠实度并
PDF4 months ago
幻觉检测与幻觉减缓：一项研究
大型语言模型（如 ChatGPT、Bard 和 Llama）在不同领域的应用中取得了显著的成功。然而，虚假生成是限制其广泛应用的关键问题。本报告意在综述虚假生成检测和虚假生成减轻的现有文献，旨在为对大型语言模型和将其应用于实际任务感兴趣的工
PDF6 months ago
Lyra：自动定理证明中的双重纠正策略
利用 Lyra 框架，引入 Tool Correction 和 Conjecture Correction 机制，以提高 Large Language Models 在形式证明领域中的效果，其中 Tool Correction 用于减轻幻觉
PDF9 months ago
大型语言模型的零资源幻觉预防
通过引入一种名为【自我检测】的新技术，本研究提出了一种预防性策略来减少大型语言模型中的 “幻觉” 现象，实验证明该技术在幻觉检测方面表现优异，对于提高语言助手的可靠性、适用性和解释性具有重要意义。
PDF10 months ago