COLINGApr, 2024

减轻知识驱动对话生成中的幻觉的因果观察

PDF
TL;DR本文通过反事实推理方法分析了幻觉问题背后的因果关系，提出了一种可能的解决方案，即通过利用对话 - 知识交互来减轻幻觉，在不影响对话性能的同时适应不同的生成模型。希望我们的努力能够支持并呼吁更多重视开发轻量级技术以实现强大可靠的对话系统。
dialogue systemshallucinationknowledge-grounded dialogue generationcounterfactual reasoning methodsdialogue-knowledge interaction
发现论文，激发创造
  • 对话系统中事实幻觉模式的深入探究

    该研究通过人工反馈分析，提出了一种针对知识图谱 (Knowledge Graph) 聊天机器人中存在的事实幻觉问题的实体级幻觉检测系统，并创建了 FADE 合成数据集，用于与已建立的基准进行比较。

    Jan, 2023

  • 神经路径猎人：通过路径基础减少对话系统中的臆想

    本研究提出了一种生成 - 修正策略的模型 Neural Path Hunter ，利用知识图谱的 k-hop 子图修正神经对话模型生成的结果以提高结果的正确性，并在 OpenDialKG 数据集上进行了实验证明在信实度上有 20.35% 的相对提升。

    Apr, 2021

  • 检索增强减少对话中的幻觉

    本文研究了基于神经检索的循环架构在知识驱动的对话中的应用，将多个组件（检索器、排名器和编码器 - 解码器）结合在一起以最大化可知性并保留对话能力，在两个知识驱动的对话任务中实现了最先进的性能，并经过人工评估证实，大大减少了在最先进的聊天机器人中存在的知识幻觉问题。

    Apr, 2021

  • 交互式问答知识对齐减轻语言模型幻觉

    介绍一种名为 MixAlign 的框架，通过与用户和知识库的交互来消除语言模型生成虚假和不支持的响应。MixAlign 利用语言模型实现自动问题 - 知识对齐，并在必要时通过人工用户澄清来进一步增强对齐，从而缓解了语言模型幻觉问题，并在实验中取得了显著改进。

    May, 2023

  • 通过自我反思来缓解大型语言模型中的幻想

    通过与大规模语言模型和数据集合作，本文分析了医学生成型问答系统中幻觉现象的问题，并提出了一种交互自我反思的方法来解决该挑战，最终实验证明该方法在幻觉减少方面优于基线模型。

    Oct, 2023

  • 谈话模型产生幻觉的起因：是数据集还是模型？

    这篇论文研究了知识驱动的对话模型中的幻觉问题，通过广泛的人类研究发现标准测试数据集中有超过 60％的幻觉响应，导致模型产生幻觉现象。提出了关于训练数据和模型质量的重要问题，并为未来的研究提供了公开的批注。

    Apr, 2022

  • 基于自治知识图谱改进的减轻大型语言模型幻觉

    知识图谱的积极运用可以有效减轻大型语言模型的虚构幻觉，本文提出了一种基于知识图谱的改进框架，通过将知识图谱与语言模型相结合，修改模型生成的初步回答，从而验证和完善其中的事实陈述，实验证明该框架在解决复杂推理过程中显著提高了语言模型在事实问答基准测试中的性能，有效减轻了虚构幻觉，增强了语言模型的可信度。

    Nov, 2023

  • 自然语言生成中幻觉的调查

    本文综述了关于深度学习在自然语言生成中出现幻觉问题的度量、缓解方法和未来方向，以及针对抽象摘要、对话生成、生成式问答、数据到文本生成、机器翻译和视觉语言生成的幻觉问题的任务特定研究进展。

    Feb, 2022

  • 对比学习减少对话中的虚幻

    该论文提出了一种名为 MixCL 的对比学习方案，通过显式优化 LM 的内在知识引出过程以减少困扰其会话的幻觉，在 Wizard-of-Wikipedia 上的实验证实了 MixCL 在对话中有效地减少了 LM 的幻觉，并在相关性和事实准确性方面实现了 LM 对话代理的最高性能。

    Dec, 2022

  • 通过自我完善增强的知识检索减轻大型语言模型的幻觉

    在医学领域中，通过使用自我完善的知识图谱检索方法（Re-KGR），我们可以显著提高大型语言模型的真实性，降低谬误并减少虚构内容。

    May, 2024