Nov, 2021

先理性再回应：知识注入对话模块化生成

PDF
TL;DR本文提出了一个模块化的知识转换模型（K2R）来将知识纳入对话体系，通过将这一问题分解为两个简单的步骤来解决对该问题的挑战。在详细实验中，我们发现这种模型在与知识相关的对话任务中幻觉较少，并且具有解释性和模块化方面的优势。
large language modelsknowledge incorporationconversational agentsdialogue contextqa systems
发现论文，激发创造
  • 通过查询生成实现信息对话生成中的动态知识检索

    为了实现对话系统的智能回答，文中设计了 DRKQG，该系统能够根据上下文信息，在没有提前准备知识库的情况下通过搜索引擎检索相关知识，并利用生成模块同时考虑上下文信息和检索知识生成回答，实验结果表明，该模块在自动评估和人工评估两方面取得了优异的成绩。

    Jul, 2022

  • 面向对话系统的大规模可解释知识图谱推理

    该研究提出了一种新的方法，将知识推理能力纳入对话系统的可扩展性和通用性中，以提高用户体验。该方法使得单一转换器模型能够直接在大规模知识图谱上进行推理，以生成响应，并通过任务导向和特定领域的对话交流进行了实证研究，证明了其有效性和高效性。

    Mar, 2022

  • 检索增强减少对话中的幻觉

    本文研究了基于神经检索的循环架构在知识驱动的对话中的应用，将多个组件（检索器、排名器和编码器 - 解码器）结合在一起以最大化可知性并保留对话能力，在两个知识驱动的对话任务中实现了最先进的性能，并经过人工评估证实，大大减少了在最先进的聊天机器人中存在的知识幻觉问题。

    Apr, 2021

  • 寻求知识的语言模型：对话和提示补全的模块化搜索与生成

    本研究采用搜索引擎、知识生成，以及生成最终回复的单一语言模型 SeeKeR，来取代先前的隐式检索式方法，实现了开放域知识驱动的对话，以及在话题提示补全方面的表现优于 GPT2 和 GPT3。

    Mar, 2022

  • 利用逻辑推理和相关性评分进行检索增强型神经生成回应

    使用概率逻辑编程推演引入逻辑事实，结合基于检索的语言模型和逻辑推理的知识生成响应的新方法，在任务导向的对话系统中提高了回应的准确性和流畅性。

    Oct, 2023

  • 基于预训练语言模型的知识驱动对话生成

    我们使用预训练的语言模型来研究基于知识的对话生成，通过知识选择模块和无监督方法来优化知识选择和响应生成，实验结果表明，我们的模型在自动评估和人类判断方面都显著优于现有方法。

    Oct, 2020

  • 低资源知识驱动对话生成

    在低资源环境下，通过设计一种解耦响应解码器使模型可以仅从大量未接地对话和非结构化文档中学习，而只使用有限的训练示例就能很好地拟合剩余的小参数。在两个基准测试上的评估结果表明，我们的模型仅使用 1/8 的训练数据就可以实现最先进的性能，而且对领域外知识有很好的概括能力。

    Feb, 2020

  • 利用搜索引擎增强的对话响应生成及廉价监督查询生产

    通过使用查询产生器从动态信息检索引擎检索知识，为聊天机器人生成响应的对话模型中，基于廉价噪声监督的训练算法用于产生查询，调整查询生成器而无需人为标注黄金查询，取得了不错的检索效果，大大提高了聊天机器人响应的质量。

    Feb, 2023

  • 双重知识增强生成预训练语言模型的多模态对话系统

    本文提出了一个可以双重增强知识的生成式语言模型，用于为多模态任务导向式对话系统生成适当的文本响应。实验证明，该模型优于现有竞争对手。

    Jul, 2022

  • 基于知识的会话中的表达学习

    本研究提出一种基于变分方法的分段生成模型，使用两个序列潜状态变量分别表示响应的结构和内容风格，以探索响应中的隐含知识表达模式，并在两个基准测试中获得较好的评估结果。

    Apr, 2022