ACLMay, 2021

使用适配器的无检索知识驱动对话生成

PDF
TL;DR该论文介绍了一种名为 KnowExpert 的框架，将轻量级适配器注入预训练的语言模型中，在没有显式检索的情况下适应知识驱动的对话任务。实验结果表明，Knowexpert 的推理效率高，且在开放领域闲聊场景中的表现与一些基于检索的基线方法相当，证明了我们提出的方法的有效性。
knowledge-grounded dialoguedialogue responseknowexpertlanguage modelsinference efficiency
发现论文，激发创造
  • 低资源知识驱动对话生成

    在低资源环境下，通过设计一种解耦响应解码器使模型可以仅从大量未接地对话和非结构化文档中学习，而只使用有限的训练示例就能很好地拟合剩余的小参数。在两个基准测试上的评估结果表明，我们的模型仅使用 1/8 的训练数据就可以实现最先进的性能，而且对领域外知识有很好的概括能力。

    Feb, 2020

  • 基于预训练语言模型的知识驱动对话生成

    我们使用预训练的语言模型来研究基于知识的对话生成，通过知识选择模块和无监督方法来优化知识选择和响应生成，实验结果表明，我们的模型在自动评估和人类判断方面都显著优于现有方法。

    Oct, 2020

  • 通过查询生成实现信息对话生成中的动态知识检索

    为了实现对话系统的智能回答，文中设计了 DRKQG，该系统能够根据上下文信息，在没有提前准备知识库的情况下通过搜索引擎检索相关知识，并利用生成模块同时考虑上下文信息和检索知识生成回答，实验结果表明，该模块在自动评估和人工评估两方面取得了优异的成绩。

    Jul, 2022

  • 基于知识的会话中的表达学习

    本研究提出一种基于变分方法的分段生成模型，使用两个序列潜状态变量分别表示响应的结构和内容风格，以探索响应中的隐含知识表达模式，并在两个基准测试中获得较好的评估结果。

    Apr, 2022

  • 面向任务导向对话系统的双向反馈知识检索

    通过整合知识检索和回答生成，本研究提出了一种检索生成器架构，利用检索器获取相关知识并生成系统回应，并通过生成器的反馈建立检索训练标签，通过对三个基准数据集的实验结果证明了方法在任务导向对话任务中的优越性能。

    Oct, 2023

  • 智能友好的对话代理：基于知识和角色认知的应用

    本论文提出了一种有效的对话代理，同时考虑外部知识和个性，通过检索增强生成和知识个性增强查询来生成话语，实现了更少幻觉和更有吸引力的对话，在自动指标上的基于个性和知识的对话任务达到了最先进的性能，同时，通过人类评估和定性结果证明了模型对话的幻觉和吸引力，验证了检索的有效性。

    Jan, 2023

  • 基于知识的对话生成：对抗性多参照学习中不存在标准答案

    提出一种多参考知识对话模型 (KGC)，为了提高知识选择与生成的多样性，建立了一个多重参考的 KGC 数据集，并提出了一系列测量现有 KGC 模型效力的指标，使用基于跨度的变分模型并以改进的证据下界目标进行优化，以学习一对多泛化关系，该方法在机器和人工评估中均表现出良好的效力。

    Oct, 2022

  • 知识图谱增强的语言模型用于基于知识的对话生成

    提出了 SURGE 框架，用于生成上下文相关且基于知识图谱的对话，通过从知识图谱检索相关子图，并对其条件下的单词嵌入进行干扰以保持事实一致性并使用对比学习确保所生成的文本与检索到的子图具有高相似度，通过在 OpendialKG 和 KOMODIS 数据集上的实验验证了该框架的有效性。

    May, 2023

  • DyKgChat: 基于动态知识图谱的对话生成基准测试

    本文提出了一个新的任务，旨在研究如何在神经会话模型中应用动态知识图谱，并提供了 DyKgChat 话语语料库来帮助评估动态知识图谱对响应生成的影响。为了支持动态知识图谱，我们提出了一个选取两个网络的初步模型：序列到序列模型 (Seq2Seq) 和多跳推理模型。我们引入了几种评估指标进行评测，并实验证明我们的方法优于以往的知识驱动对话模型。该文所提出的语料库和模型可激发未来的研究方向。

    Oct, 2019

  • 一个面向开放领域对话生成的知识即插即用测试平台

    构建基于知识的开放领域对话生成技术旨在利用挖掘的知识与人类进行闲聊。本文提出了一个高质量的多源对话知识选择和生成评估基准，名为 multi-source Wizard of Wikipedia（Ms.WoW），用于评估多源对话知识选择和生成。与现有数据集不同的是，它包含了清晰的支持知识，以话语为单位分成多个知识来源。我们进一步提出了一个新挑战，即对话知识即插即用，旨在以零 - shot 的方式测试已经训练好的对话模型在使用未见过的新知识来源时的能力。

    Mar, 2024