Sep, 2022

真相与唯一的真相：使用数据流传输和受限解码的忠实可控对话响应生成

PDF
TL;DR介绍了一种基于规则式与神经式语言生成结构的对话回复生成方法，该系统在流畅性，相关性和真实性方面在人类评估中的性能都优于基于规则式和学习式的方法。
发现论文，激发创造
  • 通过可控特征提高基于知识的对话的准确性

    研究知识基础对话系统，控制生成神经对话模型，加入不同的评估措施作为样式控制以鼓励模型生成有据可依的响应，并通过人类评估研究判断控制生成模型的产出通常更加客观和有据可依。

    Jul, 2021

  • 数据流对话生成

    在任务导向对话生成的数据流对话范式中，我们展示了议程驱动的多 WOZ 领域对话生成的示例，以及 SMCalFlow 领域中无议程生成对话的示例。当使用生成的对话来增强翻译训练数据集时，我们展示了用户请求到数据流表达的翻译准确性的提高。

    Aug, 2023

  • 一种可控的基于 grounded 的回复生成模型

    该论文提出了一种名为可控接地响应生成（CGRG）的框架，利用词汇控制短语来提高语义控制能力，有效避免了事实准确性和信息量之间的矛盾并超越强大的生成基准线。

    May, 2020

  • 使用噪声通道模型在文档驱动对话系统中控制事实性

    本文提出了一种模型，通过 Bayes 定理将其分解为两个部分，其中一个是传统的非基础回应生成模型，另一个是基于对话上下文和生成的回应重建基础文档的模型。我们提出了不同的近似解码方案，并在多个开放域和面向任务的基础对话数据集上评估我们的方法，实验表明该模型在自动事实度指标方面比基线模型更为准确。此外，我们概述了如何介绍组件之间的缩放因子以控制模型输出中的事实度和流畅性之间的权衡。最后，我们将我们的方法与最近提出的用于控制基础对话中事实度的方法 CTRL 进行了比较，并表明这两种方法可以结合起来实现额外的改进。

    Oct, 2022

  • 低资源知识驱动对话生成

    在低资源环境下，通过设计一种解耦响应解码器使模型可以仅从大量未接地对话和非结构化文档中学习，而只使用有限的训练示例就能很好地拟合剩余的小参数。在两个基准测试上的评估结果表明，我们的模型仅使用 1/8 的训练数据就可以实现最先进的性能，而且对领域外知识有很好的概括能力。

    Feb, 2020

  • 利用自动会话评估器实现连贯和引人入胜的口语对话响应生成

    本研究提出一个评估聊天机器人响应的系统，利用明确的反馈机制改进神经响应图生成模型，从而获得更具连续性和参与度的响应。

    Apr, 2019

  • 基于知识的神经对话模型

    本文针对神经网络模型生成内容不足的对话应用展开了研究，提出了一种全新的、基于数据和知识驱动的神经对话模型，该模型通过同时考虑历史对话和外部 “事实” 来生成更有用的回应，实验证明该方法在开放领域中具有广泛应用前景，相较于基线模型的 Seq2Seq 方法，能够显著提高输出的信息量。

    Feb, 2017

  • 使用生成式分层神经网络模型搭建端到端对话系统

    使用生成模型在大型对话语料库上构建开放域对话系统的任务得到了研究，这里我们扩展了分层递归编码器 - 解码器神经网络到对话领域，并证明了该模型与最先进的神经语言模型和后退 n-gram 模型有竞争力，我们进一步探讨了该方法及类似方法的局限性，再展示了如何通过从更大的问答匹配语料库和预训练的词嵌入中引导学习以提高其性能。

    Jul, 2015

  • 即插即用式对话模型

    本文介绍了一种新的控制对话响应生成的方法 —— 插入式方法，其不需要注释对话数据集或精调大规模语言模型，并可以实现高度控制所生成的会话响应的多个方面。

    Oct, 2020

  • 对话不是平面的：建模对话内容中动态信息流

    本文提出了 DialoFlow 模型，引入了动态流机制来模拟上下文的流动，并设计 3 个训练目标来捕捉大规模预训练中每个话语带来的语义影响，实验表明，DialoFlow 在对话生成任务中优于 DialoGPT。我们还提出 Flow 评分，这是一种有效的自动度量，用于评估基于预训练 DialoFlow 的交互式人机对话质量，与 11 个聊天机器人中的人类评分呈高聊天机器人级别的相关性（ $r=0.9$）。

    Jun, 2021