基于复制增强的序列到序列模型在任务型对话中表现良好

Jan, 2017

基于复制增强的序列到序列模型在任务型对话中表现良好

A Copy-Augmented Sequence-to-Sequence Architecture Gives Good Performance on Task-Oriented Dialogue

Mihail Eric, Christopher D. Manning

TL;DR本篇论文采用潜在神经嵌入状态和学习选择性关注，以及复制上下文等技术，对话系统可以不依赖于显式的用户意图和信念状态而实现特定领域用户对话。它证明了简单的序列到序列神经网络结构与复制机制的有效性，并在每次对话回应生成方面比更复杂的记忆增强模型高出 7％，达到了 DSTC2 的最新水平。

Abstract

task-oriented dialogue focuses on conversational agents that participate in user-initiated dialogues on domain-specific topics. In contrast to chatbots, which simply seek to sustain open-ended meaningful discourse, existing task-oriented agents usually explicitly model user intent and

task-oriented dialogue latent neural embedding selective attention copy mechanism per-response generation

发现论文，激发创造

面向任务型对话的灵活结构模型

本文提出了一种新颖的端到端体系结构，用于任务导向型对话系统，该体系结构基于简单实用但非常有效的序列到序列方法，以联合建模语言理解和状态跟踪任务，同时使用结构复制增强的顺序解码器和每个插槽的多标签解码器。在评估中，这种架构在剑桥餐厅数据集和斯坦福车载助理数据集上均取得了最先进的性能。

Aug, 2019

面向任务的对话的序列到序列学习与对话状态表示

该论文提出了一种新的框架，将对话状态建模为固定大小的分布式表示，并使用注意机制查询知识库，以解决任务导向的对话系统中的问题。实验结果显示，这种框架在自动评估和人类评估上都明显优于其他基于序列到序列模型的模型。

Jun, 2018

一个面向对话状态追踪的序列转序列方法

该研究论文提出了一种新的对话状态追踪方法，使用 Seq2Seq-DU，该方法通过两个基于 BERT 的编码器来编码对话中的话语和模式的描述，可以有效地处理类别和非类别槽，并能够联合建模意图、槽和槽值，其效果较现有方法更为优越。

Nov, 2020

面向任务对话系统的实体感知知识检索与生成响应的复制机制学习

本文描述利用预训练语言模型及粗层次知识信息进行基于任务的对话建模，实现对话历史和知识访问的响应生成，并在模型最终输出的基础上进行后处理策略以进一步提升知识应用，在客观指标下获得第二名，在人类指标下获得第四名的实验结果。

Dec, 2020

MA-DST: 基于多注意力的可扩展对话状态跟踪

本文提出了一种新的架构，利用多粒度的注意力机制来更稳健地编码对话历史和槽的语义，用于实现准确的跨域对话状态跟踪，并在 MultiWoZ 2.1 数据集上将联合目标准确率提高了 5%（绝对值），并在零 - shot 设置下比现有最先进技术提高至多 2%（绝对值）。

Feb, 2020

基于序列到序列模型的口语对话系统用户模拟

本文介绍了一种基于编码 - 解码循环神经网络的数据驱动用户模拟器，能够更具上下文准确输出用户意图，相较于基于议程和 n-gram 的模拟器，在 DSTC2 数据集上获得更高的 F-score，展示了更精细分类用户行为的能力。

Jun, 2016

实现任务导向对话的流畅性和连贯性

本论文研究了如何在实际的客服对话场景中，生成自然流畅的语言回应和正确的外部操作指令，使用了序列到序列模型并采用了近邻基于嵌入空间的方法，在确保对话连贯性、生成准确的外部操作指令的同时，显著提高了回应的流利程度和准确性。

Apr, 2018

以任务为导向的对话系统作为自然语言生成

本文提出了一种基于大规模预训练模型（如 GPT-2）的任务驱动对话系统纯自然语言生成任务，以简化复杂的词语替换处理，但是直接使用会遇到对话实体不一致性和预训练模型精调时的灾难性遗忘问题，因此我们设计了一种新的 GPT-Adapter-CopyNet 网络，它将轻量级 adapter 和 CopyNet 模块融入 GPT-2，以实现更好的迁移学习和对话实体生成，而且实验结果表明，我们的方法在自动和人类评估方面的性能显著优于基线模型。

Aug, 2021

知识感知图增强的 GPT-2 用于对话状态跟踪

本文介绍了一种新的混合架构，将 GPT-2 与来自 Graph Attention Networks 的表示相结合，以实现逐步预测插槽值，并捕获跨域的插槽之间的关系和依赖关系，以提高多域会话跟踪的性能。该模型通过图模块捕获插槽之间的相互依赖性并提高了跨多个域常见的值的预测。

Apr, 2021

目标驱动和视觉对话系统的全流程优化

本文介绍了一种基于深度强化学习的方法，使用策略梯度算法来优化基于任务且与视觉相关的对话，该方法在通过 Mechanical Turk 收集的 12 万个对话数据集上进行了测试，并提供了鼓舞人心的结果，可以解决生成自然对话和在复杂图像中发现特定对象的问题。

Mar, 2017