对话不是平面的：建模对话内容中动态信息流

ACLJun, 2021

对话不是平面的：建模对话内容中动态信息流

Conversations Are Not Flat: Modeling the Dynamic Information Flow across Dialogue Utterances

Zekang Li, Jinchao Zhang, Zhengcong Fei, Yang Feng, Jie Zhou

TL;DR本文提出了 DialoFlow 模型，引入了动态流机制来模拟上下文的流动，并设计 3 个训练目标来捕捉大规模预训练中每个话语带来的语义影响，实验表明，DialoFlow 在对话生成任务中优于 DialoGPT。我们还提出 Flow 评分，这是一种有效的自动度量，用于评估基于预训练 DialoFlow 的交互式人机对话质量，与 11 个聊天机器人中的人类评分呈高聊天机器人级别的相关性（ $r=0.9$）。

Abstract

Nowadays, open-domain dialogue models can generate acceptable responses according to the historical context based on the large-scale pre-trained language models. However, they generally concatenate the dialogue history directly as the model input to predict the response, which we named

open-domain dialogue models dialoflow dynamic flow mechanism training objectives dialogue generation

发现论文，激发创造

通过学习上下文和回应之间的模式信息来推动开放域对话生成

本文介绍了一种基于预训练语言模型（GPT-2）的开放域对话模型，通过学习训练样本中上下文和回复之间的隐式模式信息，改进了生成回复的质量。我们提出了改进的预训练模型的定期抽样方法，并设计了一种回复感知机制，使生成的回复更加多样化和接近人类回复。通过在 Persona-Chat 和 DailyDialog 数据集上对所提出的模型（RAD）进行评估，实验结果表明我们的模型在大多数自动和手动评估指标上优于基线模型。

Sep, 2023

如果您愿意，请多聊聊：动态线索词计划以延长对话

通过引入多轮提示词和强化学习方法来建立开放式的多轮对话系统，优化对话流程建模，提高生成响应的质量，相关实验结果验证优于竞争基线模型。

Nov, 2018

FlowDelta: 建模对话机理解中信息获取的流动增益

本文提出了一种显式建模对话推理信息增益的方法来更好地理解对话流程和理解其背后的上下文，其在 QuAC 和 SCONE 数据集上取得最先进性能，展示了该方法的有效性和其推广到不同 QA 模型和任务的能力。

Aug, 2019

TOD-Flow：任务导向对话结构建模

我们提出了一种从对话数据中推断出 TOD-Flow 图的新方法，该图可以与对话模型集成，以改善其预测性能、透明度和可控性，并且在 MultiWOZ 和 SGD 基准测试中显著提高了对话行为分类和端到端响应生成性能。

Dec, 2023

FlowQA：历史流程掌握在对话机器理解中的应用

本文介绍了 FlowQA，一种基于 Flow 机制的会话式机器阅读理解模型，该模型可利用中间表示来整合之前的问答对，将序贯指令理解降为会话式机器阅读理解，并且在多个任务中表现出卓越的性能。

Oct, 2018

真相与唯一的真相：使用数据流传输和受限解码的忠实可控对话响应生成

介绍了一种基于规则式与神经式语言生成结构的对话回复生成方法，该系统在流畅性，相关性和真实性方面在人类评估中的性能都优于基于规则式和学习式的方法。

Sep, 2022

利用循环神经网络的对话上下文语言模型

本文提出了一种将对话级别的语篇信息融入语言模型中的上下文语言模型，该模型在 Switchboard Dialog Act Corpus 上表现出比传统单轮 RNN 语言模型更好的性能。

Jan, 2017

多轮主题驱动对话中有效信息利用的探究

该研究通过 Fusion-in-Decoder 技术，采用多个通道对话历史和主题信息进行编码，实现了对长文本的多方面信息的利用，通过实验发现整篇文章通道加上历史通道的方法在 NaturalConv 数据集上的表现比较竞争性。

Sep, 2022

基于通道感知的多轮对话理解解耦网络

本文提出了一种组合学习方法，进一步超越了预先训练的语言模型，以捕捉涉及对话历史的话语感知和说话人感知等表示。通过使用 Transformer-based PrLM 的 masking 机制，将每个单词分别聚焦在当前话语，其他话语和两种说话人角色（即发送者话语和接收者话语）上，有效区分上下文信息。此外，该方法在对话领域适应性训练策略上借鉴了域自适应训练策略，成功地在四个公共基准数据集上取得了新的最先进性能。

Jan, 2023

GraphFlow：利用图神经网络挖掘对话流程进行对话机器理解

本研究提出了 GraphFlow 模型，通过图形结构学习技术及 Recurrent Graph Neural Network 有效捕捉了磋商历史，并引入流机制建模上下文图形的时间依赖关系，从而提高了对话流的捕获能力，对 CoQA、QuAC 和 DoQA 等基准测试表现具有竞争力，而且可为推理过程提供良好的可解释性。

Jul, 2019