使用生成模型在大型对话语料库上构建开放域对话系统的任务得到了研究，这里我们扩展了分层递归编码器 - 解码器神经网络到对话领域，并证明了该模型与最先进的神经语言模型和后退 n-gram 模型有竞争力，我们进一步探讨了该方法及类似方法的局限性，再展示了如何通过从更大的问答匹配语料库和预训练的词嵌入中引导学习以提高其性能。

Jul, 2015

本文介绍最近相结合的 seq2seq，深度神经网络和加强学习模型，考虑如何在决策制定的 RL 方法中利用序列到序列模型的长期记忆能力来解决复杂的问题，提出并探讨 RL 方法解决序列到序列模型领域常见的曝光偏差而且在训练与测试的指标上也不一致的两个问题，并提供了大多数 RL 模型的源代码以支持抽象文本摘要的复杂任务。

May, 2018

本文介绍了一种基于循环神经网络的编码器 - 解码器结构，其中引入了一个基于 LSTM 的解码器来选择、聚合输入元素上产生的语义元素，并生成所需的话语，该提议的生成器可以联合训练句子规划和表面实现以生成自然语言句子，实验结果表明，所提出的生成器不仅在所有自然语言生成领域中一致优于先前的方法，而且还具有从新领域进行泛化和从多领域数据集中学习的能力。

Jun, 2017

本文提出了一种广义的分层 Transformer 编码器框架，并通过一系列实验展示了分层编码如何帮助任务导向的对话系统中的 transformer-based 模型更好地理解上下文从而实现更好的自然语言理解。

Oct, 2020

该文研究应用序列到序列模型解决对话响应生成问题的方法，使用基于注意力机制的解码器保证响应内容连贯性，并提出了一种名为‘glimpse-model’的实用方法以适应大型数据集，并使用随机 beam 搜索算法注入多样性来增加生成可接受响应的比例和整体响应长度。

Jan, 2017

通过使用基于神经网络的语言生成器，采用多种数据表示和提升方法，我们在餐饮、电视、电脑三个领域展开了实验，证明我们的方法比同类模型在不同评估方法下表现更优秀。

May, 2018

提出一种基于神经网络的生成架构，通过潜在的随机变量来建模具有复杂依赖关系的分层结构顺序数据，将该模型应用于对话响应生成任务并与最近的神经网络架构进行比较，实验证明该模型可以提高生成长输出的准确性并维持上下文信息。

May, 2016

本文提出通过对话策略来规划目标响应的内容和风格，促进神经响应生成方法生成更为准确、有效和吸引人的回应，通过 Topical-Chat 数据集的自动注释，得到包括对话上下文、目标对话行为、话题信息等方面的行动计划。作者进一步调查了不同的对话策略模型来预测行动计划，证明了在句子级别和依托对话策略的生成模型所生成的回复更具适切性，并且控制效果更为出色。

May, 2020

本研究基于强化学习，建立一个可生成更多交互式回复、更长且不重复的对话、更容易回答问题的聊天机器人的神经对话模型。

Jun, 2016

本文针对神经网络模型生成内容不足的对话应用展开了研究，提出了一种全新的、基于数据和知识驱动的神经对话模型，该模型通过同时考虑历史对话和外部 “事实” 来生成更有用的回应，实验证明该方法在开放领域中具有广泛应用前景，相较于基线模型的 Seq2Seq 方法，能够显著提高输出的信息量。

Feb, 2017