本文研究了 Generative Pre-trained Transformer 模型训练过程中不同类型的合成和真实的 ASR 假设对于模型的影响，并提出一种基线缓解策略。结果表明，模型在创作过程中，对话历史中引入 ASR 假设很敏感。因此，需要进一步探索增强神经聊天机器人语音健壮性的技术。

Aug, 2020

本研究分析了神经网络开放领域对话系统所学习的内部表示，并评估了这些表示的质量以学习基本的交谈技巧。结果表明，标准的开放领域对话系统难以回答问题、推断矛盾并确定对话话题等任务，需要更多的研究来探讨建筑和训练方法，从而更好地捕捉有关对话的高级信息。

Jun, 2020

使用生成模型在大型对话语料库上构建开放域对话系统的任务得到了研究，这里我们扩展了分层递归编码器 - 解码器神经网络到对话领域，并证明了该模型与最先进的神经语言模型和后退 n-gram 模型有竞争力，我们进一步探讨了该方法及类似方法的局限性，再展示了如何通过从更大的问答匹配语料库和预训练的词嵌入中引导学习以提高其性能。

Jul, 2015

本篇论文介绍了一种新颖的响应生成系统，它可以在大量非结构化的 Twitter 会话上进行端到端的训练。该系统使用神经网络架构来解决在将上下文信息集成到经典统计模型中出现的稀疏性问题，从而允许系统考虑以前的对话话语。我们的动态上下文生成模型相对于基于上下文和非上下文敏感的机器翻译和信息检索基准具有一致的提高。

Jun, 2015

为了训练自然对话模型，作者创建了一个新的包含电影聊天信息和相关背景知识的数据集，并使用三种不同的模型对这个数据集进行了基准测试。

Sep, 2018

探讨了基于强大语言模型的开放领域会话系统，从语言学角度解释了 Grice 的合作会话标准，并从使得贡献适切的角度系统化了相关文献：神经会话模型必须流畅、信息丰富、一致、连贯，并遵循社会规范。为了确保这些优势，近期的方法尝试通过干预数据、训练模式或解码等方面来控制底层语言模型，我们按照这些类别和干预点讨论了有前途的尝试，并为未来的研究提出了新的方向。

Aug, 2023

本文介绍了一个对于会话式问题回答系统的历史建模方法的鲁棒性研究。通过大规模的实验检测，发现高测试评分未必能转化为鲁棒性，而不同的方法在不同的设置下表现极不相同。因此，设计了一种基于提示的历史建模方法，实现了在不同环境下的强鲁棒性。希望本研究的结论会引起人们对鲁棒性的重视，从而创造出更好的会话式问题回答系统。

Jun, 2022

该研究探讨了基于深度神经网络的自动生成响应的模型，着重讨论了结构松散的任务，如基于单词级别的对话响应生成，并提出了基于生成的编码器 - 解码器神经网络架构的新模型，以增强对话的长期历史纪录、建模对话中的不确定性和歧义性、生成具有高级组合结构的响应。

Nov, 2016

对话摘要任务涉及在保留最显著信息的同时对长对话进行总结。实际生活中的对话经常会出现自然发生的变化（例如，重复、犹豫），现有的对话摘要模型在此类对话上的性能下降。本研究系统地研究了此类变化对最先进的对话摘要模型的影响，使用公开可用数据集。为了模拟真实生活中的变化，我们引入了两种类型的扰动：以错误和语言变化更改单个话语的话语级扰动，以及添加非信息性交流（例如，重复、问候）的对话级扰动。我们沿着一致性、显著性和忠实度三个鲁棒性的维度进行分析，这些维度捕捉了摘要模型性能的不同方面。我们发现，输入变化会影响精调模型和指导模型，而后者更容易受到影响，特别是在对话级扰动方面。我们还通过人工评估验证了我们的发现。最后，我们研究了使用部分扰动数据对精调模型的鲁棒性是否可以提高，并观察到这种方法对于解决当前模型中的鲁棒性挑战不足，因此需要更彻底的研究来找到更好的解决方案。总体而言，我们的工作强调对话摘要中的鲁棒性挑战，并为未来的研究提供了见解。

Nov, 2023

通过序列到序列框架，一种简单的端到端的对话模型方法被提出，在特定的领域和大规模通用领域的数据集上表现出很好的对话效果，并可用于执行常识推理任务。

Jun, 2015