AAAISep, 2020

多轮响应选择的话语操纵策略

PDF
TL;DR本文研究了在检索型的多轮对话系统中，如何在给定用户和系统对话历史记录的情况下选择最优回复。本研究发现，利用预训练的语言模型可以解决此类回复选择任务，但这种方法只考虑了历史和候选回复的相关性，而忽略了多轮对话系统的时序性。因此，作者提出了一种称为 utterance manipulation strategies (UMS) 的方法，该方法通过插入、删除和搜索等策略来保持对话一致性。研究结果表明，UMS 是高效的自我监督方法，且可以在多种公共基准测试数据集上推动现有技术的发展。
multi-turn dialog systemsresponse selectionpre-trained language modelstemporal dependenciesself-supervised methods
发现论文，激发创造
  • 针对基于检索的聊天机器人中的多轮响应选择的说话人感知 BERT

    本文研究了如何使用预训练语言模型解决检索式聊天机器人中的多轮响应选择问题，提出了一种名为 SA-BERT 的新模型，包括说话人感知和解缠策略，并通过领域自适应使性能达到最新的水平。

    Apr, 2020

  • 使用深度话语聚合建模多轮对话

    本文研究基于信息检索的跨度多轮对话系统以往语句的上下文建模的问题，提出将以前的话语通过一种深度聚合模型聚合成细粒度的上下文进行表示。实验结果表明，与现有的最先进的方法相比，该模型在三个多回合对话基准测试中表现更优秀。

    Jun, 2018

  • 使用动态主题跟踪的多方对话响应选择

    这项研究通过动态主题跟踪任务将回复选择作为一种新的表述方法，并提出了一种支持高效编码的新型多任务学习框架，并且通过预训练模型，仅使用两次讲话来进行动态主题分离和回复选择。同时，还提出了 Topic-BERT 的关键预训练步骤来嵌入主题信息，并在 DSTC-8 Ubuntu IRC 数据集上获得了表现出色的结果。

    Oct, 2020

  • 面向任务的对话系统中神经响应选择的训练

    通过在大型通用领域对话语料库上预训练反应选择模型，然后利用小型特定领域数据微调预先训练的模型，本论文提出了一种有效的方法来部署任务导向对话中的响应选择，取得了很好的效果。在六个不同的应用领域，从电子商务到银行业，本方法都表现出了良好的效果。

    Jun, 2019

  • 基于句法知识的注意力机制在检索式对话系统中的应用

    本研究提出了一种结合了句法信息的注意力机制，被命名为 SIA，考虑到了多轮对话中的句内和句间结构信息，实验结果表明该方法在对话响应匹配中表现出更好的性能。

    Mar, 2023

  • 使用辅助任务训练简单有效的多轮对话生成模型

    本研究探讨多轮开放域对话的响应生成，并通过辅助任务实现上下文理解，提高了生成模型的质量，同时具有更快的解码速度。

    Apr, 2020

  • 使用对话依赖关系的多轮响应选择

    本文提出了一种用于将对话历史转换为线程的对话提取算法，同时采用预训练 Transformer 进行编码并通过注意力层来得到匹配分数，实验表明依赖关系有助于对话上下文的理解，此模型在 DSTC7 和 DSTC8 等任务上的表现优于现有方法。

    Oct, 2020

  • 使用自监督任务学习有效的上下文 - 回复匹配模型， 用于基于检索的对话

    本研究提出了一种基于预训练语言模型的上下文相应匹配模型，引入了四个自我监督任务，并与 auxiliary tasks 一起多任务训练 PLM-based 响应选择模型，旨在提高多轮响应选择的准确性。实验结果表明，在检索式对话中，引入辅助自我监督任务对多轮响应选择带来了显著的改进，本模型在两个数据集上都达到了最新的最优结果。

    Sep, 2020

  • 多轮对话中基于两层监督对比学习的响应选择

    该论文研究了在多轮对话中选择最适当的回应是一个检索型对话系统的关键问题，提出了一种基于受监督对比学习的新方法并应用于回应选取中，利用句子标记交换和句子重排序的技术，经过实验验证，该方法明显优于基线和目前各种方法。

    Mar, 2022

  • 面向诺干式端到端应答选择的顺序注意力网络

    本文提出了一种基于序列匹配模型的多轮对话响应选择算法，相比之前的模型，该模型在提升多轮对话系统中的响应选择效果方面取得了更好的表现，并在两个大规模公开数据集上均获得了最优表现。

    Jan, 2019