EMNLPOct, 2020

使用动态主题跟踪的多方对话响应选择

PDF
TL;DR这项研究通过动态主题跟踪任务将回复选择作为一种新的表述方法，并提出了一种支持高效编码的新型多任务学习框架，并且通过预训练模型，仅使用两次讲话来进行动态主题分离和回复选择。同时，还提出了 Topic-BERT 的关键预训练步骤来嵌入主题信息，并在 DSTC-8 Ubuntu IRC 数据集上获得了表现出色的结果。
发现论文，激发创造
  • 主题感知多轮对话建模

    本文提出了一种新颖的基于主题感知的无监督多轮对话建模方案，该方案通过无监督的主题感知分割算法和主题感知双交互匹配网络实现，在多个公共数据集上的实验结果表明 TADAM 可以胜过现有的最新方法，尤其是在出现明显主题转移的电子商务数据集上提高了 3.3％。

    Sep, 2020

  • 使用对话依赖关系的多轮响应选择

    本文提出了一种用于将对话历史转换为线程的对话提取算法，同时采用预训练 Transformer 进行编码并通过注意力层来得到匹配分数，实验表明依赖关系有助于对话上下文的理解，此模型在 DSTC7 和 DSTC8 等任务上的表现优于现有方法。

    Oct, 2020

  • 基于主题感知的多回合对话理解

    该研究提出了一种从主题感知的角度对多轮对话进行建模，使用对话切分算法将对话段落无监督地拆分为主题集中的片段，并将这些片段作为主题感知的语言处理单元用于进一步的对话理解。通过在聚类系统中设计自训练自编码器，并构建两个构造的数据集进行评估，我们展示了拆分段落在域内主题检测和定位方面的便利性。同时，拆分段落也是多轮对话响应选择的适当元素，为此，我们提出了 Topic-Aware Dual-Attention Matching (TADAM) 网络模型，它以主题片段作为处理元素，并使用双交叉注意力匹配响应候选项。通过对三个公共基准测试的实证研究，我们发现相对于基准，该模型取得了显著的改进。该研究延续了先前的文档主题研究，并通过详尽的实验和分析将对话建模引入了新的主题感知视角。

    Sep, 2023

  • 多轮响应选择的话语操纵策略

    本文研究了在检索型的多轮对话系统中，如何在给定用户和系统对话历史记录的情况下选择最优回复。本研究发现，利用预训练的语言模型可以解决此类回复选择任务，但这种方法只考虑了历史和候选回复的相关性，而忽略了多轮对话系统的时序性。因此，作者提出了一种称为 utterance manipulation strategies (UMS) 的方法，该方法通过插入、删除和搜索等策略来保持对话一致性。研究结果表明，UMS 是高效的自我监督方法，且可以在多种公共基准测试数据集上推动现有技术的发展。

    Sep, 2020

  • 多粒度提示在对话中的话题转移检测

    通过提示式方法从对话中多层次提取主题信息，可以有效地识别对话主题的变化与多样性，且实验结果显示该方法优于现有方法。

    May, 2023

  • 面向任务的对话系统中神经响应选择的训练

    通过在大型通用领域对话语料库上预训练反应选择模型，然后利用小型特定领域数据微调预先训练的模型，本论文提出了一种有效的方法来部署任务导向对话中的响应选择，取得了很好的效果。在六个不同的应用领域，从电子商务到银行业，本方法都表现出了良好的效果。

    Jun, 2019

  • 针对基于检索的聊天机器人中的多轮响应选择的说话人感知 BERT

    本文研究了如何使用预训练语言模型解决检索式聊天机器人中的多轮响应选择问题，提出了一种名为 SA-BERT 的新模型，包括说话人感知和解缠策略，并通过领域自适应使性能达到最新的水平。

    Apr, 2020

  • 多轮对话中基于两层监督对比学习的响应选择

    该论文研究了在多轮对话中选择最适当的回应是一个检索型对话系统的关键问题，提出了一种基于受监督对比学习的新方法并应用于回应选取中，利用句子标记交换和句子重排序的技术，经过实验验证，该方法明显优于基线和目前各种方法。

    Mar, 2022

  • 使用深度话语聚合建模多轮对话

    本文研究基于信息检索的跨度多轮对话系统以往语句的上下文建模的问题，提出将以前的话语通过一种深度聚合模型聚合成细粒度的上下文进行表示。实验结果表明，与现有的最先进的方法相比，该模型在三个多回合对话基准测试中表现更优秀。

    Jun, 2018

  • 以响应选择为辅助任务的高效任务导向型对话系统

    本文提出两种具有辅助任务的模型，用于响应选择，并在 MultiWOZ 2.1 数据集上取得了 107.5 和 108.3 的综合分数，优于具有三倍以上的参数基线模型。

    Aug, 2022