EMNLPOct, 2020

一种用于理解基于文档的对话的比较聚合变形器

PDF
TL;DR本文提出了使用 Compare Aggregate Transformer (CAT) 将文档信息与对话历史进行去噪并进行聚合以生成更多信息的回复。通过设计两种不同的比较机制以减少噪声 (进行解码前和期间)，并提出两个基于单词重叠的评估文档利用效率的指标。在 CMUDoG 数据集上的实验结果显示出，所提出的 CAT 模型优于现有最先进的方法和强基准算法。
compare aggregate transformerknowledge selectionresponse generationdialogue historydocument utilization efficiency
发现论文，激发创造
  • 基于 Deliberation 解码器的增量式 Transformer 模型用于文档引导会话

    本文提出了一种基于 Transformer 的架构和增量式 Transformer 编码多轮言语和相关文档知识以及两阶段解码器（Deliberation Decoder）来提高上下文连贯性和知识正确性的新方法，实证研究表明，我们的模型生成的响应在上下文连贯性和知识相关性方面显著优于竞争基线。

    Jul, 2019

  • 一种具有潜在聚类的比较 - 聚合模型用于答案选取

    本文介绍了一种新的句子级别的答案选择方法，采用预训练语言模型计算输入文本的向量表示，并应用大规模语料库的迁移学习。通过引入潜在聚类方法和从 listwise 到 pointwise 的目标函数，提高了比较 - 聚合模型的性能。实验结果表明，该方法在 WikiQA 和 TREC-QA 数据集上表现优于现有方法，达到了最新的表现水平。

    May, 2019

  • 对话文档语境化的交互系统中的知识识别

    提出了基于文档结构的知识识别模型，以提供对话语境下的段落编码，更好地定位与对话相关的知识。辅助损失捕捉了对话 - 文档连接的历史。在两个文档为基础的对话数据集上展示了模型的有效性，并提供了分析结果，表明其可以泛化到未见过的文档和长对话上下文。

    Sep, 2021

  • 使用数据增强和噪声通道模型将基于文档的对话系统适应为口语对话

    本文介绍了我们在第十届对话系统技术挑战赛第二轨知识引导的任务导向对话建模中的提交内容。在适应 ASR 转录的噪声方面探索不同的方法来使得模型更加健壮，并采用噪声通道模型来适应口语交流的风格。我们的最佳系统在挑战的自动和人工评估中分别排名第一和第三。

    Dec, 2021

  • 面向主题感知的对比学习用于抽象式对话摘要

    通过引入一种叫做对比学习的技术来解决对话总结中信息分散和主题变化的挑战，该方法使用了两个具体的辅助任务 (coherence detection 和 sub-summary generation)，在基于原始对话总结任务上取得了最优性能，显著超过强基准模型。

    Sep, 2021

  • 利用潜在知识和对话上下文实现真实世界会话问答

    该论文提出了一种基于神经检索 - 阅读 (Retrieval-Reading) 系统和基于 TFIDF 的文本摘要技术来利用先前的谈话历史中的潜在知识的方法，以便更好地回答问题，并且实验证明该系统显著提高了回答质量。

    Dec, 2022

  • 基于异构图网络的常识知识引入抽象对话摘要

    该论文介绍了一种新型的多说话者对话摘要生成器，利用大规模的常识知识来促进对话理解和总结生成。实验表明我们的模型能够优化 SAMSum 数据集，并且也能够更好地适用于新领域的零样本实验。

    Oct, 2020

  • KERMIT -- 一种基于 Transformer 的知识图谱匹配方法

    利用预训练的句子转换器生成匹配候选项，接着使用优化的双重编码器来生成最佳匹配项以便自动匹配知识图谱和本体论。在多个数据集上进行了验证并展示了可行性和卓越的结果。

    Apr, 2022

  • 面向文档相关对话的数据集

    本研究介绍了一个文档驱动的文本对话数据集，包含关于热门电影的维基百科文章，利用两种神经网络模型对话，结果表明这种方法引入了更多信息，提高了生成回答的流畅度和吸引力。

    Sep, 2018

  • 通过知识库问答提高知识感知对话生成

    本文提出了一种新的知识感知对话生成模型，称为 TransDG，该模型将知识库问答（KBQA）任务的问题表示和知识匹配能力转移到生成对话的内在理解和事实知识选择中。我们采用了一种响应引导注意力和多步解码策略的方法，以引导模型集中于生成相关的特征。在两个基准数据集上的实验证明，我们的模型在生成信息全面和流畅的对话方面具有稳健的优越性。

    Dec, 2019