Jan, 2020

将联合嵌入式应用于多任务学习的目标导向对话

PDF
TL;DR该文提出了一种基于循环神经网络的端到端编码器 - 解码器结构，其通过联合嵌入知识图谱和语料库的输入来训练模型，提供了用户意图和文本生成的额外整合，并结合多任务学习技术和正则化技术，以惩罚生成错误的实体作为输出。模型在推断期间进一步结合了知识图谱实体查找，以保证生成的输出是基于提供的本地知识图谱的状态。通过 BLEU 得分进行的实证评估表明，该模型可以提高任务导向对话系统的表现。
encoder-decoder neural networkuser intentknowledge graphmulti-task learningdialogue systems
发现论文，激发创造
  • GraphDialog: 将图表知识整合到端到端任务导向对话系统中

    本文提出一种适用于任务导向型对话系统的模型，利用知识库和对话的依存关系图结构信息解决了如何有效地将外部知识库整合到学习框架中以及如何准确捕捉对话历史语义的挑战。此外，该模型采用多跳推理能力以及循环单元架构进行表示学习。实验结果表明，该模型在两个不同的任务导向型对话数据集上均优于现有模型。

    Oct, 2020

  • 联合结构和文本编码的知识图谱表示

    本文提出一种新颖的深度架构，以利用实体的结构和文本信息的宝贵信息。其中，注意力模型可以选择所需的相关信息，并应用门控机制将结构和文本的表征集成到一个统一的架构中。实验表明，我们的模型在链接预测和三元组分类任务上的表现优于基线。

    Nov, 2016

  • 基于注意力机制的循环神经网络模型：联合意图检测与槽位填充

    提出了一种基于注意力机制的神经网络模型，用于同时执行关键步骤（意图检测、填充构構）进行语音理解和对话系统处理。该模型基于编码 - 解码框架，将对齐信息的注意力融合到了模型中，其表现优于传统模型。

    Sep, 2016

  • 知识图谱完善的文本和知识联合表示学习

    提出一种新的框架，将词汇、实体和关系嵌入到同一连续向量空间中，通过对知识图谱和纯文本的联合学习，可以更准确地完成知识图谱补全，实现实体预测、关系预测和关系分类等任务，并且相比其他基线模型，在三项任务上均可以显著且持续地提高性能。

    Nov, 2016

  • 目标驱动和视觉对话系统的全流程优化

    本文介绍了一种基于深度强化学习的方法，使用策略梯度算法来优化基于任务且与视觉相关的对话，该方法在通过 Mechanical Turk 收集的 12 万个对话数据集上进行了测试，并提供了鼓舞人心的结果，可以解决生成自然对话和在复杂图像中发现特定对象的问题。

    Mar, 2017

  • 知识图谱规则引导的联合嵌入学习

    本研究论文介绍了一种新颖的模型，将知识图谱中的实体和关系编码为低维向量空间，并将上下文信息和字面信息融入到实体和关系嵌入中，使用图卷积网络进行建模，通过置信度和相关性度量评估上下文信息的重要性，并通过字面信息的表示来计算相关性度量。我们在两个常用基准数据集上进行了全面的实验证实以验证模型的性能。

    Dec, 2023

  • 使用生成式分层神经网络模型搭建端到端对话系统

    使用生成模型在大型对话语料库上构建开放域对话系统的任务得到了研究，这里我们扩展了分层递归编码器 - 解码器神经网络到对话领域，并证明了该模型与最先进的神经语言模型和后退 n-gram 模型有竞争力，我们进一步探讨了该方法及类似方法的局限性，再展示了如何通过从更大的问答匹配语料库和预训练的词嵌入中引导学习以提高其性能。

    Jul, 2015

  • 使用动态知识图嵌入学习对称协作式对话代理

    研究人员提出了一种新型的对话系统，利用动态知识图谱嵌入技术，让两个带有私有知识的代理人进行协作对话，旨在达到某个共同目标，并经过了自动化和人工实验的验证，结果表明该模型与基线模型相比，不仅更有效地实现了目标，而且更加人性化。

    Apr, 2017

  • 通过序列文本和知识图谱联合学习进行知识表示

    本论文提出一种基于顺序文本的知识表示学习方法，通过循环神经网络、注意力机制等实现对实体语义信息的编码和选取信息量高的语句，以及在三元组分类和链接预测任务中实现了优异的效果。

    Sep, 2016

  • 通过动态图知识聚合增强对话生成

    本研究提出了一种基于知识图增强的对话生成框架，使用层级图注意力来聚合伪节点上的图特征，并填补文本和图知识之间的语义差距，并促使语言模型更好地选择知识三元组以获得更丰富的响应。

    Jun, 2023