ACLMay, 2019

基于分层解耦自注意力的语义有条件对话响应生成

PDF
TL;DR利用对话行为结构建立多层次的分层脱离式自注意网络，通过激活不同的头来模拟大规模多领域场景中的对话行为语义，实现神经响应生成。该模型在自动和人类评估度量方面在大规模多领域的 Multi-Domain-WOZ 数据集上取得了显着的改进。
neural response generationmulti-domaindialog actshierarchical disentangled self-attention networkmulti-domain-woz dataset
发现论文，激发创造
  • 多领域对话行为与响应同时生成

    我们提出了一个神经共同生成模型，可以同时生成对话行为和响应，相比于现有的流水线方法，我们的模型可以保留多领域对话行为的语义结构并动态关注不同的对话行为，通过在 MultiWOZ 数据集上的测试，我们的模型在自动评估和人类评估中都比几种最先进的模型表现得要好很多。

    Apr, 2020

  • 基于分层结构的本地上下文关注在对话行为识别中的应用

    本研究旨在设计一种基于自注意力机制的分层模型，以识别对话行为，并通过修改注意分布来关注局部和上下文语义信息，同时引入新的对话分割机制，分析对话长度和上下文填充长度对模型效果的影响。实验表明，该模型在 Switchboard 对话行为和 DailyDialog 两个数据集上均取得了 80.34% 和 85.81% 的准确率，并且通过可视化注意权重的方式展示了其可以显示地学习话语之间的上下文依赖关系。

    Mar, 2020

  • 基于上下文感知自注意力机制的对话行为分类

    本文研究 Dialogue Act 分类，提出了将上下文感知的自注意机制与分层循环神经网络相结合的方法，并在 SwDA Corpus 上证明了其在不同语义表征学习方法下的高精度表现。

    Apr, 2019

  • 一种双重注意力的分层循环神经网络在对话行为分类中的应用

    提出了一种基于双重注意力层级循环神经网络的对话行为分类模型，利用话题建模作为辅助任务和双任务特定注意力机制来捕捉对话行为和话题之间的交互信息，从而大大提高了 DA 分类的效果。

    Oct, 2018

  • 多领域神经网络语言生成器用于口语对话系统

    本研究提供了一种训练多领域、基于递归神经网络的语言生成器的程序，包含了多个适应步骤，并利用伪造数据和领域内句子的优化目标函数，旨在在新的、看不见的领域内显著减少培训的数据需求，其语料库评估结果和主观测试都表示该程序可以在保证 BLEU 分数和槽误差率竞争力的同时大幅提高语言生成器性能。

    Mar, 2016

  • 领域感知神经对话系统

    本文介绍 DOM-Seq2Seq，一种基于领域目标序列到序列模型和领域分类器的领域感知神经网络模型，用于生成具备智能响应的域感知对话系统，并通过对比 Seq2Seq 模型的性能指标进行评估。

    Aug, 2017

  • 利用层次表示生成面向任务的语义分析合成数据

    本研究探讨了使用预训练去噪序列到序列模型（即 BART）生成神经语义分析的合成数据的可能性，并使用辅助解析器（AP）过滤生成的数据，结果表明这一方法在导航领域的 Facebook TOP 数据集上具有潜力。

    Nov, 2020

  • 战略对话的分层文本生成与规划

    本论文介绍了一种学习对话信息表征、提高决策效率的方法，通过解耦对话表述中的语义和语言实现，使用学习到的表征完成对话生成、规划和增强学习等任务，在实验中效果比之前的工作更佳。

    Dec, 2017

  • 融入领域知识改进多轮对话系统中的回应选择

    本文提出了一种新颖的神经网络架构，用于多轮对话场景下的响应选择，它应用了上下文级别的注意力和领域特定单词描述提供的额外外部知识。该架构使用双向门控循环单元进行编码，并学习在给定潜在响应表示的上下文单词之间进行关注，同时还使用另一个 GRU 来编码领域关键词描述，从而提高了相应中领域特定关键词的表示，实验结果表明，相对于所有其他最先进的方法，我们的模型在多轮对话中具有更好的响应选择性能。

    Sep, 2018

  • 非监督对话结构归纳的结构化注意力

    本论文通过在变分循环神经网络模型中引入结构化注意力层，以无监督学习的方式学习对话结构，并对多方对话数据集进行了实验，展示了模型区分发言人或地址、自动脱钩对话的能力。

    Sep, 2020