EMNLPMar, 2016

变分神经话语关系识别器

PDF
TL;DR本文提出 VarNDRR，这是一种基于生成模型的变分神经篇章关系识别器。与现有的使用强大手工特征或深度篇章表示的判别模型不同，VarNDRR 建立了一个具有潜在连续变量的有向概率模型，用于生成篇章和篇章两个论点之间的关系。通过利用神经篇章关系模型来近似潜变量的先验和后验分布，并采用这些拟合分布优化变分下界，可以使 VarNDRR 使用标准随机梯度方法进行训练。实验表明，VarNDRR 在不使用任何手工特征的情况下，与现有的最佳模型相比具有可比性的结果。
implicit discourse relation recognitiongenerative modelsvariational neural discourse relation recognizerprobabilistic modelneural discourse relation models
发现论文，激发创造
  • 一种用于语篇关系语言模型的潜变量循环神经网络

    本文提出了一种新颖的潜变量循环神经网络架构，用于同时建模词序列和相邻句子之间的（可能潜在的）言语关系。它通过循环神经网络生成单个单词，并可以使用潜在变量表示言语关系。该模型可以使用既包括言语关系分类又包括词预测的训练目标，从而优于最先进的替代方案，它可以用于隐含语篇关系分类以及对话行为分类。在测试时间通过潜在言语关系求和，我们获得了一个获得语篇的语言模型，从而改进了一个强大的 LSTM 基线。

    Mar, 2016

  • 利用重复阅读的神经网络多层注意力识别隐含的语篇关系

    本文通过结合注意力机制和外部记忆的神经网络，提出了多级关注度（NNMA）方法，用于识别隐含的言语关系。实验结果证明，本方法在 PDTB 数据集方面达到了最先进的成果，并且注意权重的可视化揭示了模型在逐渐固定关注度并定位重要词汇的过程。

    Sep, 2016

  • 一种标签依赖感知的多层隐性语篇关系识别序列生成模型

    本研究提出了一种标签依赖的序列生成模型，对多层次的隐式话语关系识别进行条件化标签序列生成，实现全局和局部与标签相关的表示，利用自下而上和自上而下的相互学习方法提高建模性能。

    Dec, 2021

  • 隐含式篇章关系识别调查

    本调查研究提供了隐含话语关系识别（IDRR）任务的全面和最新发展情况，包括任务定义、数据源、解决方案及其性能比较，并讨论了该领域的未来研究方向。

    Mar, 2022

  • 使用条件变分自编码器为神经对话模型学习语篇级多样性

    本研究提出了一种基于条件变分自编码器（CVAE）的框架，该框架利用潜在变量来学习潜在意图的分布，并仅使用贪婪解码器生成多样化响应，其可以更好地捕获感性多样性和提高决策能力。实验证明，与基线方法相比，所提出的模型可以生成更丰富的响应，并且具有更好的表现。

    Mar, 2017

  • 深度增强表示法用于隐式语篇关系识别

    本研究探讨了一种模型，利用包括字符，子词，单词，句子和句对级别的不同粒度的文本表示来更好地表示文本，该模型在隐含关系识别中取得了 48% 以上的最新成果。

    Jul, 2018

  • 跨领域变分自然语言生成在口语对话系统中的应用

    本文提出了一种基于条件变分自编码器 (CVAE) 的 RNN 的跨领域自然语言生成方法，实现了高度多样性的句子生成，并在数据有限的情况下展现了更好的性能。

    Dec, 2018

  • 通过多任务神经网络的隐式语篇关系分类

    本文提出一个新的卷积神经网络嵌入多任务学习系统，用于综合 PDTB 语料库内多个特定于每个语料库的言语分类任务，并展示实验结果表明我们的模型可以显著提高 Implicit discourse relation classification 任务的性能。

    Mar, 2016

  • 面向开放域对话的隐含语篇关系识别

    本论文旨在设计用于开放领域对话系统的新型话语关系识别流水线，该流水线可以自动提取隐式话语关系参数对和标签，并通过削减特征和整合对话特征等方法来提高辨识度。论文使用对话转换数据集得到了独特的话语关系对语料库，首次尝试确定开放领域对话中连接对话转换的话语关系。

    Jul, 2019

  • 对话生成中改进变分编码器 - 解码器

    本文通过将训练步骤分为两个阶段来解决 KL - 消失问题，采用多层感知器对高斯噪声进行变换来对潜在变量进行采样，从而实现更灵活的分布，实验结果表明，我们的模型在度量和人类评估方面都有大幅度提高。

    Feb, 2018