Jun, 2017

问答和问题生成的联合模型

PDF
TL;DR本文提出一种生成式机器理解模型，用于同时学习根据文档提问和回答问题，采用序列到序列框架编码文档并生成问题，模型在 SQuAD 语料库上获得显著性能提升，实验证明，模型在同时学习两个任务方面受益。我们认为这种联合模型的新颖性提供了一个超越架构工程的机器理解视角，是实现自主信息寻找的第一步。
generative machine comprehension modelsequence-to-sequence frameworklearning to ask and answersquad corpusautonomous information seeking
发现论文，激发创造
  • 通过文本到文本神经问题生成的机器理解

    本文提出了一种基于递归神经网络的模型，可以根据答案生成自然语言问题，并介绍了一种使用监督学习和强化学习相结合的方式对模型进行训练，然后通过策略梯度技术微调模型以最大化几个衡量问题质量的奖励，其中一个奖励是一个问题回答系统的表现，并通过最近的问答数据集 SQuAD 对模型进行了训练和评估。

    May, 2017

  • 基于统一查询的生成模型，用于问题生成和问题回答

    我们提出了一种基于查询的生成模型，用于解决问题生成和问题回答两个任务， 在查询理解方面，该模型使用经典的编码器 - 解码器框架，通过与多个角度的文章进行匹配来执行查询理解。在进行培训时，我们利用政策梯度强化学习算法来克服暴露偏差，这是由于交叉熵损失的序列学习而引起的主要问题。

    Sep, 2017

  • 学会提问：神经网络阅读理解问题生成

    该研究采用基于注意力机制的序列自学习模型进行阅读理解中基于句子的自动问题生成，相比于之前的工作，该模型不依赖于手工规则或复杂的自然语言处理技术，并在人工和自动评估中都呈现出更加自然和困难的问题。

    Apr, 2017

  • 将问答与问题生成视为对偶任务

    本论文针对问题回答和问题生成两个任务之间内在联系，提出一个联合训练框架，使用序列到序列模型和循环神经网络模型，通过概率相关性指导训练过程来提高两个任务的性能，实验证明该框架能够显著提高问题回答和问题生成两个任务的表现。

    Jun, 2017

  • 神经生成式问答

    本文提出了一个名为 Neural Generative Question Answering（GENQA）的端到端神经网络模型，可以根据知识库中的事实生成简单问答问题的答案。通过对问题答案对的语料库进行训练，该模型可有效处理问题和答案的变化，并通过参考知识库中的事实生成正确自然的答案，且在问题回答方面的实验证明该模型优于基于嵌入式的 QA 模型和在相同数据上训练的神经对话模型。

    Dec, 2015

  • 采用句子级语义匹配和答案位置推断来改善问题生成

    本文提出了一个能够改进问题生成中的关键词生成和全局问题语义缺失问题的神经问题生成模型，并且利用了句子级别的语义匹配和答案位置推断功能，并运用了基于答案感知的门控融合机制来增强解码器的初始状态，结果表明我们的模型在 SQuAD 和 MARCO 数据集上领先于现有的最先进模型，同时还对现有模型进行了显著改进。

    Dec, 2019

  • 提升问题生成的上下文捕获能力

    本文旨在通过运用多阶段关注机制和序列到序列模型，在长文档的背景下产生更真实的问题，结果表明在 SQuAD、MS MARCO 和 NewsQA 三个问答数据集上，该方法优于现有方法。

    Oct, 2019

  • 关键词检测和问题生成的神经模型

    本文提出了一个两阶段的神经模型来解决从文档中生成问题的问题，第一阶段使用神经关键短语提取器来预测关键短语并作为目标答案，第二阶段使用序列到序列的问题生成模型带有复制机制生成问题，该模型优于标签基线和规则化的方法，是提高机器阅读系统或教育工作者的良好选择

    Jun, 2017

  • 基于语言建模的多任务学习：问句生成

    本文探讨了答案感知的问题生成任务，提出了在基于注意力机制的指针生成模型中，通过将语言建模转化为辅助任务，将问题生成纳入分层多任务学习结构。我们的联合学习模型使编码器能够学习到更好的输入序列表示，从而指导解码器生成更连贯、流畅的问题。在 SQuAD 和 MARCO 数据集上，我们的多任务学习模型提高了性能，取得了最先进的结果。此外，人类评估进一步证明了我们生成的问题的高质量。

    Aug, 2019

  • 通过生成问题和答案对自动化阅读理解

    本文提出一种基于神经网络的两阶段机制来生成问题 - 答案对，第一阶段采用 Pointer Networks 编码句子中的关键答案，第二阶段采用序列到序列模型生成问题，最终采用全局注意力和答案编码生成最相关的问题。实验结果表明我们的方法在生成问题的质量上显著优于现有方法，是自动阅读理解评估的又一步。

    Mar, 2018