IJCAIMay, 2017

增强型记忆阅读器用于机器阅读理解

PDF
TL;DR本文介绍了加强版的记忆增强读者，它在多个方面包括提出重新注意力机制和引入动态关键强化学习方法来优化精度，实验表明在 Stanford Question Answering Dataset 上，该模型比先前系统表现更优，实现了最新的技术成果。
reinforced mnemonic readermachine reading comprehensionmulti-round alignment architecturedynamic-critical reinforcement learningstanford question answering dataset
发现论文，激发创造
  • 迭代交替神经注意力机制用于机器阅读

    我们提出了一种新颖的神经注意力架构，以解决机器理解任务，例如针对文档回答填空式查询的问题。与之前的模型不同，我们不将查询折叠成单个向量，而是使用迭代交替注意机制，允许对查询和文档进行细粒度的探索。我们的模型在标准的机器理解基准测试中，例如 CNN 新闻文章和儿童书籍测试 (CBT) 数据集中，优于最先进的基线。

    Jun, 2016

  • 一种以理解为导向的鲁棒机器阅读理解模型

    提出了一种基于理解的机器阅读理解模型，通过自然语言推理模型、多头注意力方法以及多语言学习机制解决了过度敏感、过度稳定和泛化能力等问题，实验结果表明其在 DuReader 和两个 SQuAD 相关数据集上表现优异。

    Jul, 2022

  • 深度强化学习模型用于摘要生成

    提出了一种基于编码器 - 解码器和 RNN 的自注意力神经网络模型，通过组合监督和强化学习来训练和生成连贯性和可读性更强的长文摘要，与目前最先进模型相比，在 CNN / Daily Mail 数据集上取得了 41.16 的 ROUGE-1 得分，并且人工评估表明我们的模型产生了更高质量的摘要。

    May, 2017

  • 自适应双向注意力：探索多粒度表示进行机器阅读理解

    本文介绍了自适应双向注意力（Adaptive Bidirectional Attention）模型用于机器阅读理解（Machine Reading Comprehension）中，通过利用不同层次的源表示来提高预测的精度并且在 SQuAD2.0 公开数据集上的实验表明，相比于之前的最先进模型，此方法的准确度提高了 2.5％EM 和 2.3％F1 分数。

    Dec, 2020

  • R$^3$: 强化学习阅读器 - 排名器用于开放领域问答

    本文提出了一种基于神经网络和增强学习的新型开放领域问答系统，通过信息检索结合阅读理解模型对大规模语料库进行查询，显著提高了多个数据集的表现。

    Aug, 2017

  • 基于注意力机制的阅读理解神经网络

    本文提出了一种名为 Attention-over-Attention Reader 的模型，该模型针对 Cloze-style 阅读理解任务，在文档级别注意力的基础上加入了另一层注意力机制，用以预测正确答案，实验结果表明该模型在 CNN 和 Children's Book Test 等公开数据集上明显优于现有的各种最先进系统。

    Jul, 2016

  • 注意力求和读者网络的文本理解

    该研究提出了一种使用注意力机制直接从文本中选取答案的模型，特别适用于以文本中某个单词为答案的问题，并在多个数据集上取得了新的最优成绩。

    Mar, 2016

  • 用于机器阅读的长短期记忆网络

    论文提出了一种基于记忆网络和神经关注机制的机器阅读模拟器，能够更好地处理结构化输入，并结合编码器 - 解码器体系结构，取得了很好效果。

    Jan, 2016

  • 通过参照信息的重复和预测支持流式数据问答的记忆模型

    本文借鉴了人类记忆的机制，提出一种新的记忆模型，在处理输入时进行了排练和预测以记住重要信息，成功应用于问题回答数据集并得到了重大改进。

    May, 2023

  • 深度强化注意力学习用于品质感知视觉识别

    通过在任何卷积神经网络的弱监督生成中间注意力图的机制上进行改进，揭示了注意力模块的有效性，提出了一种元质疑网络，并结合强化学习的方法进行优化，从而提高了注意力模块的表达能力，并在分类和实例识别基准测试上进行了广泛的实验验证。

    Jul, 2020