ACLSep, 2018

机器阅读理解中的通用知识显式利用

PDF
TL;DR本文提出了一种基于数据丰富的方法，提取给定语料对中的语义联系作为人类的通用知识，并在此基础上构建了一种知识辅助的 MRC 模型，与业内领先 MRC 模型相比具有相当的性能和更强的抗干扰能力。
发现论文，激发创造
  • 利用多任务学习将关系知识纳入常识阅读理解

    本文提出了一种将外部关联知识与多任务学习相结合的方法，以提高机器阅读理解的效果，并在两个多选基准数据集上进行了实验，结果表明该方法在常识推理方面表现优异。

    Aug, 2019

  • 利用机器阅读理解从文本构建动态知识图谱

    我们提出了一种神经机器阅读模型，它从过程文本中构建动态知识图，并利用它们来跟踪参与实体的演变状态，从而改善机器对文本的理解。

    Oct, 2018

  • 使用组合性解释来教授机器理解

    本文提出了一种使用少量半结构化解释 “教” 机器阅读理解的方法，同时提取结构化变量和规则，并组成神经模块作为下游 MRC 模型的训练实例的注释，使用可学习的神经模块和软逻辑来处理语言变化并克服模型覆盖率不足。在 SQuAD 数据集上，使用 26 个解释进行监督训练，该方法实现了 70.14% 的 F1 得分，与使用 1100 个标记实例的普通监督学习相比，速度提高了 12 倍。

    May, 2020

  • 使用通用阅读策略提高机器阅读理解能力

    该论文提出了三种针对无摘录机器阅读理解 (MRC) 的通用阅读策略：双向阅读、高亮显示和自我评估，并通过在 RACE 数据集和多个非抽取式 MRC 数据集上微调预训练的语言模型以证明其有效性和适用性。

    Oct, 2018

  • 神经机器阅读理解：方法与趋势

    本文综述了深度学习在机器阅读理解 (MRC) 中的应用，包括典型的 MRC 任务、神经网络 MRC 的体系结构和新兴领域。文章指出了未来需要解决的问题。

    Jul, 2019

  • 教模型在理解文档后回答问题

    提出了一种两阶段知识蒸馏方法，通过将 MRC 任务分为两个单独阶段教导模型更好地理解文档，实验结果表明，使用该方法装备的学生模型具有显著的改进，证明了该方法的有效性。

    Jul, 2023

  • 利用外部知识资源实现领域特定的理解

    通过利用知识图谱与预训练语言模型的嵌入空间相结合的方法，我们对领域特定的文本数据进行了对齐和融合，从而实现与领域特定模型相似的性能表现。

    Jan, 2024

  • 机器阅读理解 Gold 标准评估框架

    本论文提出了一个统一框架来系统研究现有的语言特征、推理需求、背景知识和事实正确性以及词汇线索的存在。研究结果发现 MRC 数据存在词汇歧义、答案事实正确性的差异和词汇线索的存在，这些都可能降低阅读理解的复杂性和质量。

    Mar, 2020

  • 检索与阅读：信息检索和阅读理解的多任务学习

    本研究提出一种简单而有效的方法，通过使用监督多任务学习，将 IR 和 RC 任务结合起来，以考虑答案跨度来训练 IR 组件，实现大规模机器阅读，从而取得了最先进的表现。

    Aug, 2018

  • 机器阅读理解：上下文语言模型的作用与发展

    本篇综述论文全面比较了机器阅读理解的研究，主要介绍了它的起源、发展历程、对 NLP 社区的影响、定义、数据集、技术方法、研究亮点，并提出了新的分类和分类法，认为机器阅读理解将浅层文本匹配转化为认知推理的领域，同时也深化了从语言处理到语言理解的进展。

    May, 2020