ACLDec, 2020

机器阅读理解中的共指推理

PDF
TL;DR本文认为使用 MRC 数据集评估 coreference reasoning 能力是有限的，提出了更能反映 coreference reasoning 挑战的 MRC 数据集构建方法，并使用先前 coreference resolution 数据集中的自然现象，展示了训练 MRC 模型的有效方式，并取得了 state-of-the-art models 的改进。
发现论文，激发创造
  • Quoref：一个需要共指推理的阅读理解数据集

    提供一个新的众包数据集，用于多句理解文本，涉及复杂的指代消解，旨在评估阅读模型解决指代消解的能力，与现有的基准模型相比，该模型表现显著更好。

    Aug, 2019

  • 追溯起源：具有共指关注的机器阅读理解

    本文介绍了一种模拟人类阅读过程并利用实体的指代信息来增强预训练语言模型中的词嵌入以提高模型性能的方法，头两种微调方式，即在预训练模型后添加额外的编码器层以关注实体的指代提及或构建关系图卷积网络来建模实体间的关系。结果表明，在微调阶段明确加入指代信息的方法比在预训练中加入指代信息的方法表现更好。

    Oct, 2021

  • 基于查询的跨度预测的指代消解

    本文对实体语义的问题提出一个可扩展且高准确率的解决方法，利用生成的查询可以深入分析文本中的语义，进行连词识别，以此提高模型的泛化能力。

    Nov, 2019

  • 带信息搜索代理的交互式机器阅读理解

    通过重新设计现有的机器阅读理解数据集，将其转化为互动、部分可观察的环境，加入上下文命令并训练模型，有望将模型扩展到面向 Web 级别的 QA 场景。

    Aug, 2019

  • 利用多任务学习将关系知识纳入常识阅读理解

    本文提出了一种将外部关联知识与多任务学习相结合的方法，以提高机器阅读理解的效果，并在两个多选基准数据集上进行了实验，结果表明该方法在常识推理方面表现优异。

    Aug, 2019

  • 机器阅读理解：任务、评价指标和基准数据集综述

    本篇论文主要对机器阅读理解（MRC）领域中的任务、数据集、评估指标等方面进行综合调研和分析，发现现有 MRC 模型虽已超越人类在不同 benchmark 数据集的表现，但与真实的人类阅读理解能力仍存在很大差距，因此提出了一些未来的研究方向和关键问题。

    Jun, 2020

  • 机器阅读理解 Gold 标准评估框架

    本论文提出了一个统一框架来系统研究现有的语言特征、推理需求、背景知识和事实正确性以及词汇线索的存在。研究结果发现 MRC 数据存在词汇歧义、答案事实正确性的差异和词汇线索的存在，这些都可能降低阅读理解的复杂性和质量。

    Mar, 2020

  • 教模型在理解文档后回答问题

    提出了一种两阶段知识蒸馏方法，通过将 MRC 任务分为两个单独阶段教导模型更好地理解文档，实验结果表明，使用该方法装备的学生模型具有显著的改进，证明了该方法的有效性。

    Jul, 2023

  • 面向推理的阅读理解：ParallelQA

    探讨了端到端神经机器阅读理解模型倾向于匹配浅层模式而非推理，同时提出了利用平行语段来进行参照推理问题的 ParallelQA 策略，并证明了现有神经模型在此设置中无法很好地泛化。

    May, 2018

  • 评估机器阅读理解数据集的基准测试能力

    本篇研究提出了一种半自动化的消融实验方法，通过检查即使除去与语言理解相关的特征后是否仍然能回答问题，来评估语言理解能力挑战数据集的性能，实验结果表明，很多问题并不需要语法复杂的推理，为了精准评估 MRC 数据集，需要在设计时额外注意。

    Nov, 2019