Aug, 2023

单句阅读者：解决答案位置偏见的新方法

PDF
TL;DR这篇论文探讨了答案位置偏差的概念，其中有大部分训练问题的答案仅位于上下文的第一句。我们提出了一种新的方法来解决机器阅读理解中的答案位置偏差问题，即单句阅读器。我们使用六种不同的模型实现了这种方法，并对它们的性能进行了详细分析。值得注意的是，我们提出的单句阅读器的结果几乎与传统训练集上训练的模型相匹配，证明了其有效性。我们的研究还讨论了单句阅读器遇到的几个挑战，并提出了一个潜在的解决方案。
发现论文，激发创造
  • 机器阅读理解中的答案修正

    研究机器阅读理解中回答验证的有效性，提出了一种后处理修正方法，通过单语和多语评估，在现有 MRC 系统的基础上实现了显著的性能提升。

    Nov, 2020

  • 多篇文档阅读理解的深度级联模型

    本研究提出一种深度串级学习模型来平衡在线问答系统的效能和效率之间的基本权衡，在多文档的 MRC 场景中取得更好的效果并能够在不到 50 毫秒内稳定地为数百万日请求提供服务。

    Nov, 2018

  • 我应该给出多少个答案？多答案阅读理解的实证研究

    本文通过设计分类来分析多答案现象的出现原因以及采用不同策略来更好地解决多答案现象，在实验中发现生成模型可能成为一个有前途的平台来整合不同范例。

    Jun, 2023

  • 提高多语言机器阅读理解答案边界检测能力

    本文提出在 fine-tuning 阶段加入两个辅助任务，建立跨语言问题 - 段落对，并结合从 web 挖掘的知识短语进行跨语言 MRC，实验证明该方法有效。

    Apr, 2020

  • SciMRC：多角度科学机器阅读理解

    该研究提出了一个新的多方面的科学机器阅读理解数据集 SciMRC，由 741 篇科学论文和 6,057 个问题答案对构成，并利用预训练模型进行了广泛的实验，表明了考虑不同阅读角度的重要性，并证明了其机器理解的挑战性。

    Jun, 2023

  • 利用对抗攻击揭示机器阅读理解模型中的统计偏差

    本文研究了预训练语言模型在机器阅读理解任务中表现的问题，发现现有模型的性能存在统计偏差，提出了一种有效的攻击方法以及一种改进的训练方法来解决这个问题。

    May, 2021

  • 教模型在理解文档后回答问题

    提出了一种两阶段知识蒸馏方法，通过将 MRC 任务分为两个单独阶段教导模型更好地理解文档，实验结果表明，使用该方法装备的学生模型具有显著的改进，证明了该方法的有效性。

    Jul, 2023

  • 面向机器阅读理解的证据句子提取

    本研究提出一种利用深度概率逻辑学习框架提取证据句子的方法，在三个具有挑战性的多项选择机器阅读理解数据集上实现了可比较或更好的性能，为多项选择机器阅读理解提供了新的思路。

    Feb, 2019

  • 基于案例推理的机器阅读理解

    提出了一种基于 CBR-MRC 的精确且可解释的答案提取方法，其利用相似问题之间的语义相似性来预测问题的答案，并在 NaturalQuestions 和 NewsQA 数据集上都取得了较高的准确率。

    May, 2023

  • 使用组合性解释来教授机器理解

    本文提出了一种使用少量半结构化解释 “教” 机器阅读理解的方法，同时提取结构化变量和规则，并组成神经模块作为下游 MRC 模型的训练实例的注释，使用可学习的神经模块和软逻辑来处理语言变化并克服模型覆盖率不足。在 SQuAD 数据集上，使用 26 个解释进行监督训练，该方法实现了 70.14% 的 F1 得分，与使用 1100 个标记实例的普通监督学习相比，速度提高了 12 倍。

    May, 2020