ACLApr, 2020

提高多语言机器阅读理解答案边界检测能力

PDF
TL;DR本文提出在 fine-tuning 阶段加入两个辅助任务，建立跨语言问题 - 段落对，并结合从 web 挖掘的知识短语进行跨语言 MRC，实验证明该方法有效。
multilingual pre-trained modelsmachine reading comprehensionphrase boundary supervisioncross-lingual question-passage pairslanguage-agnostic knowledge masking task
发现论文，激发创造
  • 跨语言机器阅读理解

    提出了面向非英语语言的跨语言机器阅读理解（CLMRC）任务，通过双向 Bert 模型和回译方法，利用英语作为基础语言的大规模训练数据来提高低资源语言的阅读理解性能，并在中文机器阅读理解数据集上进行了实验，结果表明该方法能够显著提高机器阅读理解的性能。

    Sep, 2019

  • 共享、教学与对齐：熟知的跨语言机器阅读理解的知识迁移

    本文提出了一种新的跨语言机器阅读理解方法 X-STA，利用关注力机制和知识共享技术实现源语言答案转移到目标答案空间，并通过语义对齐和教师引导来增强跨语言迁移能力，实验证明了该方法在多种多语言机器阅读理解数据集上的有效性。

    Nov, 2023

  • 基于语言分支知识蒸馏的跨语言机器阅读理解

    本文提出了一种名为 LBMRC 的创新增强方法和一种多语言蒸馏方法，共同提高跨语言转移性能，并且可以更加鲁棒地处理数据噪声，同时我们在两个 CLMRC 基准测试上进行了广泛的实验并验证了我们的方法的有效性。

    Oct, 2020

  • 教模型在理解文档后回答问题

    提出了一种两阶段知识蒸馏方法，通过将 MRC 任务分为两个单独阶段教导模型更好地理解文档，实验结果表明，使用该方法装备的学生模型具有显著的改进，证明了该方法的有效性。

    Jul, 2023

  • 跨段落答案验证的多段机器阅读理解

    提出了一种基于端到端神经模型的多文本阅读理解模式，通过多个模块的共同作用来检测文本间的答案验证，实现对真实网络数据的阅读理解，显著提高了 MS-MARCO 数据集和中文 DuReader 数据集的 MRC 模型性能。

    May, 2018

  • 迁移学习增强的单选决策用于多选题答题

    该研究论文以多选机器阅读理解为主题，使用预训练语言模型作为编码器，并通过微调来分享和传递知识。通过训练二元分类，将多选问题转换为单选问题，并选择置信度最高的选项作为最终答案。通过从其他 MRC 任务转移知识，提出的方法摆脱了多选框架，并可以利用其他任务的资源。在 RACE 和 DREAM 数据集上评估基于 ALBERT-xxlarge 模型构建的模型，实验结果表明该模型在多选方法上表现更好，并且通过从其他类型 MRC 任务转移知识，该模型在单个和集合设置中都取得了最先进的结果。

    Apr, 2024

  • 知识赋能的中文医学阅读理解表征学习：任务、模型和资源

    本论文介绍了一个多目标的医疗领域机器阅读理解任务，同时提出了一个高质量的医学数据集 CMedMRC，并提出了一种医疗 BERT 模型 CMedBERT，这种模型通过异构特征的动态融合和多任务学习策略将医学知识融入到预训练的语言模型中，实验表明 CMedBERT 通过融合上下文感知和知识感知的令牌表示，始终优于强基线。

    Aug, 2020

  • 运行时机器翻译实现的多语言抽取式阅读理解

    本研究提出一种基于注意力机制的神经机器翻译模型，将源语言（非英语）数据经过翻译转化为目标语言（英语），在英语翻译数据上训练阅读理解模型，在目标语言中生成答案并通过软对齐注意力机制将目标语言中的答案还原回源语言，并且实验表明，我们的方法明显优于最先进的机器翻译系统的回译基线方法。

    Sep, 2018

  • 机器阅读理解的稳健领域自适应

    本文提出了一种名为 RMRC 的方法，使用对话和领域自适应技术构建问题 - 答案对，通过答案提取器和问题选择器以及增强式自训练方法进行优化，从而解决机器阅读理解中因领域迁移引起的问题，包括噪声对应和效率降低，实验证明了该方法的有效性。

    Sep, 2022

  • 机器阅读理解中的答案修正

    研究机器阅读理解中回答验证的有效性，提出了一种后处理修正方法，通过单语和多语评估，在现有 MRC 系统的基础上实现了显著的性能提升。

    Nov, 2020