Dec, 2020

COVID-19 端到端问答：通过合成训练实现领域自适应

PDF
TL;DR本文探讨了如何通过合成的问答数据来提高封闭领域检索和机器阅读理解的性能，实验结果表明将神经信息检索系统和机器阅读理解系统组合后，在 CORD-19 数据集上相比于基准开放领域问答系统，有显著的改进。
发现论文，激发创造
  • 面向开放检索问答的合成目标领域监督

    本研究针对新的神经通道检索方法加以探讨，发现在 COVID-19 的封闭和专业目标域中，SOTA 模型 Dense Passage Retriever 比标准 BM25 差距较大。通过用文本生成器来生成合成训练示例对其进行微调，使其在对外域数据处理中更具鲁棒性，效果有所提高。最终，BM25 与改进的 DPR 模型的集成产生了最佳结果，进一步推动了开放式检索 QA 的 SOTA，适用于多个出域测试集。

    Apr, 2022

  • 端到端合成数据生成用于问答系统领域自适应

    本篇论文提出了一种用于合成问答数据生成的端到端方法，该模型包括一个基于 transformer 的编码器解码器网络，能够训练生成答案和问题，并且通过微调预训练的语言模型进行训练，实验结果表明，在领域适应的 QA 模型中，该生成器显著优于当前最先进的方法。

    Oct, 2020

  • 基于有限文本语料库的对比领域自适应对话回答

    本研究提出了一种名为对比领域自适应问答（CAQA）的新型领域适应框架，该框架结合了问题生成和域不变学习技术，用于在文本语料库受限的情况下回答域外问题，并且相较于现有技术取得了显著的效果改善。

    Aug, 2021

  • 一个针对电子治理的开放领域问答系统

    研究提出了一个基于 BERT 模型的开放式罗马尼亚问答系统，用于回答与 COVID-19 相关的问题，并介绍了其与罗马尼亚语言技术门户网站 RELATE 的整合、COVID-19 数据集和不同的 QA 性能评估。

    Jun, 2022

  • 利用背景知识进行查询重写回答科学考试问题

    本文针对 ARCChallenge 数据集的超越式难题提出了一种系统，该系统利用查询重写、背景知识和文本属于性，成功地提高了端到端 QA 任务的性能，并超越了几个强基线。

    Sep, 2018

  • 在问答系统中使用弱监督和数据增强

    研究探讨了弱监督和数据增强在训练深度神经网络问答模型中的作用，利用结构化文摘和信息检索算法 BM25 生成标签，通过信息检索技术和词汇数据库增强训练数据，应用课程学习进行领域自适应和逐步微调问答模型来回答关于 COVID-19 的问题。

    Sep, 2023

  • 机器阅读理解的稳健领域自适应

    本文提出了一种名为 RMRC 的方法，使用对话和领域自适应技术构建问题 - 答案对，通过答案提取器和问题选择器以及增强式自训练方法进行优化，从而解决机器阅读理解中因领域迁移引起的问题，包括噪声对应和效率降低，实验证明了该方法的有效性。

    Sep, 2022

  • 利用合成预训练构建稳健的神经检索模型

    研究表明，机器阅读理解数据集可以用于训练高性能的神经信息检索系统，利用序列到序列生成器生成的合成样本的预训练可以提高神经信息检索系统的鲁棒性和检索表现。

    Apr, 2021

  • 带信息搜索代理的交互式机器阅读理解

    通过重新设计现有的机器阅读理解数据集，将其转化为互动、部分可观察的环境，加入上下文命令并训练模型，有望将模型扩展到面向 Web 级别的 QA 场景。

    Aug, 2019

  • 开放域问答系统综述：检索与阅读

    本文综述了 OpenQA 领域的最新研究趋势，重点关注采用神经 MRC 技术的系统，介绍了现代 OpenQA 体系结构 Retriever-Reader 及采用该体系结构的各种系统，讨论了开发 OpenQA 系统面临的关键挑战，并对常用的基准进行了分析。

    Jan, 2021