EMNLPSep, 2021

简单实体中心问题挑战密集检索器

PDF
TL;DR本文主要研究使用 Wikidata 数据构造的 entity-rich questions 在密集检索模型中表现不佳的问题，并探讨了两种解决方案：第一种解决方法是数据扩充无法解决广义化问题，第二种解决方法是更加强大的 passage encoder 有助于使用专门化的问题编码器来更好地适应问题。
open-domain question answeringdense retrieval modelsentity-rich questionsgeneralization problempassage encoder
发现论文，激发创造
  • 用于开放式领域问答的密集式检索

    本研究展示了如何使用密集向量表示实现开放领域的问答，通过一个简单的双编码框架，通过从一小部分问题和段落中学习嵌入来实现检索，并在多个开放域 QA 基准测试中超越了传统的基于 TF-IDF 或 BM25 的方法，为终端 QA 系统的最新性能奠定了基础。

    Apr, 2020

  • 只需要问题：密集式段落检索器训练

    ART 是一种新的语料库自动编码方法，用于训练密集检索模型，通过未标注的输入和输出实现了高效的无监督学习，且在不需要标记数据和任务特定的损失的情况下，在多个 QA 检索基准测试中获得了最先进的结果。

    Jun, 2022

  • 基于密集检索的表格开放领域问答

    本研究针对开放领域问题回答系统的表格数据提出了一种有效的检索方法，并通过训练和挖掘难例等技术，提高了回答的准确性和表现。

    Mar, 2021

  • AugTriever：可扩展的数据增强无监督密集检索

    本文提出了无需注释的可扩展伪查询文档对训练方法，包括查询提取和转化查询生成两种。通过使用这些方法，研究展示出比其他方法更好的检索表现。

    Dec, 2022

  • 使用多跳密集检索回答复杂开放域问题

    我们提出了一种简单而高效的多跳密集检索方法来回答复杂的开放域问题，该方法在两个多跳数据集 HotpotQA 和多证据 FEVER 上实现了最先进的性能。与以前的工作相反，我们的方法不需要访问任何特定于语料库的信息（如文档间超链接或人工注释实体标记），可以应用于任何非结构化文本语料库。与已发布的 HotpotQA 的最佳准确度相匹配，同时在推理时间上快 10 倍，我们的系统也可以产生更好的效率 - 准确性权衡。

    Sep, 2020

  • 简单问题生成命名实体识别数据集

    本研究提出了一种问答式自动生成命名实体识别数据的方法，使用生成的数据进行训练的模型在多项 NER 评测中表现优异，并在少样本 NER 中取得了新的最佳表现。

    Dec, 2021

  • 大规模学习短语的密集表示

    该研究展示了从阅读理解任务的监督学习中学习到短语的密集表示，并使用负采样方法提高性能，能够取代当前依赖于稀疏表示的短语检索模型，实现更好的开放域问答准确性并被用作密集知识库。

    Dec, 2020

  • 检索有益还是有害？对语言模型检索增强效果的深入研究

    通过研究大型语言模型的自身限制以及外部信息检索的有效性，本研究构建了一个新的问答数据集 WiTQA，以探索实体和关系的组合对于信息检索和知识回忆方面的影响，从而提出了一个基于实体和关系频率的自适应检索系统。

    Feb, 2024

  • 冻结的预训练语言模型可用于实体中心问题的零 - shot 神经检索吗？

    本文提出了一种基于预训练语言模型的检索方法，通过利用领域中已有的实体信息来实现领域内检索。实验结果表明，在如 Wikipedia 等领域中，本文提出的检索方法在实体相关问题上的效果要优于传统的 DPR 方法，并且可以在不进行微调的情况下有效利用预训练语言模型的知识资源，从而在实体名称包含常用词的情况下表现出比 BM25 更好的性能。

    Mar, 2023

  • 实时开放域问答与密集稀疏短语索引

    本文提出了一种查询不可知的可索引文档短语表示，该表示可以大大加速开放域问答，并允许我们达到长尾目标。实验证明，该模型的计算成本降低了 6,000 倍，并且比 DrQA 更准确，可以在 CPU 上实现最快 58 倍的端到端推理基准。

    Jun, 2019