Dec, 2022

把检索视为注意力：单个 Transformer 内检索和阅读的端到端学习

HTML
PDF
TL;DR通过使用Retrieval as Attention (ReAtt)和Transformer，我们的研究表明，通过端到端的培训，单个模型可以同时实现有竞争力的提取和问答表现，在监督和无监督的设置中显著提高其在超领域数据集上的性能。
发现论文，激发创造
  • 弱监督开放域问答的潜在检索

    本文提出了一种新的open domain question answering方法, 利用问题-回答对来同时学习retriever和reader，将Wikipedia中的证据检索视为潜在变量，并通过Inverse Cloze Task进行预训练。我们的方法在五个QA数据集上进行测试，表明在用户真正寻求答案的数据集上，学习检索至关重要，完全匹配方面的得分比传统的IR系统（如BM25）高达19个点。

    Jun, 2019

  • ReQA: 面向端到端答案检索模型的评价

    本篇论文介绍了一个用于评估大规模句子级别答案检索模型的基准Retrieval Question-Answering（ReQA），并使用神经编码模型和传统信息检索技术建立了基线。我们提供我们的评估代码以鼓励更多关于这一具有挑战性的任务的研究。

    Jul, 2019

  • 使用ColBERT进行开放式问题回答的相关性引导监督

    利用 ColBERT 模型定义了 ColBERT-QA，采用细粒度相互作用和弱监督策略来提升开放域问答的效果，实验结果表明在三个数据集上均取得了最先进的提取式开放域问答性能。

    Jul, 2020

  • 从阅读器向检索器提取知识以作问答之用

    本文提出了一种受到知识蒸馏启发的学习信息检索器的技术，在没有标注的查询和文档对的情况下，利用阅读器模型的注意力分数来获得检索器的合成标签，用于下游任务，最终在问题回答方面达到了最先进的结果。

    Dec, 2020

  • 端到端的神经检索器训练，用于开放领域的问答

    本篇论文通过系统地研究检索器的预训练，提出了一种利用反向填空任务和掩盖显著跨度的无监督预训练方法，并在问题-上下文对上进行有监督微调的方法。此外还探讨了两种OpenQA模型的端对端有监督培训方法，并展示了这些方法在性能方面相对于较小模型的一致性提升。实验结果表明这些方法效果显著优于现有的一些模型。

    Jan, 2021

  • 开放域问答的多文档阅读器和检索器的端到端训练

    提出了一种针对获取增强型开放领域问答系统的端到端可区分训练方法，它结合多个已检索文件的信息来生成答案，通过期望最大化算法的近似计算来建模检索决策，证明了该方法优于现有同类方法，达到了新的最高水平。

    Jun, 2021

  • 开放域问答只需一个模型

    本研究提出了一种基于transformer架构的内部逐层注意力机制，将知识库搜索模型和重排模型整合为统一的模型，并进行端到端训练，以实现高效利用模型容量并提高梯度流量。该模型可以在固定参数预算内显著优于现有模型，达到1.0和0.7的精准匹配得分。

    Dec, 2021

  • 利用QA-Memory增强预训练语言模型以进行开放域问答

    本文提出了一种以问答对为基础的编码-解码模型，通过该模型的预训练策略，能够在单跳及多跳问题上达到强大性能，并进一步提高了对模型的解释和控制能力，缩小了与段落检索系统之间的性能差距。

    Apr, 2022

  • 只需要问题：密集式段落检索器训练

    ART是一种新的语料库自动编码方法，用于训练密集检索模型，通过未标注的输入和输出实现了高效的无监督学习，且在不需要标记数据和任务特定的损失的情况下，在多个QA检索基准测试中获得了最先进的结果。

    Jun, 2022

  • BRENT: 双向检索增强挪威变压器

    利用REALM框架进行适应性评估，开发了第一个挪威基于检索的语言模型，证明了检索增强语言建模可提高读者在摘要问答上的表现，并表明这种类型的训练不会以其他功能为代价。

    Apr, 2023