May, 2023

DAPR: 一个关于文档感知的片段检索基准

PDF
TL;DR本文提出了文档感知段落检索 (DAPR) 任务的概念，并通过在段落表示中引入文档级上下文的不同方法扩展最先进的神经段落检索器。实验结果表明，混合检索系统在 DAPR 任务中只能略微改进，但能显著改进文档检索任务，这激励着进一步研究该新任务的更好检索系统的开发。
document-aware passage retrievalneural retrievaldocument contextbenchmarkhybrid retrieval
发现论文，激发创造
  • 稠密通道检索器的复制研究

    本研究对 Karpukhin 等人于 2020 年提出的基于稠密编码的全域问答模型（DPR）进行了复制研究，其中发现原作者低估了 BM25 基准检索的有效性。我们通过改进的答案跨度评分技术，使用与原论文相同的模型获得更好的端到端问题答案准确性。

    Apr, 2021

  • 生物医学问答中的前 K 个相关片段检索

    我们在临床领域中通过对现有 DPR 框架的改进，从可靠的 Pubmed 文章中检索答案，使其在 BioASQ QA 数据集上的评估结果为 0.81 的 F1 得分。

    Aug, 2023

  • 多样化多项答案检索的联合通道排名

    本文介绍了第一个联合检索模型，JPR，用于多答案检索，并使用自回归评分器选择一系列段落，JPR 能够在每个时间步选择覆盖新答案的段落，并使用树解码算法增加多样性。与之前的方法相比，JPR 在三个多答案数据集上实现了显著更好的答案覆盖率，使得答案生成模型能够考虑更少的段落，从而树立了新的最佳水平。

    Apr, 2021

  • 检索增强生成：稠密段落检索是否正在检索？

    密集路径检索（DPR）是提升大型语言模型（LLM）性能的检索增强生成（RAG）范式中的第一步，本研究通过探测、层激活分析和模型编辑的组合，深入研究 DPR fine-tuning，发现 DPR 训练方式中的去中心化存储及其对检索模型的限制，为密集检索提供了几个可能的方向：（1）将更多知识暴露给 DPR 训练过程以实现更多的去中心化，（2）将事实作为分散表示注入，（3）在检索过程中建模和融入知识的不确定性，以及（4）将内部模型知识直接映射到知识库。

    Feb, 2024

  • 使用哈希的高效开放域问答过程检索

    本篇论文介绍一种名为 Binary Passage Retriever (BPR) 的神经检索模型，它将学习哈希技术集成到 Dense Passage Retriever (DPR) 中，以紧凑的二进制代码表示待检索文本，从而大幅降低了内存成本，同时保证了一致的精度，这适用于开放领域的问答。

    Jun, 2021

  • 面向开放域段落检索的句子感知对比学习

    本文提出改进内部表示粒度，引入基于上下文句子的模型和 in-passage 负采样策略，以缓解不合适的建模方式对于对话的影响，在三个基准数据集上进行实验并验证方法的有效性，特别是在冲突严重的数据集中的表现。

    Oct, 2021

  • 基于片段的文档排序学习方法

    本文研究使用文章中更多的信息以提高文档检索的效率， 作者设计了基于学习排名的文档检索方法，利用对查询的响应中生成的条目排名，其中一些方法量化文档的条目排名，另一些利用基于特征的条目表示法用于学习条目排名。实证评估证明了我们的方法在高效基线的基础上具有明显的优点，而最佳表现的方法是基于使用文档查询特征和条目查询特征的文档排名函数的学习。

    Jun, 2019

  • DPR 主题：用于密集段落检索的基于主题的提示

    Topic-DPR 是一种基于主题的密集段落检索模型，通过对多个基于主题的提示进行优化和对比学习，使表示与其主题分布对齐，提高空间均匀性，并引入了一种新的正负采样策略来提高检索效率。实验证明，该方法超过了之前最先进的检索技术。

    Oct, 2023

  • 一种灵活框架的零样本文档级问答检测、检索和理解

    本文提出了一种三阶段文件 QA 方法，包括从 PDF 中提取文本，从提取的文本中检索证据以形成良好的上下文，以及从上下文中提取 3 种类型的知识（抽取式、生成式或布尔式）。通过对 QASPER 的评估，DRC 系统在交付更优的上下文选择的同时，Answer-F1 达到了 +7.19 的提高。结果表明，DRC 在科学文献 QA 中有很大的亮点。

    Oct, 2022

  • 基于 BERT 的段落检索和排名中处理打字错误的方法

    本文探讨了针对关键字错别字造成的关键字不匹配所产生的影响，针对这一问题，我们提出了简单而有效的错别字感知培训框架，实验证明该框架可以显著提高 DR 和 BERT Re-ranker 的有效性。

    Aug, 2021