ACLAug, 2021

PAIR：基于片段相似性关系提升密集型文本检索

PDF
TL;DR该研究提出了一种利用查询中心和段落中心相似性关系（称为 PAIR）进行密集段落检索的新方法，同时引入了高质量的伪标记数据，通过两阶段训练过程，显著提高了检索性能。
dense passage retrievaldual-encoder architecturesimilarity relationspassage-centric similarity relationspseudo labeled data
发现论文，激发创造
  • RocketQAv2：一种用于稠密段落检索和段落重新排序的联合训练方法

    提出一种新颖的联合训练方法，将密集型段落检索和段落重新排名进行联合优化，其中动态列表蒸馏、混合数据增强策略和列表训练方法等对于检索和重新排名均具有显著的贡献，实验结果表明该方法在 MSMARCO 和自然问题数据集上具有有效性。

    Oct, 2021

  • GNN-encoder：通过图神经网络学习双编码器架构，用于密集通道检索

    通过引入图神经网络，提出一种 GNN-encoder 模型，以改进密集表示检索模型的效率和性能，并在三个数据集上取得最新的最优效果。

    Apr, 2022

  • 用于开放式领域问答的密集式检索

    本研究展示了如何使用密集向量表示实现开放领域的问答，通过一个简单的双编码框架，通过从一小部分问题和段落中学习嵌入来实现检索，并在多个开放域 QA 基准测试中超越了传统的基于 TF-IDF 或 BM25 的方法，为终端 QA 系统的最新性能奠定了基础。

    Apr, 2020

  • 混合协同检索结果重排

    提出一种混合协作的篇章重排序方法，利用上游检索器的相似度测量结果进行篇章重排序，并结合了稀疏和密集检索器的词汇和语义特征，以提高传统检索和重排序方法的性能。

    May, 2023

  • 面向开放域段落检索的句子感知对比学习

    本文提出改进内部表示粒度，引入基于上下文句子的模型和 in-passage 负采样策略，以缓解不合适的建模方式对于对话的影响，在三个基准数据集上进行实验并验证方法的有效性，特别是在冲突严重的数据集中的表现。

    Oct, 2021

  • 稠密通道检索器的复制研究

    本研究对 Karpukhin 等人于 2020 年提出的基于稠密编码的全域问答模型（DPR）进行了复制研究，其中发现原作者低估了 BM25 基准检索的有效性。我们通过改进的答案跨度评分技术，使用与原论文相同的模型获得更好的端到端问题答案准确性。

    Apr, 2021

  • PARE: 用于单语和多语言远程监督关系提取的简单而强大的基准模型

    研究了一种简单的基线方法 (PARE)，将实体对袋子中的所有句子连接成一个句子段，并使用 BERT 进行联合编码，使用候选关系作为查询，通过注意力聚合令牌的上下文嵌入，预测 candidate 关系。实验结果表明，这个简单的基线模型在单语和多语远程监督关系提取数据集中胜过现有的 SOTA 模型。

    Oct, 2021

  • 短语检索也学会了段落检索

    通过研究密集短语检索系统，探讨短语检索是否可以作为粗粒度检索（如段落和文档）的基础，并提出了短语过滤和矢量量化等方法，可以将检索索引的大小减小至原来的 4-10 倍，从而使得密集短语检索成为多粒度检索的实用解决方案。

    Sep, 2021

  • RocketQA: 开放领域问答中基于密集文本检索的优化训练方法

    本文提出了一种优化的训练方法 RocketQA 来改进密集问答检索，通过跨批次负样例、去噪硬负样例和数据增强等三种策略的实验，证明该方法在 MSMARCO 和 Natural Questions 上都显著优于之前的最先进模型，并提高了 end-to-end QA 的性能。

    Oct, 2020

  • 基于嵌入的零样本检索通过查询生成

    本文通过采用两塔架构来建立神经检索模型，并提出了一种新的用于检索的合成数据生成方法，显著优于基于词汇匹配算法的 BM25，并在 5 个测试数据集中平均提高 Recall@1 指标 2.45 个点。

    Sep, 2020