SIGIRApr, 2020

通过上下文重点预测实现扩展

PDF
TL;DR本文提出了一种通过基于上下文的语言模型来显式建模每个词汇的重要性、扩展查询方法以及基于词典对表示的理解性进行打分的 EPIC 方法，该方法在 MRR@10 上达到了 0.304，且能够显著提高检索效果和降低硬件的查询延迟。
发现论文，激发创造
  • 查询预测扩展文档

    该研究提出了一种将搜索引擎文档扩展为与其内容相关或代表性术语的简单方法，并利用基于 Vanilla 序列到序列模型的数据集对其进行扩展，结合高效的重新排序组件，实现了两种检索任务的最高效结果。

    Apr, 2019

  • RepBERT: 一阶段检索的上下文化文本嵌入

    使用 RepBERT 来进行文档和查询的表示，通过上下文嵌入的固定长度实现，使用嵌入的内积作为相关性分数，在 MS MARCO Passage Ranking 任务中，RepBERT 在所有初始检索技术中实现了最新的结果。

    Jun, 2020

  • 利用语言模型的语境线索采样进行查询扩展

    本文提出了一种结合了有效过滤策略和基于上下文生成概率的检索文档融合的词汇匹配的方法，在减小索引大小的同时，提高了检索准确性；同时，在 end-to-end QA 模型中，该方法也能取得最高的 Exact-Match 分数。

    Oct, 2022

  • BERT-QE: 基于上下文的查询扩展用于文档重新排名

    本论文提供了一种使用 BERT 模型选择相关文档块进行扩展的新型查询扩展模型，能够在标准 TREC Robust04 测试集上显著优于 BERT-Large 模型，有助于解决查询扩展方法引入不相关信息的问题。

    Sep, 2020

  • 文档内级联：学习选择用于神经网络文档排序的片段

    采用基于知识蒸馏的 ESM 模型剪枝候选文档以减少计算量，从而降低了基于 ETM 模型的查询延迟并提高了检索效果。

    May, 2021

  • 学习反向索引的检索影响

    本论文提出了一种名为 DeepImpact 的新文档术语加权方案，通过使用 DocT5Query 来丰富文档集合并引入上下文化语言模型，直接估算文档中标记的语义重要性，在效率上提升高达 5.1 倍，与现有方法相比，在文档检索的效果指标上高达 17%。

    Apr, 2021

  • 阅读理解的上下文化词表示

    论文研究了使用神经网络和预训练语言模型来提取文件中问题的答案，通过提供丰富的上下文表示并允许模型在上下文相关和上下文无关的单词表示之间进行选择，可以获得比现有技术更好的性能。

    Dec, 2017

  • 针对第一阶段检索的上下文感知句子 / 段落术语重要性估计

    本文提出了 Deep Contextualized Term Weighting 框架，可以将 BERT 的上下文表示映射到句子和段落的上下文感知权重，用于段落检索和一阶段检索算法，实验表明 DeepCT 的深层上下文理解显著提高了一阶段检索算法的准确性。

    Oct, 2019

  • 基于大型语言模型的文档扩展预训练用于密集式段落检索

    利用 LLM（大型语言模型）进行文档扩展进行预训练，显著提升了大规模网络搜索任务中的检索性能。

    Aug, 2023

  • ColBERT: 通过 BERT 的上下文化后交互实现高效有效的段落搜索

    ColBERT 是一种基于深度语言模型的信息检索方法，通过实现一种廉价而又强大的互动机制，将查询和文档分别进行编码，然后为它们建立细粒度相似性，从而利用深度语言模型的表现力，同时加快查询处理。

    Apr, 2020