May, 2023

神经信息检索推理时重排反馈

PDF
TL;DR本文提出了利用轻量级的推理，将 re-ranker 的命中率反馈给 retriever 的方法，从而提高检索召回率。实验证明，此方法在多个领域、语言和模态下均明显提高了检索召回率。
neural information retrievalretrieve-and-rerank frameworkrelevance feedbackquery representationretrieval recall
发现论文，激发创造
  • 利用有限样本文档重新排序，加入相关反馈来改进信息检索

    本研究探讨如何将相关性反馈直接集成到神经重排模型中，使用 kNN 方法和交叉编码器模型，通过在现有信息检索数据集上的实验，证明了这种方法能够大幅提高神经重排模型的性能。

    Oct, 2022

  • 基于知识蒸馏的快速检索式聊天机器人

    本文研究了响应检索中的跨编码器架构及其应用领域，并在此基础上提出了一种新的跨编码器架构，将其应用于双编码器模型中可以大幅提升其检索性能，并在三个响应检索数据集上进行了详细分析。

    Apr, 2020

  • 针对召回导向的神经信息检索的相关性反馈策略

    通过基于 BERT 的密集向量搜索产生的相关排名，并基于累积求和的查询和选择的嵌入，我们提出了一种更注重召回率的减少审核工作量的方法，该方法可与基线方法相比，以固定的召回目标为基础，减少 17.85% 至 59.04% 的审核工作量。

    Nov, 2023

  • 基于在线蒸馏的伪相关反馈

    本文研究在在线情况下是否可以从神经重排结果中有效地提取特定查询的模型，并发现在线提取的词汇模型能够在索引上有效地执行。通过识别在第一检索阶段被忽略的文档，第二检索阶段可以丰富重新排序文档的池。实证研究表明，这种方法与假反馈技术、密集检索方法和稀疏 - 密集集成方法相比，表现出优越性。

    Jun, 2023

  • 基于伪相关反馈的多重表示密集检索

    本研究探讨了基于伪相关反馈的多重嵌入密集检索方法的潜力。通过从第一遍密集检索中确定的伪相关文件集中提取代表性反馈嵌入，然后将其添加到查询表示中，证明了这些附加反馈嵌入不仅能够提高重新排序的有效性，还能提高附加密集检索操作的效率。

    Jun, 2021

  • ED2LM: 用于更快文档重新排序推理的 Encoder-Decoder 到语言模型

    提出使用预训练的 encoder-decoder 模型，通过 document to query generation 来进行重新排名，同时在推理时，将其分解为仅有 decoder 的语言模型以提高推理速度，实验结果表明该方法可以比传统的交叉注意模型快 6.8 倍，并且能取得相当的效果。

    Apr, 2022

  • 从阅读器向检索器提取知识以作问答之用

    本文提出了一种受到知识蒸馏启发的学习信息检索器的技术，在没有标注的查询和文档对的情况下，利用阅读器模型的注意力分数来获得检索器的合成标签，用于下游任务，最终在问题回答方面达到了最先进的结果。

    Dec, 2020

  • 提升自然语言理解的计算高效检索表示融合

    在本文中，我们提出了一种计算高效的检索表示融合方法 ReFusion，通过神经架构搜索，直接将检索表示融入到语言模型中，来解决将外部数据库中的知识纳入到非知识密集型任务中的挑战。实验证明，我们的 ReFusion 在各种非知识密集型任务上实现了卓越且鲁棒的性能。

    Jan, 2024

  • 学习与职位匹配的检索

    应用学习检索技术改进 LinkedIn 的职位搜索和推荐系统，通过构建评估求职者资格的图和利用学习到的链接进行检索，提高应聘人员质量并优化求职者参与度。

    Feb, 2024

  • 多阶段检索管道中 BERT 重新排序器的训练思考

    本文提出了一种名为局部对比估计的方法，用于训练基于深度先前训练的语言模型的重排器，以实现更好的文本检索性能，实验证明本方法显著优于现有的基于深度两阶段模型。

    Jan, 2021