Apr, 2024

扩展查询训练的排名器的惊人有效性

PDF
TL;DR通过使用查询扩充和专用排名器，改进难查询的排名性能，而不牺牲其他查询的性能。在 DL-Hard 数据集上进行的广泛实验表明，使用基础和专用排名器的基于查询性能的评分方法相比于使用原始查询的基线性能，在段落排名任务上提供了高达 25% 的显著改进，并在文档排名任务中提供高达 48.4% 的改进，甚至超过了现有技术水平模型。
text-ranking systemshard queriesquery enrichmentspecialized rankerranking performance
发现论文，激发创造
  • 使用模块化 Re-ranker 进行长文档重新排名

    本文提出了一种新的长文档重新排序方法，通过利用自注意力机制和模块化 Transformer 框架建立查询到文档的交互模型，避免了编码过程中低维度表示带来的信息瓶颈，实现了从全部文档中提取重要信息的目的，并在 Robust04 和 ClueWeb09 等数据集上实现了有效的重新排序。

    May, 2022

  • ExaRanker: 解释增强型神经排名器

    本文研究表明：在输出答案之前，引导大型语言模型生成解释是提高推理任务性能的有效策略；本研究还发现神经排名器也受益于解释。我们使用像 GPT-3.5 这样的大型语言模型对检索数据集进行增强，并训练一个序列到序列的排名模型，输出给定查询 - 文档对的相关性标签和解释。我们的模型，ExaRanker，在少量带有合成解释的示例上微调，性能与在 3 倍更多没有解释的示例上微调的模型相当。此外，ExaRanker 模型在排名过程中不产生额外的计算成本，可以按需请求解释。

    Jan, 2023

  • 文本检索的鲁棒性排序器

    通过使用多个检索模型作为负样本生成器，引入大规模的噪声标签和多样性负样本进行训练，提出了一种鲁棒的排序模型 R^2anker，实验结果显示该模型表现优于现有工具。

    Jun, 2022

  • 训练用于开放域问答的排名函数

    该研究提出了两个神经网络排序器，用于评分不同段落是否包含特定问题的答案，进一步分析了语义相似性与单词级相关性匹配在开放域 QA 中的相对重要性。

    Apr, 2018

  • 在开放领域问答中对段落进行排名以提高答案召回率

    本文讲述了一种称为段落排名器的方法，它提高了开放域 QA 管道的性能，通过排名检索文档的段落以获取更高的答案回忆率和更少的噪声。在四个开放域 QA 数据集上，使用段落排名器排名段落和聚合答案相比未使用该方法，性能平均提高了 7.8%，也展示了开放域 QA 与机器理解模型的结合。

    Oct, 2018

  • 使用预训练的序列到序列模型进行文档排名

    通过对预训练序列到序列模型进行新的调整，使其能够用于文档排名任务，相比较于 BERT 等仅采用编码器预训练变压器架构的基于分类的排名方法，我们的方法在实验中展现出了更好的性能，并发现我们的方法在数据较少的情况下更能胜任。

    Mar, 2020

  • 通过学习排序回答问题 - 通过回答问题学习排序

    本文介绍了一种使用自注意力神经网络对维基百科等自然语言语料库中提取的文档进行语义排名的方法，并提出了一种模型，该模型使用了这种语义排名，能够在两个最流行的答题排行榜中名列第一，这两个排行榜分别是 ARC Easy 和 Challenge，我们还发布了排名的文档，以便它们可以被直接使用用于改进下游决策模型。

    Sep, 2019

  • 基于预训练语言模型的百度搜索排名

    本文介绍了将预训练语言模型（PLMs）引入搜索引擎的相关技术及其在实际应用中所面临的问题，使用 ERINE 语言模型以及创新的预训练策略、调整排列信号的方法，成功提高搜索引擎的性能。

    May, 2021

  • 查询预测扩展文档

    该研究提出了一种将搜索引擎文档扩展为与其内容相关或代表性术语的简单方法，并利用基于 Vanilla 序列到序列模型的数据集对其进行扩展，结合高效的重新排序组件，实现了两种检索任务的最高效结果。

    Apr, 2019

  • 基于片段的文档排序学习方法

    本文研究使用文章中更多的信息以提高文档检索的效率， 作者设计了基于学习排名的文档检索方法，利用对查询的响应中生成的条目排名，其中一些方法量化文档的条目排名，另一些利用基于特征的条目表示法用于学习条目排名。实证评估证明了我们的方法在高效基线的基础上具有明显的优点，而最佳表现的方法是基于使用文档查询特征和条目查询特征的文档排名函数的学习。

    Jun, 2019