Jun, 2022

一种用于文档检索的神经语料库索引器

PDF
TL;DR本文研究介绍了一种基于神经网络领域的全端到端文档检索方法，通过采用特定的技术，包括查询生成、语义文档标识符和基于一致性的规则化，并引入前缀感知、权重适应解码器架构，NCI（神经语料库索引器）可以直接生成相关文档标识符以实现课题回忆的最佳表现。经实证研究，NCI 在两个常用的学术基准测试中，相对于最佳基线方法，在 NQ320k 数据集的 Recall@1 上实现了 + 21.4% 的相对增强，在 TriviaQA 数据集的 R-Precision 上实现了 + 16.8% 的相对增强。
document retrievalend-to-end neural networkquery generationsemantic document identifiersrecall performance
发现论文，激发创造
  • 使用神经检索器提高生物医学信息检索

    本研究旨在提高神经检索器在生物医学领域中的表现，提出了模板问题生成方法、两个新的预训练任务以及多维语境表示（Poly-DPR）技术，并通过 BioASQ 挑战实验证明该方法在小语料库方面超越目前的神经方法和 BM25。

    Jan, 2022

  • 对话系统中快速轻量级答案文本检索

    本文研究表明，使用大量参数的深度学习模型可用于启用高级神经密集检索系统有效地运行于相对廉价的硬件上，特别适用于云服务中支持大量个性化对话系统以及其各自的文本语料库。

    May, 2022

  • 神经检索器与超越：论文提案

    本篇论文提出三个方面的方法，包括新的模型架构、IR 导向的预训练任务、生成大规模训练数据，以解决神经检索器面临的问题，并探讨了多模式查询的未来研究方向和相应的解决方法。

    May, 2022

  • 神经抽取式搜索

    我们提出了一种名为‘抽取式搜索’的搜索范式，其使用捕捉插槽等方法实现从大语料库中快速提取结构化信息，并通过神经检索和对齐提高召回率以改进结果。本文旨在简要介绍抽取式搜索并展示原型系统的潜力和好处。

    Jun, 2021

  • 深度问答中的自适应文档检索

    提出了一种学习最佳候选文档数目的自适应文档检索模型，在多个基准数据集中展示出胜于现有最先进方法的实验结果，并适用于具备变化规模的语料库。

    Aug, 2018

  • 面向开放域问答的渐进式预训练稠密语料库索引

    本研究提出了一种简单且资源有效的方法，利用现有的预训练序列到序列模型来建立强大的问题生成器，并通过渐进式预训练算法确保每个批次有效的负样本存在，以预训练段落编码器。通过三个数据集的实验，本方法在使用 7 倍的计算资源进行预训练的现有浓缩检索方法方面取得了更好的效果。

    Apr, 2020

  • 神经信息检索：文献综述

    本研究总结了当前神经信息检索研究的情况，特别关注了问题和文档的学习性表示（即神经嵌入），强调了神经信息检索目前的成功之处，列出了其更广泛采用的障碍，并建议未来研究的潜在方向。

    Nov, 2016

  • Ultron: 基于模型索引器的终极语料库检索器

    本文提出了基于模型的索引器 Ultron，通过在模型中编码所有文档的知识直接实现端到端的相关文档检索，解决了索引和检索分离的难题，并通过语义丰富且易于模型推理的 docids 以及三阶段的训练流程捕获语料库中的更多知识和查询与 docids 之间的关联，证明了在两个公共数据集上比先进基准线更优越的文档检索表现。

    Aug, 2022

  • 知识密集型任务的多任务检索

    本文介绍了一个多任务学习的神经检索模型，该模型在少样本、领域内外多种问题下表现良好，能够有效地检索到相关上下文信息，并且在多个基准测试中实现了与或优于目前的最新技术结果。

    Jan, 2021

  • 利用有限样本文档重新排序，加入相关反馈来改进信息检索

    本研究探讨如何将相关性反馈直接集成到神经重排模型中，使用 kNN 方法和交叉编码器模型，通过在现有信息检索数据集上的实验，证明了这种方法能够大幅提高神经重排模型的性能。

    Oct, 2022