SIGIRMar, 2024

生成式检索作为多向量密集检索

PDF
TL;DR生成检索是使用序列到序列架构，以端到端的方式为给定查询生成相关文档标识符的方法。本文通过研究生成检索的注意力层和预测头，揭示了生成检索与多向量稠密检索在测量文档对查询的相关性时采用相同的框架，并通过实验证明了这些方法在对齐矩阵中的术语匹配上具有相似性。
发现论文，激发创造
  • 生成式密集检索：内存可能成为负担

    提出了生成检索（GR）和生成稠密检索（GDR）两种机制，通过克服记忆机制的精度、记忆混淆和记忆更新成本等问题，在小规模语料库中实现了较好的检索性能和可扩展性。

    Jan, 2024

  • 上下文生成检索

    提出了一种上下文生成检索模型，其在生成式检索模型的解码步骤中使用上下文嵌入，结合了双编码器方法和生成式检索模型的优点，显示出比只有普通嵌入的情况更高的性能。

    Oct, 2022

  • 生成式信息检索综述

    通过综述 Generative Retrieval（GR）的关键发展、索引和检索策略和挑战，讨论了具有挑战性的生成查询质量、可学习文档标识符、可扩展性和多任务学习框架等未来研究方向，旨在为 GR 提供基础理解并激发信息检索领域的进一步创新。

    Jun, 2024

  • 基于生成检索的推荐系统

    提出一种新颖的单阶段生成检索模型，将 Amazon 数据集用于训练，结果表明，这种模型能够获得更好的推荐效果和更好的泛化能力以推荐 “冷启动” 物品。

    May, 2023

  • 生成式检索在百万篇章上的可扩展性？

    本文对生成式检索技术进行了第一次经验研究，通过使用合成查询作为文档表示进行索引，以及调整内部架构，探索了在不同语料库规模下扩展生成式检索的几个关键点，发现在小规模语料库上生成式检索和最先进的双编码器具有竞争力，但在数百万篇章的大规模语料库上实现可扩展性仍然是一个重要的未解决问题。

    May, 2023

  • 蒸馏增强的生成式检索

    通过蒸馏技术，提出了一种名为 DGR 的可行框架，利用排名模型作为教师角色，通过专门设计的蒸馏 RankNet loss 来优化生成式检索模型，从而提升了当前生成式检索系统的性能。

    Feb, 2024

  • 生成式检索中的学习排序

    提出了一个称为 LTRGR 的新框架，结合了生成式检索和经典的学习 - 排序模型，通过使用段落排名损失训练自回归模型，只需要额外的训练步骤即可增强当前的生成式检索系统，并在三个公共数据集上实现了最先进的性能。

    Jun, 2023

  • 信息检索的多元表示学习

    本文提出了一种新颖的表示学习框架，用于密集检索模型，框架采用多元分布作为表示，使用负多元 KL 散度计算相似性，在现有的最近邻算法中无缝集成，实验结果表明，较竞争的密集检索模型有显著的改进。

    Apr, 2023

  • 动态语料库上的持续更新生成式检索

    本研究介绍了一个名为 STREAMINGIR 的新基准，用于评估检索方法对于动态变化语料库（如实时问答）的泛化能力，并比较了双编码器和生成式检索的性能和效率。结果表明，生成式检索在不同程度的监督下表现出不同的性能，但是参数高效的措施可以在某些方面提高其性能并与双编码器的性能和效率具有竞争力。

    May, 2023

  • 评估生成式即时信息检索

    通过调查信息检索和自然语言处理文献，识别生成式检索中的搜索任务和系统架构，开发相应的用户模型并研究其操作化，该文理论分析为生成式即时检索系统的评估提供了基础和新洞察。

    Nov, 2023