SIGIRMay, 2021

基于产品量化嵌入索引的深度检索模型联合学习

PDF
TL;DR本文提出了一种称为 Poeem 的新方法，它采用了产品量化嵌入索引与深度检索模型联合训练的方法，将嵌入学习和索引构建两个步骤统一起来，从而提高了检索准确率，减少了索引时间，并公开了我们的方法以便于比较和重现。
embedding indexapproximate nearest neighbor searchpoeemproduct quantizationend-to-end training
发现论文，激发创造
  • 共同优化查询编码器和产品量化来提高检索性能

    本文介绍了一种名为 JPQ 的联合优化方法，该方法结合了查询编码和 Product Quantization，以实现高效的 Dense Retrieval，并在两个公开的评估基准测评中获得了显着的性能提升。

    Aug, 2021

  • Etsy 搜索中基于统一嵌入的个性化检索

    本文提出了一种能够同时解决语义差异问题和根据用户历史交互提供个性化语义搜索结果的新方法，将图嵌入、transformer 模型和基于术语的嵌入统一到一个嵌入模型中，同时分享了特征工程、硬负采样策略以及 transformer 模型应用方面的技巧。此个性化检索模型增强了用户的搜索体验，并提高了搜索购买率和网站整体转化率。

    Jun, 2023

  • 面向半监督图像检索的广义产品量化网络

    本研究提出了基于泛化乘积量化网络的半监督图像检索方案，通过设计新颖的度量学习策略提高量化网络的泛化能力，实现了对标记和未标记数据的充分利用，并在大规模图像基准数据集上展示了最先进的性能。

    Feb, 2020

  • 可微分乘积量化用于端到端嵌入压缩

    本文提出了可最小化储存空间的不同产品量化的压缩框架（DPQ），可以作为任何现有嵌入层的替代品，且降低了 14-238 倍的压缩率，以及在三个不同语言任务的 10 个数据集上表现良好。

    Aug, 2019

  • 为推荐系统学习大词汇类别特征的多粒度量化嵌入

    本论文旨在为大型 vocab 稀疏特征的推荐系统学习高度紧凑的嵌入。我们提出了不同可微的产品量化（DPQ）方法，并提出了一种多粒度量化嵌入（MGQE）技术，以更好地处理推荐系统中常见的幂律数据分布。实验结果表明，我们只需要使用原始模型大小的大约 20％，即可实现与原始模型大小相当或更好的性能。

    Feb, 2020

  • 通过生成伪查询嵌入以改善密集检索的文档表示

    本论文提出了一种基于聚类的检索模型，通过迭代聚类过程来模拟查询，并将文档表示为多个伪查询，通过两步得分计算程序优化匹配函数，实现了高效的近似最近邻搜索，达到了最先进的结果。

    May, 2021

  • 多词术语嵌入改进词汇产品检索

    H1 嵌入模型在电子商务平台的产品描述离线术语索引中，通过整合产品检索的词汇方法和基于语义嵌入的方法的优势，提出了一种构建语义丰富术语词汇的方法，能够作为单个标记来处理多词产品术语，提高系统的精度而不影响召回率，此模型在 WANDS 公共数据集上的混合搜索系统得分为 mAP@12 = 56.1% 和 R@1k = 86.6%，超过其他最先进的模型。

    Jun, 2024

  • 神经信息检索与图嵌入相遇：产品搜索排序模型

    本文介绍了一种利用图嵌入技术使神经信息检索模型可以利用图结构数据进行自动特征提取的方法，并将其应用于电子商务数据集中，结果显示该方法在多个强基线模型和排序框架中都有显著提高。

    Jan, 2019

  • 连续空间端到端检索

    通过培训简单的检索专用模型，并采用合适的模型架构，我们考虑了端到端的连续检索问题，并使用标准的近似最近邻搜索代替通常的离散倒排索引，仅依靠学习嵌入之间的距离。在两个相似问题检索任务上，我们在离散基线上实现了 8％和 26％（MAP）的提升，并讨论了检索系统评估的问题，并展示了如何修改现有的成对相似性数据集以实现此目的。

    Nov, 2018

  • 适用于内存高效密集检索的领域适应

    本文探讨了二进制文档向量的性能及传统压缩技术的局限性，并提出了一个基于 GPL 的领域自适应策略，可在不需要标注训练数据的情况下，将 BPR 和 JPQ 调整适应任何语料库，提高了 nDCG@10 平均 11.6 - 19.3 分，并且仍保持了 32 倍的内存效率。

    May, 2022