May, 2023

AdANNS：自适应语义搜索框架

PDF
TL;DR本文介绍了一种基于 Matryoshka Representations 的 ANNS 设计框架 - AdANNS，通过使用不同容量的自适应表示来实现更好的准确性和计算效率平衡，例如在图像检索上，AdANNS-IVF 与在相同计算预算下基于刚性表示的 IVF 相比可提高 1.5% 的准确性，并且在时钟时间上快 90 倍；在自然问题上，32 字节的 AdANNS-OPQ 与使用刚性表示的 64 字节 OPQ 相比具有相同的准确性，成本减少了一半。
web-scale search systemsapproximate nearest neighbor searchadannsmatryoshka representationsaccuracy-compute trade-offs
发现论文，激发创造
  • AiSAQ：全存储 ANNS 与产品量化用于无 DRAM 信息检索

    本文提出了一种名为 All-in-Storage ANNS with Product Quantization (AiSAQ) 的方法，通过将压缩向量转移到存储器中，可以在十亿级别的数据集中实现约 10MB 的内存使用，同时还能减少查询之前的索引加载时间，增强检索辅助生成（RAG）的灵活性。该方法适用于所有基于图的近似最近邻搜索算法，未来还可以与更高规格的近似最近邻搜索方法相结合。

    Apr, 2024

  • 基于图的近似最近邻搜索的综合调查和实验比较

    本文综述了 13 个代表性的基于图的近似最近邻搜索算法，通过新的分类和细粒度的流程进行了比较分析和实验评估。该研究提供了优化算法的原则并设计了一种优化方法，可以优于现有的基于图的近似最近邻算法。同时还提供了关于有前途的研究方向和适合不同领域从业者使用的算法的经验建议。

    Jan, 2021

  • FreshDiskANN：一种用于流式相似度搜索的快速准确基于图的 ANN 索引

    本文提出了一种可以在实时反映文本更新的图形近似最近邻搜索方法，使用 update rules 实现了 FreshDiskANN 系统，能够在单个工作站上索引十亿个点，支持实时插入、删除和搜索，优化了索引保持新鲜的成本。

    May, 2021

  • 将基于图的 ANNS 算法扩展到十亿级数据集：一份比较分析

    本文提出了一组基于可扩展性的原则度量 ANNS 算法的评估标准，包括并行性能、建树时间、性能随数据集增加的扩展性以及机器无关的度量方法等，并优化了四种基于图的算法，提供了一种通用的无锁的递增 ANNS 图算法框架来应对现代应用所需的更高难度的准确性评价

    May, 2023

  • 高维数据的近似最近邻搜索：实验、分析与改进（v1.0）

    本文详细评估了 16 种不同算法在 20 个不同数据集、多个评估指标和不同查询工作负载下的性能表现，并提出了一种新的方法以提高查询效率和召回率。

    Oct, 2016

  • 基于神经相似性度量的大规模推荐系统近似最近邻搜索

    本研究中，我们提出了一种新的方法来扩展近似最近邻搜索到任意匹配函数（例如深度神经网络），并使用可插拔的对抗性训练任务来保证搜索结果的准确性；通过在开源和工业数据集上的实验证明了我们方法的有效性，并在淘宝展示广告平台上进行了全面部署，带来了相当可观的广告收入增长。

    Feb, 2022

  • SPANN：高效的十亿级近似最近邻搜索

    本文提出了一种名为 SPANN 的内存磁盘混合索引和搜索系统，它采用倒排索引方法论，将单元点存储在内存中，较大的单元列表存储在磁盘中，采用分层平衡聚类算法来平衡单元列表的长度，采用查询感知方案动态修剪不必要的单元列表查询，实验证明该系统相较于现有的近似最近邻搜索（ANNS）解决方案 DiskANN 在处理数十亿数据集时，可以用相同的内存成本实现同样的召回率质量，并且速度快 2 倍以上 。

    Nov, 2021

  • 动态自适应网络智能

    本文介绍了一种高效的弱监督学习模型 Dynamic Adaptive Network Intelligence (DANI)，用于准确地学习数据中的显式和隐含关系，该模型在 bAbI 数据集的问答任务上取得了最先进的结果。

    Nov, 2015

  • 第一阶段检索的复合编码稀疏自编码器

    本文提出了一种用于文档表示的复合码稀疏自动编码器（CCSA）方法，以近似最近邻（ANN）搜索为基础。该模型可以替代传统的词袋模型，并可与最近的基于图的 ANN 技术相结合。经实验证明，CCSA 在给定数据集上优于 IVF with product quantization，同时，CCSA 的二进制量化对于基于图的 HNSW 方法的索引大小和内存使用有好处，并保持良好的召回率和 MRR。

    Apr, 2022

  • 在 GPU 上高效地进行大规模近似最近邻搜索

    本研究提出基于 Product Quantization 的两层向量量化树的 ANN 搜索新方法，在 GPU 实现方面取得了比 CPU 更高的性能表现，适用于视频中循环关闭等对时间敏感的高维问题。

    Feb, 2017