Nov, 2021

SPANN：高效的十亿级近似最近邻搜索

PDF
TL;DR本文提出了一种名为 SPANN 的内存磁盘混合索引和搜索系统，它采用倒排索引方法论，将单元点存储在内存中，较大的单元列表存储在磁盘中，采用分层平衡聚类算法来平衡单元列表的长度，采用查询感知方案动态修剪不必要的单元列表查询，实验证明该系统相较于现有的近似最近邻搜索（ANNS）解决方案 DiskANN 在处理数十亿数据集时，可以用相同的内存成本实现同样的召回率质量，并且速度快 2 倍以上 。
approximate nearest neighbor searchhybrid indexingdisk-access efficiencybalanced clustering algorithmquery-aware scheme
发现论文，激发创造
  • FreshDiskANN：一种用于流式相似度搜索的快速准确基于图的 ANN 索引

    本文提出了一种可以在实时反映文本更新的图形近似最近邻搜索方法，使用 update rules 实现了 FreshDiskANN 系统，能够在单个工作站上索引十亿个点，支持实时插入、删除和搜索，优化了索引保持新鲜的成本。

    May, 2021

  • 高维数据的近似最近邻搜索：实验、分析与改进（v1.0）

    本文详细评估了 16 种不同算法在 20 个不同数据集、多个评估指标和不同查询工作负载下的性能表现，并提出了一种新的方法以提高查询效率和召回率。

    Oct, 2016

  • AiSAQ：全存储 ANNS 与产品量化用于无 DRAM 信息检索

    本文提出了一种名为 All-in-Storage ANNS with Product Quantization (AiSAQ) 的方法，通过将压缩向量转移到存储器中，可以在十亿级别的数据集中实现约 10MB 的内存使用，同时还能减少查询之前的索引加载时间，增强检索辅助生成（RAG）的灵活性。该方法适用于所有基于图的近似最近邻搜索算法，未来还可以与更高规格的近似最近邻搜索方法相结合。

    Apr, 2024

  • 将基于图的 ANNS 算法扩展到十亿级数据集：一份比较分析

    本文提出了一组基于可扩展性的原则度量 ANNS 算法的评估标准，包括并行性能、建树时间、性能随数据集增加的扩展性以及机器无关的度量方法等，并优化了四种基于图的算法，提供了一种通用的无锁的递增 ANNS 图算法框架来应对现代应用所需的更高难度的准确性评价

    May, 2023

  • AdANNS：自适应语义搜索框架

    本文介绍了一种基于 Matryoshka Representations 的 ANNS 设计框架 - AdANNS，通过使用不同容量的自适应表示来实现更好的准确性和计算效率平衡，例如在图像检索上，AdANNS-IVF 与在相同计算预算下基于刚性表示的 IVF 相比可提高 1.5% 的准确性，并且在时钟时间上快 90 倍；在自然问题上，32 字节的 AdANNS-OPQ 与使用刚性表示的 64 字节 OPQ 相比具有相同的准确性，成本减少了一半。

    May, 2023

  • 流行近似最近邻搜索实现的最坏情况性能：保证和限制

    图形化相似最近邻搜索算法的最坏情况性能研究，以 HNSW、NSG 和 DiskANN 为例，发现其实际查询时间与实例大小成线性关系，并证明其具有常数近似比和多对数查询时间的边界维数据集。

    Oct, 2023

  • 基于图的近似最近邻搜索的综合调查和实验比较

    本文综述了 13 个代表性的基于图的近似最近邻搜索算法，通过新的分类和细粒度的流程进行了比较分析和实验评估。该研究提供了优化算法的原则并设计了一种优化方法，可以优于现有的基于图的近似最近邻算法。同时还提供了关于有前途的研究方向和适合不同领域从业者使用的算法的经验建议。

    Jan, 2021

  • PECANN：基于图的近似最近邻搜索的并行高效聚类

    该研究论文通过抽象密度峰聚类算法中的关键步骤，如使用基于图的近似最近邻搜索（ANNS）方法来寻找满足预测函数的最近邻，提出了一种统一的框架 PECANN。通过在合成和真实数据集上评估，该方法在大规模高维度数据集上实现了高速的聚类效果，并在性能和准确性上超越了现有的算法。

    Dec, 2023

  • CAGRA: 高并行图构建和 GPU 上的近似最近邻搜索

    通过使用现代硬件的高性能能力，我们的方法在构建接近图时，构建时间比 HNSW 快 2.2~27 倍；在大批量查询吞吐量方面，在 90% 至 95% 召回范围内，我们的方法比 HNSW 快 33~77 倍，并且比 GPU 的最新实现快 3.8~8.8 倍；对于单个查询，在 95% 召回率时我们的方法比 HNSW 快 3.4~53 倍。

    Aug, 2023

  • 使用松弛度的随机嵌入和高维近似最近邻

    本文提出了一种针对欧氏空间的新的 “低质量” 嵌入定义，并应用随机投影将问题降低到与目标空间中近似最近邻的 $k$ 个近似最近邻象限所对应的原像空间的维度成反比的空间中；通过 BBD 树等数据结构，可有效检索这 $k$ 个近似最近邻点。在计算近似近邻问题时，此方法可以获得所需的线性空间和时间复杂度为 $O (d n^{ ho})$ 的查询时间，并可直接解决 approximate nearest neighbor problem 问题，具有比基于 BBD 树的方法更好的查询时间指数。

    Dec, 2014