May, 2023

将基于图的 ANNS 算法扩展到十亿级数据集：一份比较分析

PDF
TL;DR本文提出了一组基于可扩展性的原则度量 ANNS 算法的评估标准，包括并行性能、建树时间、性能随数据集增加的扩展性以及机器无关的度量方法等，并优化了四种基于图的算法，提供了一种通用的无锁的递增 ANNS 图算法框架来应对现代应用所需的更高难度的准确性评价
approximate nearest-neighbor searchevaluating algorithmsscalabilitydistance computationsgraph-based algorithms
发现论文，激发创造
  • 基于图的近似最近邻搜索的综合调查和实验比较

    本文综述了 13 个代表性的基于图的近似最近邻搜索算法，通过新的分类和细粒度的流程进行了比较分析和实验评估。该研究提供了优化算法的原则并设计了一种优化方法，可以优于现有的基于图的近似最近邻算法。同时还提供了关于有前途的研究方向和适合不同领域从业者使用的算法的经验建议。

    Jan, 2021

  • 高维数据的近似最近邻搜索：实验、分析与改进（v1.0）

    本文详细评估了 16 种不同算法在 20 个不同数据集、多个评估指标和不同查询工作负载下的性能表现，并提出了一种新的方法以提高查询效率和召回率。

    Oct, 2016

  • 基于图的概率路由的近似最近邻搜索

    通过引入具有概率保证的方法，该研究旨在增强基于图的最近邻搜索中的路由，提出了 PEOs，一种有效地确定图中应考虑的邻居进行准确距离计算的新方法，实验证明其在常用图索引（HNSW）上可以提高吞吐量 1.6 到 2.5 倍，并且其效率始终比最先进的路由技术提高 1.1 到 1.4 倍。

    Feb, 2024

  • FreshDiskANN：一种用于流式相似度搜索的快速准确基于图的 ANN 索引

    本文提出了一种可以在实时反映文本更新的图形近似最近邻搜索方法，使用 update rules 实现了 FreshDiskANN 系统，能够在单个工作站上索引十亿个点，支持实时插入、删除和搜索，优化了索引保持新鲜的成本。

    May, 2021

  • 动态数据集上的近似最近邻搜索：一项调查

    近似 k 最近邻（ANN）方法常用于大规模高维数据集上的信息挖掘和机器学习，针对动态数据集和在线特征学习等应用，我们通过实证评估了 5 种流行的 ANN 方法，结果表明在动态数据集中，k-d 树方法不适用，并且在在线数据收集和在线特征学习方面，层次可导航小世界图方法和可扩展最近邻方法分别比基线方法更快速。

    Apr, 2024

  • 流行近似最近邻搜索实现的最坏情况性能：保证和限制

    图形化相似最近邻搜索算法的最坏情况性能研究，以 HNSW、NSG 和 DiskANN 为例，发现其实际查询时间与实例大小成线性关系，并证明其具有常数近似比和多对数查询时间的边界维数据集。

    Oct, 2023

  • CAGRA: 高并行图构建和 GPU 上的近似最近邻搜索

    通过使用现代硬件的高性能能力，我们的方法在构建接近图时，构建时间比 HNSW 快 2.2~27 倍；在大批量查询吞吐量方面，在 90% 至 95% 召回范围内，我们的方法比 HNSW 快 33~77 倍，并且比 GPU 的最新实现快 3.8~8.8 倍；对于单个查询，在 95% 召回率时我们的方法比 HNSW 快 3.4~53 倍。

    Aug, 2023

  • ANN-Benchmarks：一种用于近似最近邻算法基准测试的工具

    本文介绍了 ANN-Benchmarks，这是一种用于评估内存中近似最近邻算法的性能的工具，它提供了一个标准接口来测量不同标准数据集上最近邻算法的性能和质量，并支持多种不同方式的 k-NN 算法集成，其配置系统自动测试每个算法的一系列参数设置。ANN-Benchmarks 旨在提供 k-NN 算法的最新发展概述，并对评估结果进行了评估，并指出了未来工作的方向。

    Jul, 2018

  • AdANNS：自适应语义搜索框架

    本文介绍了一种基于 Matryoshka Representations 的 ANNS 设计框架 - AdANNS，通过使用不同容量的自适应表示来实现更好的准确性和计算效率平衡，例如在图像检索上，AdANNS-IVF 与在相同计算预算下基于刚性表示的 IVF 相比可提高 1.5% 的准确性，并且在时钟时间上快 90 倍；在自然问题上，32 字节的 AdANNS-OPQ 与使用刚性表示的 64 字节 OPQ 相比具有相同的准确性，成本减少了一半。

    May, 2023

  • 基于图的近似最近邻搜索的自适应入口点选择的理论和实证分析

    我们对于基于图的近似最近邻搜索（ANNS）的自适应入口点选择进行了理论和实证分析。我们引入了新颖的概念：b - 单调路径和 B-MSNET，其在实际算法中比现有的概念如 MSNET 更好地捕捉到了真实图形。我们证明了在比以前的工作更一般的条件下，自适应入口点选择提供了比固定中心入口点更好的性能上界。从实证上看，在各种数据集上，尤其是在包含分布之外的数据和难例的挑战情况下，我们在准确性、速度和内存使用方面验证了该方法的有效性。我们的综合研究为优化面向实际高维数据应用的基于图的 ANNS 的入口点提供了更深入的见解。

    Feb, 2024