Feb, 2024

基于图的近似最近邻搜索的自适应入口点选择的理论和实证分析

PDF
TL;DR我们对于基于图的近似最近邻搜索（ANNS）的自适应入口点选择进行了理论和实证分析。我们引入了新颖的概念：b - 单调路径和 B-MSNET，其在实际算法中比现有的概念如 MSNET 更好地捕捉到了真实图形。我们证明了在比以前的工作更一般的条件下，自适应入口点选择提供了比固定中心入口点更好的性能上界。从实证上看，在各种数据集上，尤其是在包含分布之外的数据和难例的挑战情况下，我们在准确性、速度和内存使用方面验证了该方法的有效性。我们的综合研究为优化面向实际高维数据应用的基于图的 ANNS 的入口点提供了更深入的见解。
adaptive entry point selectiongraph-based approximate nearest neighbor searchb-monotonic pathb-msnetoptimizing entry points
发现论文，激发创造
  • 基于图的近似最近邻搜索的综合调查和实验比较

    本文综述了 13 个代表性的基于图的近似最近邻搜索算法，通过新的分类和细粒度的流程进行了比较分析和实验评估。该研究提供了优化算法的原则并设计了一种优化方法，可以优于现有的基于图的近似最近邻算法。同时还提供了关于有前途的研究方向和适合不同领域从业者使用的算法的经验建议。

    Jan, 2021

  • 基于图的概率路由的近似最近邻搜索

    通过引入具有概率保证的方法，该研究旨在增强基于图的最近邻搜索中的路由，提出了 PEOs，一种有效地确定图中应考虑的邻居进行准确距离计算的新方法，实验证明其在常用图索引（HNSW）上可以提高吞吐量 1.6 到 2.5 倍，并且其效率始终比最先进的路由技术提高 1.1 到 1.4 倍。

    Feb, 2024

  • 将基于图的 ANNS 算法扩展到十亿级数据集：一份比较分析

    本文提出了一组基于可扩展性的原则度量 ANNS 算法的评估标准，包括并行性能、建树时间、性能随数据集增加的扩展性以及机器无关的度量方法等，并优化了四种基于图的算法，提供了一种通用的无锁的递增 ANNS 图算法框架来应对现代应用所需的更高难度的准确性评价

    May, 2023

  • 高维数据的近似最近邻搜索：实验、分析与改进（v1.0）

    本文详细评估了 16 种不同算法在 20 个不同数据集、多个评估指标和不同查询工作负载下的性能表现，并提出了一种新的方法以提高查询效率和召回率。

    Oct, 2016

  • 动态数据集上的近似最近邻搜索：一项调查

    近似 k 最近邻（ANN）方法常用于大规模高维数据集上的信息挖掘和机器学习，针对动态数据集和在线特征学习等应用，我们通过实证评估了 5 种流行的 ANN 方法，结果表明在动态数据集中，k-d 树方法不适用，并且在在线数据收集和在线特征学习方面，层次可导航小世界图方法和可扩展最近邻方法分别比基线方法更快速。

    Apr, 2024

  • 基于神经相似性度量的大规模推荐系统近似最近邻搜索

    本研究中，我们提出了一种新的方法来扩展近似最近邻搜索到任意匹配函数（例如深度神经网络），并使用可插拔的对抗性训练任务来保证搜索结果的准确性；通过在开源和工业数据集上的实验证明了我们方法的有效性，并在淘宝展示广告平台上进行了全面部署，带来了相当可观的广告收入增长。

    Feb, 2022

  • 流行近似最近邻搜索实现的最坏情况性能：保证和限制

    图形化相似最近邻搜索算法的最坏情况性能研究，以 HNSW、NSG 和 DiskANN 为例，发现其实际查询时间与实例大小成线性关系，并证明其具有常数近似比和多对数查询时间的边界维数据集。

    Oct, 2023

  • 在线图形探索方法的鲁棒化

    利用机器学习预测作为辅助，通过引入预测算法结合最近邻算法，探索未知环境的学习增加变种基于线上图探索问题的研究，证明当预测精度高时算法显著优于其他线上算法，并在预测较差时保持良好保证，提供了与预测误差平稳退化的理论最坏情况下的绑定，并通过计算实验证实了结果，同时还扩展了该概念到鲁棒算法的一般框架，通过在给定算法与最近邻算法之间进行谨慎插值，证明了新的性能边界，既利用特定输入的良好性能，又确立了对任意输入的鲁棒性。

    Dec, 2021

  • AdANNS：自适应语义搜索框架

    本文介绍了一种基于 Matryoshka Representations 的 ANNS 设计框架 - AdANNS，通过使用不同容量的自适应表示来实现更好的准确性和计算效率平衡，例如在图像检索上，AdANNS-IVF 与在相同计算预算下基于刚性表示的 IVF 相比可提高 1.5% 的准确性，并且在时钟时间上快 90 倍；在自然问题上，32 字节的 AdANNS-OPQ 与使用刚性表示的 64 字节 OPQ 相比具有相同的准确性，成本减少了一半。

    May, 2023

  • CAGRA: 高并行图构建和 GPU 上的近似最近邻搜索

    通过使用现代硬件的高性能能力，我们的方法在构建接近图时，构建时间比 HNSW 快 2.2~27 倍；在大批量查询吞吐量方面，在 90% 至 95% 召回范围内，我们的方法比 HNSW 快 33~77 倍，并且比 GPU 的最新实现快 3.8~8.8 倍；对于单个查询，在 95% 召回率时我们的方法比 HNSW 快 3.4~53 倍。

    Aug, 2023