Apr, 2014

提升双层产品量化在高维度亿级近似最近邻搜索中的效率

PDF
TL;DR本研究针对高维数据，提出了两种基于产品量化方法的最近邻搜索系统，并通过实验证明这些系统在检索效率与精度方面优于现有的系统。
nearest neighbor searchproduct quantizationindexing structuredata compressionhigh-dimensional data
发现论文，激发创造
  • 在 GPU 上高效地进行大规模近似最近邻搜索

    本研究提出基于 Product Quantization 的两层向量量化树的 ANN 搜索新方法，在 GPU 实现方面取得了比 CPU 更高的性能表现，适用于视频中循环关闭等对时间敏感的高维问题。

    Feb, 2017

  • AiSAQ：全存储 ANNS 与产品量化用于无 DRAM 信息检索

    本文提出了一种名为 All-in-Storage ANNS with Product Quantization (AiSAQ) 的方法，通过将压缩向量转移到存储器中，可以在十亿级别的数据集中实现约 10MB 的内存使用，同时还能减少查询之前的索引加载时间，增强检索辅助生成（RAG）的灵活性。该方法适用于所有基于图的近似最近邻搜索算法，未来还可以与更高规格的近似最近邻搜索方法相结合。

    Apr, 2024

  • 面向半监督图像检索的广义产品量化网络

    本研究提出了基于泛化乘积量化网络的半监督图像检索方案，通过设计新颖的度量学习策略提高量化网络的泛化能力，实现了对标记和未标记数据的充分利用，并在大规模图像基准数据集上展示了最先进的性能。

    Feb, 2020

  • 使用 Quick ADC 加速最近邻搜索

    本文提出了一种名为 Quick ADC 的新技术，通过利用当前 CPU 中可用的单指令多数据 (SIMD) 单元，实现了对 ADC 的 3-6 倍加速，并提出了两个关键算法修改，将 8 位子量化器替换为 4 位子量化器和定量化浮点距离。

    Apr, 2017

  • 超越产品量化：深度渐进量化用于图像检索

    该论文介绍了一种用于大规模图像检索的深度渐进量化模型，该模型学习逐步逼近视觉特征的量化码，并且可以同时训练不同码长的量化码，实现了优于现有技术的图像检索效果。

    Jun, 2019

  • 图像搜索和检索的端到端监督产品量化

    该研究提出了 Deep Product Quantization（DPQ）技术，通过学习二元表示，以图像检索和分类为例，具有与 Product Quantization 方法类似的计算复杂度和存储空间，并在多项检索和分类实验中取得了最新的卓越结果。

    Nov, 2017

  • 产品量化及其硬件加速

    本文研究了在 DNNs 中将传统的 MAC 操作替换为使用 product quantization 时的计算和内存占用情况，采用不同的 PQ 设置和训练方法，设计了第一个定制的硬件加速器来评估运行 PQ 模型的速度和效率，发现与高度优化的传统 DNN 加速器相比，PQ 配置能够使 ResNet20 的面积性能提高 40% 至 104%，且硬件性能优于近期的 PQ 解决方案 4 倍，只有 0.6% 的精度降低，为 PQ 模型的更广泛采用铺平了道路。

    May, 2023

  • 更快的 ADC: 利用 SIMD 解锁产品量化的潜力

    该研究提出了 Quicker ADC 算法，利用 SIMD 指令和不规则的产生量化器，实现了更高效的高维空间多媒体检索和最近邻搜索，且优于当前优化实现，并在 FAISS 上实现了开源分支。

    Dec, 2018

  • PECAN：一种基于产品量化的内容可寻址存储器网络

    本文提出了一种新颖的深度神经网络架构，其中滤波和线性变换仅通过产品量化（PQ）实现，从而通过内容可寻址存储器（CAM）实现了自然的实现方式，这超越了普通的 DNN 层操作，只需要简单的查表，结果表明基于产品量化内容可寻址存储器网络（PECAN）的硬件高效部署具有强烈的意义。

    Aug, 2022

  • DBQ: 一种适用于轻量级深度神经网络的可微分分支量化器

    本文提出了一种全新的可完全微分的非均匀量化器，在轻量级神经网络（如 MobileNetV1，MobileNetV2 和 ShuffleNetV2）上取得了最优的准确性 - 复杂度平衡，并成功地解决了将神经网络部署到资源受限设备上的问题。

    Jul, 2020