本文提出了一种名为 Quick ADC 的新技术，通过利用当前 CPU 中可用的单指令多数据 (SIMD) 单元，实现了对 ADC 的 3-6 倍加速，并提出了两个关键算法修改，将 8 位子量化器替换为 4 位子量化器和定量化浮点距离。

Apr, 2017

本文研究了在 DNNs 中将传统的 MAC 操作替换为使用 product quantization 时的计算和内存占用情况，采用不同的 PQ 设置和训练方法，设计了第一个定制的硬件加速器来评估运行 PQ 模型的速度和效率，发现与高度优化的传统 DNN 加速器相比，PQ 配置能够使 ResNet20 的面积性能提高 40% 至 104%，且硬件性能优于近期的 PQ 解决方案 4 倍，只有 0.6% 的精度降低，为 PQ 模型的更广泛采用铺平了道路。

May, 2023

本研究针对高维数据，提出了两种基于产品量化方法的最近邻搜索系统，并通过实验证明这些系统在检索效率与精度方面优于现有的系统。

Apr, 2014

本文提出了一种名为 All-in-Storage ANNS with Product Quantization (AiSAQ) 的方法，通过将压缩向量转移到存储器中，可以在十亿级别的数据集中实现约 10MB 的内存使用，同时还能减少查询之前的索引加载时间，增强检索辅助生成（RAG）的灵活性。该方法适用于所有基于图的近似最近邻搜索算法，未来还可以与更高规格的近似最近邻搜索方法相结合。

Apr, 2024

QQQ 是一种基于四位权重和八位激活的优质量化方法，通过自适应平滑和基于 Hessian 的补偿显著提高了量化模型的性能，并通过精心设计的 W4A8 GEMM 核心增加了推理速度。与现有的最新 LLM 量化方法相当的性能，显著加速推理，与 FP16、W8A8 和 W4A16 相比，速度提升分别达到了 2.24 倍、2.10 倍和 1.25 倍。

Jun, 2024

本研究提出基于 Product Quantization 的两层向量量化树的 ANN 搜索新方法，在 GPU 实现方面取得了比 CPU 更高的性能表现，适用于视频中循环关闭等对时间敏感的高维问题。

Feb, 2017

我们提出了一种能够以比现有技术快 12 倍以上的速度压缩矢量并加速近似向量操作的矢量量化算法，用于计算近似点积等操作的速度可提高 10 倍以上，可以加速最近邻搜索和最大内积搜索 100 倍以上，并且与现有的矢量量化算法相比误差竞争力强。

Jun, 2017

量化是许多机器学习应用中的基础优化之一，该研究论文重新审视自适应矢量量化问题，并提出了改进的时间和空间复杂度的最优解算法，以及适用于大型输入的更快的近似最优算法。实验结果表明这些算法可能在各种机器学习应用中更广泛地应用于自适应矢量量化。

Feb, 2024

本文提出了一种 PQTable 搜索方法，通过哈希表实现对 product-quantized codes 的快速搜索，相比线性 PQ 扫描可快 100 倍至 10 万倍，具高度的内存使用效率，无需手动设计参数设置和重要训练，从而成为一种实用和有效的方案。

Apr, 2017

该论文介绍了一种用于大规模图像检索的深度渐进量化模型，该模型学习逐步逼近视觉特征的量化码，并且可以同时训练不同码长的量化码，实现了优于现有技术的图像检索效果。

Jun, 2019