ICLRJun, 2018

相似性搜索的扩散向量

PDF
TL;DR该研究提出了一种基于神经网络的反向数据量化策略，通过在神经网络最后一层形成预定义超球体点的无参数量化器，训练神经网络来实现对数据进行适配的目标；通过 Kozachenko-Leonenko 差分熵估计器导出新的正则化项来强制实现数据空间内的均匀性，并进行本地特性感知的 Triplet Loss，实验结果表明这种方法的性能优于大多数方法，与现有的最佳方法相当。
multi-dimensional data distributionsmodern indexing methodsneural networkquantizeruniformity
发现论文，激发创造
  • 关于学习图像压缩的统一标量量化

    基于梯度训练的学习图像压缩中，量化方法的选择对于训练和测试的匹配性和梯度估计的风险存在权衡，本研究提出了一种基于随机均匀退火的方法，通过可调的温度系数来控制权衡，并使用两个巧妙的技巧改进了现有的量化方法，取得了比代表性图像压缩网络上现有方法更好的性能。

    Sep, 2023

  • 离散神经网络的松弛量化

    本文介绍一种可微的量化过程，将连续分布转换为分类型分布，然后通过松弛到连续的代理来实现高效的基于梯度的优化，还展示了随机舍入可理解为所提出方法的一个特例。通过实验证明本方法对于 MNIST、CIFAR 10 和 Imagenet 等各种问题的分类都具有很好的表现.

    Oct, 2018

  • 基于 Householder 量化的深度哈希

    通过提出一种替代的量化策略，该论文通过在嵌入空间上进行相似性学习，并采用正交变换优化嵌入的每个坐标，然后通过符号函数将转换后的嵌入量化为二进制，从而提高了大规模图像相似性搜索的性能。

    Nov, 2023

  • 基于正则化向量量化的分词图像合成

    本文提出一种正则化的向量量化框架，通过两种正则化方法有效缓解确定性量化和随机量化所存在的问题，并设计出一种概率对比损失作为更进一步缓解扰动重构目标的标准度量，实验表明该框架在不同的生成模型中表现都比现有的向量量化方法更优。

    Mar, 2023

  • 图像搜索的深度球面量化

    本文提出了 Deep Spherical Quantization（DSQ）方法，通过多码本量化，使深度卷积神经网络生成监督和紧凑的二进制代码以实现高效图像搜索，并经过大量实验证明，DSQ 及其稀疏变体能以优于许多最先进的图像检索方法的形式生成语义可分的紧凑二进制代码。

    Jun, 2019

  • 相似性搜索的监督量化

    本文提出了一种压缩编码方法 —— 监督量化，该方法同时学习特征选择，将数据库点线性转换为低维判别子空间，并在转换空间中对数据点进行量化，使其不仅准确逼近转换点，而且在语义上是可分离的，该方法在几个标准数据集上的实验证明了其优于最先进的监督哈希和无监督量化算法。

    Feb, 2019

  • 稀疏量化表示的近似搜索

    本文提出了利用约束稀疏编码来近似存储大规模向量数据库，并实现高效检索的方法，可以在保证码本量的情况下，索引如 BIGANN 等大规模数据集，实现了学习 / 编码时间、索引大小、搜索质量等多种因素的平衡。

    Aug, 2016

  • 共享的跨模态深度量化预测

    本文提出了一种共享预测深度量化（SPDQ）模型，通过嵌入到重现核希尔伯特空间中同时学习共享子空间和两个私有子空间的表示，以进行不同模态之间的最近邻搜索，并在标签对齐的帮助下实现语义保留。实验结果显示，该模型在两个流行的基准测试中优于现有的基准方法。

    Apr, 2019

  • 关于分类的分布式量化

    本文提出了一种分布式量化方案，旨在用训练数据为分类器设计量化器，不需要先验数据假设，而是专注于正确分类，可在任何特征数、任何类别数和任意特征分布的情况下进行多项式时间量化算法的设计。结果表明，将量化器适应于分类任务可以获得显着的节省，并可在保持预测精度不变的情况下将比特通信数量减少超过两倍。

    Nov, 2019

  • 软硬结合：重新思考神经图像压缩中的量化

    提出了一种软硬编码的方法用于神经图像压缩，通过先学习一个表达力强的隐变量空间，再采用硬编码方法解决了训练集和测试集不匹配的问题，同时引入加性噪声自适应控制量化粒度，实验结果表明该方法在复杂压缩模型上表现稳定且有效。

    Apr, 2021