ACLMay, 2018

NASH: 面向生成语义哈希的端到端神经结构

PDF
TL;DR本文提出一种新型神经网络模型 NASH，用于信息检索中的语义哈希，利用伯努利潜变量处理二进制约束。采用神经变分推理框架进行训练，直接通过离散潜变量反向传播梯度以优化哈希函数。结合率失真理论，本文进行了理论分析，通过在三个公开数据集上的实验验证其有效性。结果表明，在无监督和监督方案下，我们的方法显著优于几种最新的模型。
发现论文，激发创造
  • 伯努利变分自编码器和自控梯度估计的成对监督哈希

    介绍了一种基于离散隐变量 VAE 的成对损失函数，通过使用无偏的低方差梯度估计器，优化网络并获得了良好的性能

    May, 2020

  • NASH：硬件优化机器学习模型的神经架构搜索

    机器学习算法在不断增加的应用中需要在高准确性、高吞吐量和低延迟之间实现更好的权衡。本论文介绍了一种名为 NASH 的新方法，将神经架构搜索应用于机器学习硬件中。通过使用 NASH，硬件设计可以同时达到更高的吞吐量、低延迟和更好的准确性性能。该论文介绍了 NASH 策略的四个版本，所有版本均显示出比原始模型更高的准确性。实验结果表明，在 ImageNet 数据集上，将 NASH 应用于 ResNet18 或 ResNet34 可以使 Top-1 准确性增加最多 3.1%，Top-5 准确性增加最多 2.2%。我们还将这种方法集成到 FINN 硬件模型合成工具中，以自动应用我们的方法和生成硬件模型。结果表明，使用 FINN 可以实现最大达到 324.5 帧每秒的吞吐量。此外，NASH 模型还可以在准确性和硬件资源利用率之间取得更好的权衡。准确性 - 硬件（HW）帕累托曲线显示，四个 NASH 版本的模型代表了在给定硬件利用率的情况下达到最高准确性的最佳权衡。我们的实现代码是开源的，可以在 GitHub 的链接处获得。

    Mar, 2024

  • 无监督神经生成语义哈希

    提出了一种新的无监督生成语义哈希方法 (Ranking based Semantic Hashing,RBSH)，它由一个变分部分和一个基于排名的部分组成，能够通过哈希码生成实现文档排序，实验结果显示，相较于传统方法和最新的语义哈希方法，这种方法在不同哈希码长度下均表现得更好，使用的哈希码长度通常减少 2-4 倍。

    Jun, 2019

  • 生成式对抗网络实现的深度语义哈希

    本文介绍了一种基于 GANs 的新型监督哈希方法 Deep Semantic Hashing，通过针对大规模图像检索任务，利用半监督生成对抗网络在非标注大规模图像数据集和少量标注数据集的基础上生成高质量的综合数据，以此提升哈希搜索技术的效果和精度。实验证明，该方法比当前的深度哈希模型有着更好的效果。

    Apr, 2018

  • 通过深度卷积神经网络监督学习保持语义的哈希

    本文提出了一种简单而有效的有监督深度哈希方法，构建了来自标记数据的二进制哈希代码，用于大规模图像搜索，在此基础上，哈希函数作为深度网络中的一个潜在层得到构建，最小化分类错误和其他理想哈希代码属性上的目标函数，以实现联合学习的图像表示，哈希代码和分类，从而可应用于大规模数据集。

    Jul, 2015

  • 深度神经网络中的同时特征学习与哈希编码

    本文提出了一种深度学习结构的监督哈希方法，其中图像通过经过精心设计的卷积神经网络映射为二进制代码，通过三个构建模块的流水线过程（卷积子网络，划分编码模块和三元组排序损失），实现最近邻搜索的高效率和精确度。

    Apr, 2015

  • 文本文件的变分深层语义哈希

    本文提出了一系列新颖的基于深度生成模型的文本哈希方法，并通过实验证明了深度学习在文本哈希中的有效性。

    Aug, 2017

  • 深度监督离散哈希

    本文提出一种基于深度学习的监督离散哈希算法，利用分类信息和成对标签信息在单流框架中学习哈希码，并通过交替最小化方法进行优化，实验结果表明该方法在基准数据集上优于当前最先进的方法。

    May, 2017

  • 面向时尚库存主观搜索的对抗训练深度神经语义哈希方案

    本文提出了一种利用深度神经网络实现对时尚库存图像进行语义哈希的方案，并使用哈密尔顿距离度量实现对时尚库存的图像检索。经实验验证，这种方案相对于现有的深度 Cauchy 哈希方法，可取得更好的平均精度。

    Jun, 2019

  • 基于深度语义排名的多标签图像检索哈希

    使用神经网络结合深度学习的方式，针对多标签图像，提出了一种能够保持多层语义相似度的哈希函数学习方法，并在多标签图像数据集上的排名评估中证明了该方法的优越性。

    Jan, 2015