IJCAIMay, 2021

对比信息瓶颈下的无监督哈希算法

PDF
TL;DR本文提出一种基于对比学习和信息瓶颈的二进制哈希方法，通过定义新的目标函数和引入概率二进制表示层来促进模型的端到端训练，证明了其与互信息的强联系，并在三个基准图像数据集上得到了显著优于现有基线的实验结果。
unsupervised hashing methodscontrastive learningbinary hashing codesend-to-end traininginformation bottleneck
发现论文，激发创造
  • 尴尬地简单的二进制表示学习

    本文提出一种简单的分类目标方法，仅在任意骨干网络的顶部附加两个全连接层，遵守训练期间的二进制约束条件，以此为基础流行实现二进制表示学习和哈希模型的任务，其可以有效地探索数据语义而不需要辅助模型，从而在 CIFAR-10、NUS-WIDE 和 ImageNet 的评测数据上优于现有技术。

    Aug, 2019

  • 二进制深度神经网络压缩哈希码学习

    本文提出了一种使用神经网络学习二进制哈希码来解决图像检索问题的算法，在无监督和监督学习模式下，通过约束其中一层直接输出二进制哈希码并融入独立性、均衡性和相似性：在学习过程中同时提取视觉特征和生成二进制哈希码，并通过交替优化和谨慎的放松来解决优化中的难点，实验表明本文提出的方法在基准数据集上表现优异。

    Dec, 2017

  • 自编码双瓶颈哈希

    本文提出了一种自适应编码驱动图方法，通过自动编码器上下文解码更新图以及引入双瓶颈机制交换信息，建立了更为高效的图并优化了编码器，实验结果表明其超越了现有的哈希方法。

    Feb, 2020

  • 跨模态检索的深度监督信息瓶颈哈希在计算机辅助诊断中的应用

    提出了 Deep Supervised Information Bottleneck Hashing (DSIBH) 方法来加强哈希码的可区分性，减少了冗余信息，从而促进交叉模态医学数据检索的高精度。

    May, 2022

  • 双瓶颈自编码哈希的监督学习

    本文通过将标签信息纳入模型的训练，将原始的自动编码双瓶颈哈希模型推广为一种有监督的深度哈希网络，着重考虑多标签数据集中的类不平衡问题，并在三个数据集上进行实验，取得了显著的提高。

    Jun, 2023

  • 二值深度神经网络学习哈希

    这篇论文提出了一种深度网络模型和学习算法，用于无监督和监督二进制哈希，通过约束单个隐藏层直接输出二进制代码，并在学习中严格考虑独立性和平衡性，以及相似性保持属性，从而在三个基准数据集上比先前方法表现更佳。

    Jul, 2016

  • 深度神经网络的信息瓶颈分析通过有损压缩

    该研究利用 Information Bottleneck 原理和深度神经网络，采用互信息和压缩等技术，针对高维随机向量实现了对一般深度神经网络的信息瓶颈分析，并在一个近实际规模的卷积深度神经网络上揭示了互信息动态的新特征。

    May, 2023

  • 通过多视角信息瓶颈学习强大的表示

    本文提出了基于信息瓶颈原理的多视角无监督学习方法，通过对同一实体的两个视角进行对比得出冗余信息，进而定义新的多视角模型，在 Sketchy 数据集和 MIR-Flickr 数据集的标签受限版本上取得了最先进的结果；此外还通过数据扩增技术将理论扩展至单视角情况，实验证明更具有良好的泛化能力。

    Feb, 2020

  • 确定性多视角聚类的可微信息瓶颈

    通过拟合互信息的规范化核格拉姆矩阵，我们提出了一种新的可微信息瓶颈方法 (DIB)，通过确定性和解析的方式有效地进行多视角聚类，实现了输入变量从不同视角的确定性压缩。

    Mar, 2024

  • 连续还是离散，这才是问题的关键

    本文研究了将二元表示引入输出端，以允许模型输出二元标签，通过改进 CKY 算法、定义新的相似性函数和引入新的对比损失函数，我们的模型在各种结构化预测任务中取得了有竞争力的性能，并证明了二元表示可以进一步缩小深度学习连续性和自然语言离散性之间的差距。

    Jun, 2024