通过最大化多视角之间的互信息进行聚类
该研究提出了一种基于最大化共享环境的多视角特征提取之间的互信息来进行自我监督表示学习的方法,并通过使用该方法建立一个模型,该模型学习到的图像表示在 ImageNet 等任务上的表现优于以前的方法。
Jun, 2019
本文提出了一种通过最大化标签和输入数据索引之间的信息来解决标签聚类与表示学习相结合的问题的新方法。该方法可以有效地对数以百万计的输入图像和数以千计的标签进行自标注,以训练高度竞争的图像表示,具有优于现有模型的性能。
Nov, 2019
在本论文中,我们提出了一种循环框架用于深度表示和图像聚类的联合无监督学习 (JULE)。通过在卷积神经网络 (CNN) 输出的表示层上堆叠聚类算法的连续操作的循环过程,在前向传递中进行图像聚类,在后向传递中进行表示学习。我们的主要想法是将两个过程集成到一个模型中,该模型具有统一加权的三元组损失函数,并进行端到端的优化,从而获得更强大的表示和更精确的图像聚类。在广泛的实验中,该方法在各种图像数据集的图像聚类中表现优于现有技术,并且学习到的表示在转移到其他任务时具有很好的通用性。
Apr, 2016
基于表示距离的互信息最大化方法用于量化不同视图的重要性,进而实现更高效的对比学习和表示解耦。通过在频率域提取多视图表示,并基于不同频率之间的互信息重新评估其重要性,本文提出的框架能够有效约束互信息最大化驱动的表示选择,推动多视图对比学习。
Feb, 2024
本论文探讨了基于对比学习的图像表示学习方法,提出了一种最大化互信息的下界的目标函数,并在实验中发现选择难度更大的负样本以及视角可以提高算法性能。通过比较多种学习方法,研究结果表明,基于互信息的目标函数可以使得算法在分类、边界框检测、实例分割和关键点检测等任务上获得更好的表现。
May, 2020
该研究提出并演示了一种利用图像和文本间局部特征的互信息最大化的表示学习方法,以此训练图像和文本编码器,使其表现出高局部互信息,实验结果显示该方法在图像分类任务中具有优势。
Mar, 2021
通过在深度神经网络编码器的输入和输出之间最大化互信息来进行无监督学习表示,该方法将表示的特征与先前分布进行敌对匹配,优于其他无监督学习方法并能够在多个分类任务中与全监督学习相竞争,深度信息最大化(DIM)为特定端点目标的无监督学习表示开启了新的途径。
Aug, 2018
本文提出在三维形状分析领域中将 InfoMax 和对比学习原则进行拓展,通过最大限度地利用三维物体及其 “块” 之间的相互信息来改善几何对齐数据集中的表示,以及通过在三维物体和其几何变换版本之间最大化相互信息来实现 SO(3)群中的旋转不变性。在聚类、迁移学习、形状检索等实验中,实现了最先进的结果。
Jun, 2020
本文研究学习分离表现形式的问题,提出一种基于互信息估计的模型,用于捕捉数据的共享和独占组件,并强制实现表现形式分离,在共享或独占部分基础上实现图像分类和图像检索,结果表明相对于基于 VAE/GAN 方法的最先进模型,本文提出的模型表现更加出色。
Dec, 2019
本文提出了一种新颖的基于深度学习的图像聚类框架,通过最大化互信息和使用不变性损失来学习一个分类 - 风格的潜在表征,将图像的类别信息与其样式信息分离,并将类别向量作为聚类分配的概率。实验结果表明,与现有方法相比,该方法在五个公共数据集上的表现显著优于其他方法。
Jul, 2020