具有明确聚类平衡的高效无监督视觉表示学习
在本论文中,我们提出了一种循环框架用于深度表示和图像聚类的联合无监督学习(JULE)。通过在卷积神经网络(CNN)输出的表示层上堆叠聚类算法的连续操作的循环过程,在前向传递中进行图像聚类,在后向传递中进行表示学习。我们的主要想法是将两个过程集成到一个模型中,该模型具有统一加权的三元组损失函数,并进行端到端的优化,从而获得更强大的表示和更精确的图像聚类。在广泛的实验中,该方法在各种图像数据集的图像聚类中表现优于现有技术,并且学习到的表示在转移到其他任务时具有很好的通用性。
Apr, 2016
本文介绍了DeepCluster,一种聚类方法,它能够联合学习神经网络的参数和聚类分配,并应用于卷积神经网络在大型数据集上的无监督训练,取得了显著的性能提升。
Jul, 2018
本文提出一种基于ClusterFit的简单策略来提高预训练期间学到的视觉表示的鲁棒性,通过对从预训练网络中提取的特征进行聚类,从而减少了特定于任务的信息从而将过度拟合降到最低。经过在11个不同目标数据集上的传递学习实验证明,与最先进的大规模(数百万/十亿)弱监督图像和视频模型和自监督图像模型相比,ClusterFit极大地提高了表示质量。
Dec, 2019
本文提出了一种在线深度聚类方法(ODC),将聚类和网络更新同时进行,而不是交替进行,通过设计和维护两个动态存储模块(样本存储和中心存储)来使聚类中心稳定演化以保证分类器的稳定更新,实现了稳定的无监督表征学习。实验证明ODC有效地稳定了训练过程并提高了性能。
Jun, 2020
本研究探讨并观察到使用BYOL学习得到的特征对于聚类可能不是最佳的,提出了一种新颖的基于一致性聚类的损失函数,通过提出的方法进行训练可以提高聚类能力,并在一些流行的计算机视觉数据集上优于相似的聚类方法。
Oct, 2020
本文介绍了一种新的基于拼图聚类的预处理任务方式,可在降低训练成本的同时充分利用图像内部和外部信息进行训练,实现了与对比学习方法相当的效果,甚至在只使用一半的训练批次时也能够优于其他单批次方法。通过预训练模型,最终在 ImageNet 、CIFAR-10 和 CIFAR-100 数据集上实现了优异的成果。
Apr, 2021
本文提出了一种使用一致性原则的无监督表示学习算法ConCURL,通过综合考虑共识、示例和种群三种一致性来实现对图像的聚类,并在四个数据集上实现了比现有方法更好的聚类性能。
May, 2021
提出了一种新的聚类前置任务方法CoKe,不同于传统的聚类方法,CoKe只对每个簇的最小大小做出约束,从而实现了更高效的聚类,并且有理论保证,通过单视图优化获得了有竞争力的性能。
May, 2021
本文提出了一种将RGB和optical flow作为不同视角进行聚类的方法,并使用新的聚类策略和正则化策略来学习到抽象和稳健的表示。在视频检索和动作识别等下游任务中表现优于现有算法。
Jul, 2022