Jun, 2023

基于对比表示学习的聚类分配

PDF
TL;DR本文提出了一种基于对比学习的聚类方法，通过对表示进行分解，并使用分别编码不同信息的部分构建对比损失函数，可以高效地学习聚类结果。实验结果表明，该方法在多个标准数据集上取得了最新的甚至高居领先的聚类性能，尤其在 ImageNet 数据集上的准确率达到了 53.4％，并且优于现有方法。
clusteringself-supervised learningcontrastive learningcluster assignmentimagenet
发现论文，激发创造
  • 基于聚类的对比学习，以提高人脸表征

    本文提出了一种名为 CCL 的基于聚类的对比学习方法，利用聚类得到的标签和视频约束来学习具有区分性的人脸特征，展示了该方法在视频人脸聚类的表征学习任务上的显著成果。

    Apr, 2020

  • 用对比学习支持聚类

    该论文提出了 SCCL 框架，使用对比学习来帮助无监督聚类，有效提升类别间距离，进而在短文本聚类中达到更好的结果。研究表明，SCCL 能够显著提高精度和归一化互信息，同时有效结合自下而上的实例判别和自上而下的聚类来实现更好的聚类效果。

    Mar, 2021

  • 图形对比聚类

    本研究提出一种新的基于图的对比学习框架 ——Graph Contrastive Clustering（GCC），用于聚类任务，并利用该框架在六个常用数据集上进行了实验。实验结果表明，该方法在聚类问题上明显优于现有的最先进方法。

    Apr, 2021

  • 对比聚类

    本文提出一种名为对比聚类 (Contrastive Clustering,CC) 的在线聚类方法，该方法实现了实例级和簇级对比学习，通过最大化正样本对的相似度和最小化负样本对的相似度，在特征空间中分别进行行级和列级的对比学习，同时优化实例级和簇级对比损失，在端到端的方式下联合学习表示和簇分配。实验结果表明，CC 在六项具有挑战性的图像基准任务中显着优于 17 种竞争对手的聚类方法，特别是在 CIFAR-10 和 CIFAR-100 数据集上，CC 的 NMI 分别为 0.705 和 0.431，相较于最佳基线提高了多达 19% 和 39%。

    Sep, 2020

  • 你永远不会独自聚类

    本文提出一种名为双对比聚类 (TCC) 的方法，它将主流对比学习的范式扩展到聚类级别，使用分配变量连接实例级学习轨迹与聚类级别的学习，实现一个统一的表示形式。通过加权汇聚数据点实现群集的集合表示，并在群集级别上进行对比学习。实验证明，TCC 在挑战性基准上的表现优于现有技术。

    Jun, 2021

  • 弱监督对比学习

    提出了一种基于弱监督对比学习的框架 (WCL)，该框架使用两个投影头进行正则的实例区分任务，一头使用基于图形的方法找到相似的样本并生成弱标签，另一头使用这些弱标签进行有监督的对比学习任务，以拉近相似图像之间的距离。WCL 旨在解决现有对比学习框架中的类冲突问题，并在不同的数据集上提高了自监督表示品质，尤其是在半监督学习中达到了新的最优结果。

    Oct, 2021

  • 自监督表示学习低效性问题的解决

    本文研究了自监督学习中对比度学习的效率问题，提出了截断三元组的损失函数以同时解决聚类不足和聚类过度问题，并在多个基准测试中表示其优越性。

    Apr, 2021

  • 监督对比学习

    本文介绍了一种基于对比学习的自我监督表征学习方法，并将其推广到全监督设置中。其中，相同类别的样本点在嵌入空间中被拉在一起，而来自不同类别的样本则被同时推开，以实现更好的分类性能。实现简单，最佳损失函数表现优于交叉熵。

    Apr, 2020

  • 对比无监督表示学习的理论分析

    本文提出了一种理论框架以分析对比学习的算法，并引入潜在类别假设，该框架使我们能够在平均分类任务上证明学习表示的性能。同时，该文还表明，学习表示可以降低下游任务的（标记）样本复杂度。

    Feb, 2019

  • CL4CTR: 用于 CTR 预测的对比学习框架

    本文提出了一种基于自监督学习的 Click-Through Rate (CTR) 预测框架 (CL4CTR)，采用三种自监督学习信号作为特征表征学习的正则化项以提高 CTR 预测性能，并在四个数据集上实验证明其与各种代表性基线相比具有卓越的性能和兼容性。

    Dec, 2022