基于群集感知的迭代对比学习的 scRNA-seq 数据聚类
该论文提出了 SCCL 框架,使用对比学习来帮助无监督聚类,有效提升类别间距离,进而在短文本聚类中达到更好的结果。研究表明,SCCL 能够显著提高精度和归一化互信息,同时有效结合自下而上的实例判别和自上而下的聚类来实现更好的聚类效果。
Mar, 2021
本文介绍了一种基于相关聚类和投影的处理单细胞 RNA 测序(scRNA-seq)数据的方法,并将其用作降维工具,可显著改善 UMAP 和 t-SNE 二维可视化和准确性。
Jun, 2023
通过引入 scCDCG(基于深度剪切信息图的单细胞 RNA 测序聚类)框架,我们解决了传统聚类方法在 scRNA-seq 数据分析中忽略基因表达特征中嵌入的结构信息所带来的问题,提出了一种有效且准确的聚类方法,能够同时利用细胞间的高阶结构信息。通过在 6 个数据集上的广泛实验,我们证明了 scCDCG 相较于其他 7 种常见模型的出色性能和效率,凸显了它在 scRNA-seq 数据分析中的潜力。
Apr, 2024
本文提出了一种层次对比学习框架 HiCL,它考虑了局部分段级和全局序列级关系以提高训练效率和效果。通过将序列分为几个分段,并应用局部和全局对比学习来建模分段级和序列级关系,HiCL 提高了其效果。此外,考虑到输入标记上的 transformers 的二次时间复杂度,在获得序列表示之前,HiCL 通过首先对短分段进行编码,然后将它们聚合起来来提高训练效率。大量实验证明,HiCL 提升了之前表现最好的 SNCSE 模型在七种广泛评估的 STS 任务上的性能,BERT-large 平均提升了 + 0.2%,RoBERTa-large 提升了 + 0.44%。
Oct, 2023
本文提出了一种基于遮盖的分层聚类对比学习模型(MHCCL),该模型利用多个潜在分区的分层结构中获得的语义信息用于多元时间序列的表示学习,通过新颖的向下遮罩策略过滤假负面、补充正面,进一步结合了聚类层次结构的多粒度信息,设计了新颖的向上遮罩策略以优化聚类元数据。实验结果表明,MHCCL 模型在七个广泛使用的时间序列数据集上比现有的无监督时间序列表示学习方法表现更卓越。
Dec, 2022
本文提出了一种语义对比学习的方法(SCL),将距离的聚类结构引入到无标注数据的特征空间中,并通过优化实例视觉相似性和聚类决策边界的一致性来推理出语义上的实体类别,以在发现未知类别决策边界方面具有显着优势。实验证明,SCL 在六个物体识别基准测试中优于最先进的对比学习和深度聚类方法,尤其是在更具挑战性的精细和较大的数据集上。
Mar, 2021
本文提出了一种基于对比学习的聚类方法,通过对表示进行分解,并使用分别编码不同信息的部分构建对比损失函数,可以高效地学习聚类结果。实验结果表明,该方法在多个标准数据集上取得了最新的甚至高居领先的聚类性能,尤其在 ImageNet 数据集上的准确率达到了 53.4%,并且优于现有方法。
Jun, 2023
本文提出一种名为对比聚类 (Contrastive Clustering,CC) 的在线聚类方法,该方法实现了实例级和簇级对比学习,通过最大化正样本对的相似度和最小化负样本对的相似度,在特征空间中分别进行行级和列级的对比学习,同时优化实例级和簇级对比损失,在端到端的方式下联合学习表示和簇分配。实验结果表明,CC 在六项具有挑战性的图像基准任务中显着优于 17 种竞争对手的聚类方法,特别是在 CIFAR-10 和 CIFAR-100 数据集上,CC 的 NMI 分别为 0.705 和 0.431,相较于最佳基线提高了多达 19% 和 39%。
Sep, 2020
本文提出了一种无监督技能发现算法 Contrastive Intrinsic Control,它可以最大化状态转换和潜在技能向量之间的互信息。该算法对状态转换和技能之间进行对比学习,以学习行为嵌入并将这些嵌入的熵最大化作为内在奖励以促进行为多样性。我们在无监督强化学习基准上评估了我们的算法,CIC 大大提高了适应效率,在无监督技能发现方法方面优于以前的方法 1.79 倍,并且整体探索算法效果比第二名提高 1.18 倍。
Feb, 2022
本文提出了一种名为 CCL 的基于聚类的对比学习方法,利用聚类得到的标签和视频约束来学习具有区分性的人脸特征,展示了该方法在视频人脸聚类的表征学习任务上的显著成果。
Apr, 2020