MHCCL: 遮盖分层聚类对比学习用于多变量时间序列

AAAIDec, 2022

MHCCL: 遮盖分层聚类对比学习用于多变量时间序列

MHCCL: Masked Hierarchical Cluster-Wise Contrastive Learning for Multivariate Time Series

Qianwen Meng, Hangwei Qian, Yong Liu, Lizhen Cui, Yonghui Xu...

TL;DR本文提出了一种基于遮盖的分层聚类对比学习模型（MHCCL），该模型利用多个潜在分区的分层结构中获得的语义信息用于多元时间序列的表示学习，通过新颖的向下遮罩策略过滤假负面、补充正面，进一步结合了聚类层次结构的多粒度信息，设计了新颖的向上遮罩策略以优化聚类元数据。实验结果表明，MHCCL 模型在七个广泛使用的时间序列数据集上比现有的无监督时间序列表示学习方法表现更卓越。

Abstract

Learning semantic-rich representations from raw unlabeled time series data is critical for downstream tasks such as classification and forecasting. contrastive learning has recently shown its promising representation le

contrastive learning multivariate time series representation learning hierarchical clustering unsupervised learning

发现论文，激发创造

基于聚类的对比学习，以提高人脸表征

本文提出了一种名为 CCL 的基于聚类的对比学习方法，利用聚类得到的标签和视频约束来学习具有区分性的人脸特征，展示了该方法在视频人脸聚类的表征学习任务上的显著成果。

Apr, 2020

用对比学习支持聚类

该论文提出了 SCCL 框架，使用对比学习来帮助无监督聚类，有效提升类别间距离，进而在短文本聚类中达到更好的结果。研究表明，SCCL 能够显著提高精度和归一化互信息，同时有效结合自下而上的实例判别和自上而下的聚类来实现更好的聚类效果。

Mar, 2021

HiCL: 无监督句子嵌入的分层对比学习

本文提出了一种层次对比学习框架 HiCL，它考虑了局部分段级和全局序列级关系以提高训练效率和效果。通过将序列分为几个分段，并应用局部和全局对比学习来建模分段级和序列级关系，HiCL 提高了其效果。此外，考虑到输入标记上的 transformers 的二次时间复杂度，在获得序列表示之前，HiCL 通过首先对短分段进行编码，然后将它们聚合起来来提高训练效率。大量实验证明，HiCL 提升了之前表现最好的 SNCSE 模型在七种广泛评估的 STS 任务上的性能，BERT-large 平均提升了 + 0.2%，RoBERTa-large 提升了 + 0.44%。

Oct, 2023

对比多视角双曲分层聚类

本论文提出了一种基于神经网络的模型（Contrastive Multi-view Hyperbolic Hierarchical Clustering, CMHHC），应用于多视角数据的超几何层次聚类，通过对多个视角的样本级表示进行对比来捕获不变性信息，并将其嵌入到超几何空间中进行聚类，并且将最优化的超几何嵌入解码成二分聚类树结构。实验结果表明该方法及其组成部分的有效性。

May, 2022

HCL：基于分层对比学习的图像表示改进

在图表征学习中，提出了一种新的分层对比学习 (Hierarchical Contrastive Learning, 简称 HCL) 框架，采用自适应的 L2Pool 方法进行更合理的多尺度图形拓扑构建，并采用多通道伪孪生网络来进一步扩展各级别内的互信息学习，以获得更丰富和更具层次感的表示。通过实验，HCL 在节点分类、节点聚类和图分类等 12 个数据集上均取得了具有竞争力的性能表现，并且通过可视化显示，HCL 成功捕捉到了图的有意义特征。

Oct, 2022

弱监督语义分割的遮盖式协同对比

本文介绍了一种有效的方法 Masked Collaborative Contrast（MCC），以突出弱监督语义分割中的语义区域。MCC 巧妙地将掩蔽图像建模和对比学习的概念结合起来，设计了可诱导关键字收缩到语义相关区域的 Transformer 块。实验表明，MCC 机制有效地对齐了图像的全局和局部视角，取得了令人印象深刻的性能。

May, 2023

基于对比表示学习的聚类分配

本文提出了一种基于对比学习的聚类方法，通过对表示进行分解，并使用分别编码不同信息的部分构建对比损失函数，可以高效地学习聚类结果。实验结果表明，该方法在多个标准数据集上取得了最新的甚至高居领先的聚类性能，尤其在 ImageNet 数据集上的准确率达到了 53.4％，并且优于现有方法。

Jun, 2023

语义对比学习的深度聚类

本文提出了一种语义对比学习的方法（SCL），将距离的聚类结构引入到无标注数据的特征空间中，并通过优化实例视觉相似性和聚类决策边界的一致性来推理出语义上的实体类别，以在发现未知类别决策边界方面具有显着优势。实验证明，SCL 在六个物体识别基准测试中优于最先进的对比学习和深度聚类方法，尤其是在更具挑战性的精细和较大的数据集上。

Mar, 2021

层次感知联合对比学习实例和标签用于层次多标签文字分类

通过使用层次化多标签文本分类和对比学习的方法，提出了一种叫做 HJCL 的方法来解决半监督学习中样本生成引入噪声的问题，并构造批次数据以实现对比学习目标的完全利用。

Oct, 2023

HCL-MTSAD: 面向工业多变量时间序列异常准确检测的分层对比一致性学习

多元时间序列异常检测研究中，我们提出了一种自我监督的分层对比一致性学习方法（HCL-MTSAD），通过在工业 MTS 中利用多个潜在层级的数据一致性，系统地捕捉相关的关联，进而提高异常检测的能力。

Apr, 2024