通过同时使用弱监督对比学习和聚类来提高事件表示

ACLMar, 2022

通过同时使用弱监督对比学习和聚类来提高事件表示

Improving Event Representation via Simultaneous Weakly Supervised Contrastive Learning and Clustering

Jun Gao, Wei Wang, Changlong Yu, Huan Zhao, Wilfred Ng...

TL;DRSWCC 是一种同步弱监督对比学习和聚类框架，用于事件表示学习，通过利用事件的共现信息学习事件表示，同时进行弱监督对比学习和基于原型的聚类。实验结果表明，SWCC 在 Hard Similarity 和 Transitive Sentence Similarity 任务上优于其他基线。

Abstract

Representations of events described in text are important for various tasks. In this work, we present swcc: a Simultaneous Weakly supervised Contrastive learning and Clustering framework for event representation learnin

swcc event representation learning weakly supervised contrastive learning prototype-based clustering co-occurrence information

发现论文，激发创造

用对比学习支持聚类

该论文提出了 SCCL 框架，使用对比学习来帮助无监督聚类，有效提升类别间距离，进而在短文本聚类中达到更好的结果。研究表明，SCCL 能够显著提高精度和归一化互信息，同时有效结合自下而上的实例判别和自上而下的聚类来实现更好的聚类效果。

Mar, 2021

弱监督对比学习

提出了一种基于弱监督对比学习的框架 (WCL)，该框架使用两个投影头进行正则的实例区分任务，一头使用基于图形的方法找到相似的样本并生成弱标签，另一头使用这些弱标签进行有监督的对比学习任务，以拉近相似图像之间的距离。WCL 旨在解决现有对比学习框架中的类冲突问题，并在不同的数据集上提高了自监督表示品质，尤其是在半监督学习中达到了新的最优结果。

Oct, 2021

基于聚类的对比学习，以提高人脸表征

本文提出了一种名为 CCL 的基于聚类的对比学习方法，利用聚类得到的标签和视频约束来学习具有区分性的人脸特征，展示了该方法在视频人脸聚类的表征学习任务上的显著成果。

Apr, 2020

基于对比表示学习的聚类分配

本文提出了一种基于对比学习的聚类方法，通过对表示进行分解，并使用分别编码不同信息的部分构建对比损失函数，可以高效地学习聚类结果。实验结果表明，该方法在多个标准数据集上取得了最新的甚至高居领先的聚类性能，尤其在 ImageNet 数据集上的准确率达到了 53.4％，并且优于现有方法。

Jun, 2023

置换聚类分配的对抗性对比学习

本文提出一种名为 SwARo 的对抗性对比学习框架，结合聚类分配和实例感知对抗样本生成以提高语义相似性和计算效率，并在多个基准数据集上进行评估，获得了与最先进的基线相比的一致改进。

Apr, 2022

对比聚类

本文提出一种名为对比聚类 (Contrastive Clustering,CC) 的在线聚类方法，该方法实现了实例级和簇级对比学习，通过最大化正样本对的相似度和最小化负样本对的相似度，在特征空间中分别进行行级和列级的对比学习，同时优化实例级和簇级对比损失，在端到端的方式下联合学习表示和簇分配。实验结果表明，CC 在六项具有挑战性的图像基准任务中显着优于 17 种竞争对手的聚类方法，特别是在 CIFAR-10 和 CIFAR-100 数据集上，CC 的 NMI 分别为 0.705 和 0.431，相较于最佳基线提高了多达 19% 和 39%。

Sep, 2020

混合图对比学习与增强增量聚类的无监督社交事件检测

本文提出了一种利用混合图对比学习和增强增量聚类（HCRC）的无监督社交媒体事件检测方法，通过综合学习社交信息中的语义和结构鉴别信息，并利用增强增量聚类在完全无监督的方式下进行高效聚类。通过对 Twitter 和 Maven 数据集的全面实验评估，实验结果表明我们的方法取得了一致显著的性能提升，分别在传统的增量设置、半监督增量设置和完全无监督设置中达到的最大性能提升分别为 53%、45% 和 37%。

Dec, 2023

CCC-wav2vec 2.0：利用聚类辅助的交叉对比自监督学习的语音表征学习

提出了一种名为 ccc-wav2vec 2.0 的新的自监督预训练策略，该方法使用聚类和基于数据增强的相交对比损失作为自监督目标，并取得了约 15.6% 和 12.7% 的 WER 相对改进，也可在 Switchboard 数据上获得最高 14.9% 的 WER 相对改进。

Oct, 2022

MHCCL: 遮盖分层聚类对比学习用于多变量时间序列

本文提出了一种基于遮盖的分层聚类对比学习模型（MHCCL），该模型利用多个潜在分区的分层结构中获得的语义信息用于多元时间序列的表示学习，通过新颖的向下遮罩策略过滤假负面、补充正面，进一步结合了聚类层次结构的多粒度信息，设计了新颖的向上遮罩策略以优化聚类元数据。实验结果表明，MHCCL 模型在七个广泛使用的时间序列数据集上比现有的无监督时间序列表示学习方法表现更卓越。

Dec, 2022

通过对比聚类分配实现视觉特征的无监督学习

本文介绍了一种在线聚类算法 SwAV，在不需要计算成对对比的基础上，通过使用一种被称为预测机制的方式来建立视图之间的一致性，并提出了一种新的数据增强策略多裁剪，在 ImageNet 数据集上达到 75.3％的 top-1 准确率，并超出了所有考虑的迁移任务的监督预训练。

Jun, 2020