ICLRMay, 2021

MiCE: 无监督图像聚类的对比性专家混合

PDF
TL;DRMiCE 是一种可扩展的聚类框架，它同时利用了对比学习学习到的有区别的表示和混合模型捕捉的语义结构，通过 gating function 将一个未标记的数据集划分为子集，并使用多个专家以对比学习的方式区分分配给它们的不同子集的实例。我们进一步开发了 MiCE 的 EM 算法，通过实验证明了它在四个自然图像数据集上的性能显著优于以前的各种方法和强有力的对比学习基准。
mixture of contrastive expertsprobabilistic clusteringcontrastive learninglatent semanticsexpectation-maximization algorithm
发现论文，激发创造
  • miCSE: 低样本句子嵌入的互信息对比学习

    该论文介绍了基于信息熵的对比学习框架 miCSE，它在少样本学习的句子嵌入方面取得了显著进展，并对多个基准数据集优于其他现有方法，是一种简单易实现的自监督学习方法，将打开更为高效而强大的自监督学习方法以实现更好的句子嵌入。

    Nov, 2022

  • 通过极简对比编辑（MiCE）解释 NLP 模型

    该论文介绍了一种基于最小对比编辑（MiCE）的方法，用于以编辑输入的形式产生模型预测的对比解释，以修改模型输出到对比案例。MiCE 不仅是对比的，还是最小的和流利的，与人类对比编辑一致。该方法可以用于 NLP 系统开发中的两种用例：调试错误的模型输出和揭示数据集人工因素，从而表明产生对比解释是模型解释性的一个有前途的研究方向。

    Dec, 2020

  • 视觉表征学习的互惠对比学习

    Mutual Contrastive Learning (MCL) is a powerful method for improving feature representations for visual recognition tasks through the mutual interaction and transfer of contrastive distributions among a cohort of networks, achieved through the use of Interactive Contrastive Learning (ICL) to aggregate cross-network embedding information.

    Apr, 2021

  • 基于混合簇条件专家的任务定制化遮蔽自编码器

    提出了一种新的基于混合的聚类条件专家（MoCE）的 MAE 预训练范式，为不同的下游任务提供定制化的预训练模型，通过使用聚类条件门将每个专家仅与语义相关的图像进行训练，从而克服了 MAE 可扩展性中的负迁移问题。

    Feb, 2024

  • MoDE: 通过聚类实现 CLIP 数据专家

    使用混合数据专家（MoDE）方法提高神经网络 CLIP 在零样本图像分类任务上的性能，通过聚类学习多个数据专家，使用元数据与聚类条件的相关性确定权重进行模型集成。

    Apr, 2024

  • 基于一致性增强的深度多视图对比学习的聚类

    通过对比学习构建一致增强的深度多视图聚类方法（CCEC），该方法通过多个视图之间的语义连接块保存一致信息，并通过谱聚类增强聚类过程的一致性。实验证明该方法在五个数据集上相比最先进方法具有更好的效果和优越性。

    Jan, 2024

  • MoEC: 专家混合聚类

    本研究提出了 Mixture of Expert Clusters 模型，通过在路由阶段引入基于方差的约束来促进专家层学习更多不同和适当的知识，并提出了一种专家集群结构的集群级别专家丢失策略。实验证明，该模型可以提高机器翻译和自然语言理解任务的性能，并在有限数据条件下扩展专家的性能上限，对缓解过度拟合和稀疏数据分配问题起到积极作用。

    Jul, 2022

  • 多标签对比预测编码

    本文提出了一种基于多标签分类问题的新的变分互信息估计器，能够超越对数上界且仍然是互信息的一个有效下界，该方法具有更好的互信息估计性能，在无监督表示学习中实现了实证改进，并在 13 项任务中超越了当前最先进的知识蒸馏方法。

    Jul, 2020

  • 无监督表示的原型对比学习

    该论文介绍了原型对比学习（PCL）这一无监督表示学习方法，PCL 不仅学习用于实例区分的低级特征，更重要的是它隐含地将数据的语义结构编码到了学习的嵌入空间中，该方法通过增加原型作为潜在变量来寻找最大似然估计，提出了一种基于对比学习的通用损失函数 ProtoNCE loss，此方法在多个基准测试中的表现均优于当前最先进的基于实例对比学习方法，在低资源转移学习方面有了显著的改进。

    May, 2020

  • LIMoE 模型在多模态对比学习中的应用：语言 - 图像专家混合

    提出了一种用于多模态学习的稀疏专家模型 LIMoE，该模型接受图像和文本，使用对比损失进行训练，并提出一种熵基准的正则化方案。LIMoE 在多个尺度上展示出优异的性能，并能够实现零样本 ImageNet 准确度的显著提高。

    Jun, 2022