ICLRMay, 2021

基于实例判别和特征去相关化的聚类友好型表示学习

PDF
TL;DR本研究提出一种基于深度学习的表示学习方法，采用实例区分和特征装饰来提高聚类的效果，在 CIFAR-10 和 ImageNet-10 数据集中进行了实验，分别获得了 81.5% 和 95.4% 的准确率。
clusteringdeep-learningrepresentation-learninginstance-discriminationfeature-decorrelation
发现论文，激发创造
  • 通过跨层次实例组区分进行无监督特征学习

    本文提出了一种新的自监督学习方法 CLD，通过交叉等级判别来发现和整合实例相似性，显著改善对高度相关，长尾分布和平衡数据集的自监督学习，并在许多基准测试中取得了新的最佳性能。

    Aug, 2020

  • 自监督学习中特征解相关化

    本文研究了自监督表示学习的框架，在此基础上，发现了完全坍塌和维度坍塌的问题，并将维度坍塌与特征装饰相关联以提高表示的稳健性。

    May, 2021

  • 探索新的方法：强调表征差异性以学习新特征并减少误差一致性

    利用表征相似性领域的方法，提出了一种新颖的想法，在训练期间推动中间表示在不同架构之间的深度上不同，以学习具有不同故障模式的鲁棒集成模型。结果表明，高度不相似的中间表示导致较低的相关性输出预测及稍微降低的错误一致性，并提高了集成模型的准确性。

    Jul, 2023

  • 在线约束 K-Means 无监督视觉表征学习

    提出了一种新的聚类前置任务方法 CoKe，不同于传统的聚类方法，CoKe 只对每个簇的最小大小做出约束，从而实现了更高效的聚类，并且有理论保证，通过单视图优化获得了有竞争力的性能。

    May, 2021

  • 非参数样例级别判别的无监督特征学习

    通过非监督学习方法学习新的特征表示方法，有效地捕捉图像实例之间的相似性，并在 ImageNet 分类中取得了卓越的表现。

    May, 2018

  • 利用正向相似度和聚类离散度学习提升聚类表示

    本研究提出了一种名为 PIPCDR 的全新端到端深度聚类方法，它同时利用对比方法和非对比技术的优势，解决了类碰撞问题和聚类崩溃问题，通过正样本邻近损失和聚类分散正则化器实现了生成良好分离聚类和均匀表示的目标，并在大规模数据集上取得了最新的技术成果。

    Nov, 2023

  • 在伪相关存在的情况下的特征学习

    通过评估使用权重调整、强正则化和组鲁棒性训练等方法训练的模型，重训练模型的方法在多个视觉和 NLP 问题中表现出与其他方法相似的结果，表明无需过度正则化即可学习高质量的特征表示。

    Oct, 2022

  • 深度聚类的稳定簇划分

    通过提出一种稳定的聚类判别任务和全局熵约束优化方法，实现一阶深度聚类并在基准数据集和 ImageNet 上达到了最先进性能。

    Nov, 2023

  • 学习正交解缠表示以实现公平性

    本文提出了一种新颖的分离方法来解决不变表示的问题，通过正交约束作为独立的代理来将有意义和敏感表示分离，并通过熵最大化来明确地强制有意义的表示对敏感信息不可知。该方法在公开的数据集上进行了评估，并将其与最先进的方法进行了比较，证明其在处理公平性和不变性方面具有最先进的性能。

    Mar, 2020

  • 图像聚类的深度全面相关挖掘

    本论文提出了一种名为 DCCM 的新型聚类框架，可以从三个方面探索和充分利用未标记数据中的各种相关性，通过伪标签监督，全面的研究特征对输入空间的图像变换的稳健性，并将 triplet 互信息应用于聚类问题中，从而进一步有助于学习更有区分性的特征。在多个数据集上进行了广泛的实验，取得了良好的性能，例如在 CIFAR-10 上达到 62.3％的聚类准确度，比现有最先进方法高出 10.1％。

    Apr, 2019