Oct, 2023

通过一致性分配随机分区的视图进行表示学习

PDF
TL;DRCARP 是一种无监督聚类方法，用于学习视觉特征的表示学习。CARP 通过随机划分原型进行端到端在线学习，使用梯度下降优化新的预训练任务，提高模型的一致性和稳定性，并证明其在多个下游任务上的表现优于其他自监督方法。
carpself-supervised clusteringrepresentation learningvisual featuresprototypes
发现论文，激发创造
  • 通过建立共识进行聚类的表示学习

    本文提出了一种使用一致性原则的无监督表示学习算法 ConCURL，通过综合考虑共识、示例和种群三种一致性来实现对图像的聚类，并在四个数据集上实现了比现有方法更好的聚类性能。

    May, 2021

  • 基于聚类的图表征学习加速

    本文提出一种聚类学习框架 CARL-G，使用 Cluster Validation Indices（CVI）衡量质量，适用于不同的聚类方法，相对于基线提高了 79 倍的训练速度，并在节点聚类和相似性搜索任务中表现出色。

    Jun, 2023

  • 任务无关表示整合：基于自监督的持续学习方法

    提出了 Task Agnostic Representation Consolidation (TARC)，一种用于连续学习的两阶段训练范式，将自监督训练和有监督学习交织在一起，旨在解决深度神经网络（DNNs）中的遗忘问题。实验证明，该训练法可以轻松地添加到基于记忆或基于正则化的方法中，并为更具挑战性的 CL 设置提供一致的性能提升，同时实现更稳健和良好校准的模型。

    Jul, 2022

  • 预测已知信息有助于自证自学

    这篇论文提出了一种基于自监督学习的特征学习方法，通过预测无标签数据的辅助任务来学习有用的语义表示，并使用线性层来对学习的表示进行下游任务预测，从而显著降低了样本复杂度。

    Aug, 2020

  • 通过对比聚类分配实现视觉特征的无监督学习

    本文介绍了一种在线聚类算法 SwAV，在不需要计算成对对比的基础上，通过使用一种被称为预测机制的方式来建立视图之间的一致性，并提出了一种新的数据增强策略多裁剪，在 ImageNet 数据集上达到 75.3％的 top-1 准确率，并超出了所有考虑的迁移任务的监督预训练。

    Jun, 2020

  • 对比重构中的无监督部件发现

    本研究提出了一种非监督学习方法来发现和分割物体部分，通过像素级别的图像重建配合先前任务的代理目标，得到了一种更有意义的部分分解方法，优于现有的三个基准数据集，提供了一种一致的、可视化的物体语义部分表示。

    Nov, 2021

  • 使用支持样本非参数预测视角赋值实现视觉特征的半监督学习

    通过预测视图分配的支持样本（PAWS）的新方法，通过使用软伪标签来将已标记样本的表示与未标记样本的视图表示进行比较，从而将带标签样本无参数地纳入半监督自我监督训练方法中，并强制确保单一未标记实例的不同视图分配相似的伪标签。PAWS 不仅在架构方面优于其他半监督方法，而且需要比以前的最佳方法少 4 倍到 12 倍的训练时间。

    Apr, 2021

  • RanPAC：用于连续学习的随机投影和预训练模型

    本文提出了一种简明有效的使用预训练模型进行 CL 的方法，它采用无需训练的随机投影仪和类原型累积技术，可避免遗忘问题，并且证明了与以前的方法相比，在不使用回访记忆的情况下，对于多个基准数据集，减少了最终错误率。

    Jul, 2023

  • 人脸聚类：表征与成对约束

    该研究提出了一种基于 ResNet 的面部表示方法，并利用 Conditional Pairwise Clustering（ConPaC），将面部图像聚类，得出的实验结果表明 ConPaC 的性能优异，可以自动选择聚类数量，并保留面部图像之间的相似度。还提出了 k-NN 变体，适用于大型数据集。

    Jun, 2017

  • 分层组合自监督视觉表示学习

    本文提出了一种从原始视觉分组能力启动视觉表示学习的框架，操作化分组通过轮廓检测器，该检测器将图像分割成区域，并将这些区域合并成树形层次结构。实验表明，我们的方法朝着通用预训练方法的方向发展，其对下游任务有益，并可用于语义区域搜索和基于视频的对象实例跟踪。

    Dec, 2020