Apr, 2023

层次特征掩模的自监督学习

PDF
TL;DR本研究提出了一种有效的自监督方法 MaskDeep，通过层次化地掩盖图像中的部分表示来重构高语义信息，通过固定可见区域，能够提供图像的更多描述，实验结果表明 MaskDeep 超越了多项自监督方法，成为了目前图像线性分类和对象检测任务最佳表现。
maskdeepself-supervised methodhierarchical propertysemantic image representationobject detection
发现论文，激发创造
  • 医学图像分割密集层级表示的自监督学习

    通过自监督框架学习适用于密集下游任务的体素级粗细粒度表示，通过平衡多尺度特征的贡献，确保学习到的表示捕捉到粗粒度和细粒度的细节，并在有限的注释数据下持续优于基准模型。

    Jan, 2024

  • 点云自监督学习的掩蔽自编码器

    本文提出一种新颖的掩码自编码点云自监督学习方案，通过划分输入点云为不规则点区块和高比例随机掩码，设计了一种基于 Transformer 的自编码器，该方案在预训练过程中高效并且在各种下游任务中具有很好的泛化能力，包括在少样本物体分类方面表现出色。

    Mar, 2022

  • MST：遮蔽式自监督变压器用于视觉表示

    本文提出了 MST 方法，它可以显式捕捉图像的局部上下文并保留全局语义信息，在密集预测任务上有更好的性能，在多个数据集上得到验证，并优于同等时期的监督方法和其可比的变体 DINO。

    Jun, 2021

  • 面具孪生网络用于标签高效学习

    提出了一种自监督学习框架 ——Masked Siamese Networks (MSN)，用于学习图像表示。通过将随机遮罩块的图像视图的表征与原始未遮罩图像的表征进行匹配，可以进行自监督预训练，该策略特别适用于 Vision Transformer 模型，在提高联合嵌入结构的可扩展性的同时，产生高语义级别的表示，并在低样本图像分类方面表现竞争性，对 ImageNet-1K 数据集上，使用基础 MSN 模型以仅有 5000 个带注释的图像，达到了 72.4％的 top-1 准确度，并且只有 1％的 ImageNet-1K 标签，就取得了 75.7％的 top-1 准确度，创立了该基准测试的自监督学习的新的最佳成果。

    Apr, 2022

  • 通过对比掩模预测进行自监督视觉表示学习

    本文提出了一种基于掩模对比学习（CMP）的自监督视觉表示法，利用区域级特征对比而不是视角层级特征对比，以消除隐式的语义一致性假设并实现正样本的无假设定位。使用专门的掩模预测头解决了掩模和非掩模特征之间的域差异，实验结果表明该方法在自然数据集上获得了可比较的性能，并且在大量下游任务上比 MoCo V2 表现更强。

    Aug, 2021

  • 为卷积网络设计 BERT: 稀疏和分级掩码建模

    本论文通过采用稀疏卷积和分层解码器等新技术，将 BERT - 风格的预训练方法推广到卷积神经网络领域，并且在 ResNet 和 ConvNeXt 等模型上进行了验证，在目标检测和实例分割等任务中，优于当前最先进的对比学习和变换器掩模建模方法。

    Jan, 2023

  • MOCA：通过预测掩码在线码书分配进行自监督表示学习

    提出了一种单阶段且独立的方法 MOCA，用高层特征定义新颖的掩码和预测目标，有效地结合了自我监督学习的两种范式，在低样本设置下取得了新的最先进结果，并且训练速度至少比之前的方法快 3 倍。

    Jul, 2023

  • 深度稀疏编码的无监督特征学习

    本文提出了一种名为 Deep Sparse Coding 的新的无监督特征学习框架，扩展了稀疏编码到多层体系结构，用于视觉对象识别任务，在不同层次的稀疏编码之间连接一种稀疏到密集的模块，结合卷积神经网络（CNN）可达到最先进的性能表现。

    Dec, 2013

  • 基于遮蔽建模的自监督视觉及其它领域的表征学习

    近年来，自监督学习因其出色的表示学习能力和对标注数据低依赖性而备受关注。文中综合评述了遮蔽建模框架及其方法学，并详细介绍了遮蔽建模中的技术细节，包括各种遮蔽策略、恢复目标、网络架构等。该框架在计算机视觉、自然语言处理和其他领域表现出了出色的性能，并探讨了不同领域中遮蔽建模方法的共性和差异。最后，讨论了当前技术的局限性并指出了几个可能的研究方向。

    Dec, 2023

  • 利用自监督深度估计提高语义分割的三种方法

    提出了一种半监督语义分割的框架，采用自监督单目深度估计和利用场景几何形状强数据扩增的方式，结合深度特征差异和难度级别，通过学生 - 教师框架选择最有用的样本进行语义分割的注释，实现了在 Cityscapes 数据集上半监督语义分割的最好结果。

    Dec, 2020