Apr, 2023

密集预测任务的多级对比学习

PDF
TL;DR本文介绍了一种名为 Multi-Level Contrastive Learning for Dense Prediction Task (MCL) 的自监督学习方法，该方法通过实现一种装配多尺度图像的贡献任务，显式地编码绝对位置和比例信息，从而使神经网络能够学习区域语义表示。实验表明，MCL 在各种数据集上始终优于最新的现有方法。
multi-level contrastive learningdense prediction taskneural networksregion-level feature representationself-supervised method
发现论文，激发创造
  • 自监督视觉预训练的密集对比学习

    本文介绍了一种基于像素的密集自监督学习方法，通过考虑局部特征之间的对应关系，实现了对密集预测任务的有效优化，包括物体检测，语义分割和实例分割。与基线方法 MoCo-v2 相比，该方法仅引入了微不足道的计算开销，但表现出了更好的性能。

    Nov, 2020

  • 多层非对称对比学习用于医学图像分割预训练

    提出了一种名为 JCL 的新型不对称对比学习框架，用于医学图像分割的自监督预训练，多级对比损失设计确保了编码器和解码器在预训练期间可以学习到多级表示，实验证明该框架优于现有的对比学习策略。

    Sep, 2023

  • 基于运动敏感的对比学习方法用于自监督视频表征

    本文提出了一种 Motion Sensitive Contrastive Learning (MSCL) 方法，将光流获取的运动信息注入到 RGB 帧中，强化特征学习，通过局部运动对比学习（LMCL），以及流旋转增强（FRA）和运动差分采样（MDS）等方法对其进行扩展，对标准基准数据集进行了广泛的实验，提高了 UCF101 和 Something-Something v2 的视频分类性能，并显著提高了 UCF101 的视频检索性能。

    Aug, 2022

  • 对比学习中避免特征抑制：学习以前没有学到的内容

    以自监督对比学习为基础，提出了一种新颖的多阶段对比学习框架 (MCL)，旨在解决特征抑制问题，从而学习到更全面的表示，并能够提升各种下游任务的性能。

    Feb, 2024

  • 端到端监督式多标签对比学习

    该研究提出了一种新的端到端训练框架 ——KMCL（基于核的多标签对比学习），以解决模型和数据中心设计的缺点。KMCL 通过将嵌入特征转化为高斯 RKHS 中指数核的混合，然后进行目标损失编码，包括重构损失、非对称分类损失和对比损失来捕捉标签相关性。该框架同时考虑特征编码器的不确定性，并保持较低的计算量。通过对图像分类任务进行广泛实验，展示了 KMCL 相对于 SOTA 方法的一致改进。PyTorch 实现详见 https://github.com/mahdihosseini/KMCL。

    Jul, 2023

  • 通过对比掩模预测进行自监督视觉表示学习

    本文提出了一种基于掩模对比学习（CMP）的自监督视觉表示法，利用区域级特征对比而不是视角层级特征对比，以消除隐式的语义一致性假设并实现正样本的无假设定位。使用专门的掩模预测头解决了掩模和非掩模特征之间的域差异，实验结果表明该方法在自然数据集上获得了可比较的性能，并且在大量下游任务上比 MoCo V2 表现更强。

    Aug, 2021

  • ProbMCL：简单的多标签视觉分类概率对比学习

    在多标签图像分类任务中，我们提出了一种名为 Probabilistic Multi-label Contrastive Learning (ProbMCL) 的新框架，通过结合有监督对比学习和混合密度网络来解决现有方法中的挑战，并在计算机视觉和医学影像领域的数据集上验证了其有效性和低计算成本。

    Jan, 2024

  • 对比多任务密集预测

    本文提出了一种基于特征对比一致性的多任务对比正则化方法，以解决多任务密集预测的跨任务交互建模问题，并在两个数据集上进行了大量实验，展示了该方法在密集预测方面的优越表现，创立了新的最先进性能。

    Jul, 2023

  • 自我传播：探索像素级一致性用于无监督视觉表示学习

    本文提出了基于像素级别前提任务来学习密集特征表示的方法，并使用此方法在目标检测和语义分割数据集上超越了目前最好的方法

    Nov, 2020

  • 半监督医学图像分割的多尺度交叉对比学习

    本文提出了一种 MCSC 框架，联合训练 CNN 和 Transformer 模型，并采用多尺度交叉监督对比学习来对医学图像进行结构分割。实验证明，该方法在 Dice 系数上比现有的半监督方法提高了 3.0% 以上，并且大大缩小了与全监督方法之间的性能差距。

    Jun, 2023