CVPRFeb, 2022

点级区域对比进行对象检测预训练

PDF
TL;DR介绍了基于自监督学习的点级区域对比法，该方法用于目标检测预训练，提高了模型在像素或点级别的定位和物体区域整体性识别的表现，通过直接从不同区域中采样个体点对执行对比学习，增强了模型对输入区域质量变化的鲁棒性，同时通过在线知识蒸馏隐式地提高了初始区域分配的质量。在多个任务和数据集上的实验表明，这种方法提高了目标检测和分割的预训练方法的性能。
self-supervised pre-trainingobject detectionpoint-level region contrastcontrastive learningonline knowledge distillation
发现论文，激发创造
  • ProposalContrast：基于 LiDAR 的三维目标检测的无监督预训练

    提出了一种名为 ProposalContrast 的无监督点云预训练框架，该框架通过对比区域建议来学习强大的 3D 表示，从而更好地适应 3D 检测属性。

    Jul, 2022

  • PatchContrast：自监督预训练用于 3D 物体检测

    基于自主车辆的关键挑战是准确检测环境中的物体。我们引入 PatchContrast，这是一个创新的自我监督点云预训练框架，用于 3D 物体检测。通过提出两个抽象层次的利用，我们学习未标记数据的判别性表示：提案级别和补丁级别。提案级别旨在确定物体相对于周围环境的位置，而补丁级别增加了关于物体组件之间内部连接的信息，从而根据它们的独立组件区分不同的对象。我们展示了如何将这些级别集成到自我监督预训练中以增强下游的 3D 检测任务，并证明我们的方法在三个常用的 3D 检测数据集上优于现有的最先进模型。

    Aug, 2023

  • 利用物体级对比学习来调整预训练以进行检测

    通过选择性搜索提出边界框，引入物体层次表征，结合 FPN 等所需模块的预训练神经网络，并配备物体检测属性，该文提出的选择性物体对比学习（SoCo）方法在物体检测领域取得了最先进的转移学习结果。

    Jun, 2021

  • 基于对比学习的无监督学习目标检测

    我们提出了一种通过无监督 / 自监督学习训练单阶段目标检测器的创新方法，该方法有潜力彻底改变标注过程，大大减少人工标注所需的时间和成本，并为之前难以实现的研究机会铺平了道路。与现有的主要针对分类任务的无监督学习方法不同，我们的方法承担了目标检测的独特挑战，开创了 intra-image 对比学习与 inter-image 对应的概念，能够获取目标检测所需的重要位置信息。该方法熟练地学习和表示这些位置信息，并生成信息丰富的热图。我们的结果展示了 89.2% 的卓越准确率，在计算机视觉领域的无监督目标检测领域突破性地提高了 15 倍，相比随机初始化。

    Feb, 2024

  • 增强自监督学习的医学图像分割本地化区域对比

    本研究提出了一种新颖的对比学习框架，它将本地化区域对比技术（LRC）融入到现有的半监督自监督预训练方法中，以增强医学图像分割的性能。通过在三个多器官分割数据集上的大量实验，我们证明在受限注释的情况下将 LRC 集成到自监督方法中可以显著提高分割性能。此外，我们还表明 LRC 也可以应用于完全监督的预训练方法以进一步提高性能。

    Apr, 2023

  • 对比检测的高效视觉预训练

    引入对比检测算法的自监督目标，通过在图像增强中识别物体水平特征提取富有学习信息的信号，实现高效的自监督预训练，拥有多种下游任务的领先转移精度。在 ImageNet 预训练模型表现与大型自监督系统 SEER 相当的同时，需要少至 10 倍的预训练数据量，最终该目标还能轻松应对更复杂的图像。

    Mar, 2021

  • 少量数据目标检测的对比预训练建议

    使用预训练的深度神经网络在少量可用数据中实现强大结果，针对密集问题如物体检测，学习图像中的局部信息而非全局信息被证明更有效。为了解决这个问题，我们对最近在社区中表现良好且具有生成多样化目标提案特性的基于 Transformer 的物体检测器感兴趣，在此工作中，我们提出了一种利用该特性的新型无监督整体预训练方法 ProSeCo，使用检测器生成的大量目标提案进行对比学习，从而允许使用较小的批量大小，并结合物体级特征学习图像中的局部信息。为了改善对比损失的有效性，在选择正样本时引入物体位置信息以考虑多个重叠的目标提案。当重用预训练的骨干网络时，我们主张在骨干网络和检测头之间一致学习局部信息。我们证明了我们的方法在使用较少数据进行物体检测的无监督预训练中优于现有方法，在标准和新颖的基准测试中表现出色。

    Oct, 2023

  • P4Contrast: 使用点 - 像素对进行对比学习应用于 RGB-D 场景理解

    论文提出了一种通过对比 RGB-D 数据的点 - 像素对，实现自监督预训练模型的方法，进而在多模态 RGB-D 扫描中为场景理解提供更多的灵活性，实现更好的预训练效果。

    Dec, 2020

  • 显著物体检测：一种判别区域特征融合方法

    本文提出一种基于多层图像分割的监督学习方法，将区域特征向量映射到显著性得分，最终融合多个级别的得分来产生显著图，同时通过研究区域对比度和背景性质，实现了在六个基准数据集上优于现有方法的显著物体检测算法。

    Oct, 2014

  • RegionCLIP: 基于区域的语言 - 图像预训练

    RegionCLIP 是一种新的方法，扩展了 CLIP 模型的范围，使其可以学习区域级别的视觉表征，从而实现图像区域和文本概念之间的细粒度对齐，进而在目标检测领域表现出良好的性能。

    Dec, 2021