Jun, 2021

多数据集预训练：用于语义分割的统一模型

PDF
TL;DR本研究提出了一个名为多数据集预训练的统一框架，利用来自不同数据集的注释，通过像素级原型对比损失和跨数据集混合来扩展像素级嵌入，进而显式建模关于像素类的相似度，在多个基准测试上实现了卓越的性能。
semantic segmentationmulti-dataset pretrainingpixel-to-prototype contrastive losscross dataset mixingpixel-to-class sparse coding
发现论文，激发创造
  • 通用半监督语义分割

    本文提出了一种通用的半监督语义分割框架，旨在在各种应用领域实现更低的注释和部署成本，并通过像素感知熵正则化的特征对齐目标来最小化有监督以及无监督损失，以实现在多个领域中都能使用单一模型，利用少量标记实现性能提升，同时可以处理不同领域的标签空间不同的问题。

    Nov, 2018

  • 针对 DETR 的语言感知多个数据集检测预训练

    本文提出了一种预训练 DETR 检测器的强大框架，命名为 METR，通过引入预训练语言模型将经典的目标检测器多分类转化为二分类，从而在不需要手动标注标签空间的情况下利用多个数据集联合预训练模型，并通过组合二分匹配策略实现预测。在大量实验中表明 METR 具有出色的性能表现，并可高度灵活地传递到各种 DETR-like 检测器上。

    Apr, 2023

  • MSeg：用于多领域语义分割的综合数据集

    本文介绍了 MSeg 数据集，它统一了不同领域的语义分割数据集，消除了不一致的分类和注释方法，并在零样本交叉数据集转移方面进行了评估，并表明 MSeg 训练可以显著提高模型的鲁棒性和泛化能力。

    Dec, 2021

  • 对比学习用于标签少的语义分割

    本文提出了一种基于对比度学习的语义分割训练策略，使用像素级和标签基础对比损失的方法，能够在减少标记数据的情况下提高性能，并通过 Cityscapes 和 PASCAL VOC 2012 数据集的实验证明了该方法的有效性。

    Dec, 2020

  • 简易多数据集检测

    本文提出一种简单的方法，使用所有数据集上的标签训练一个统一的多数据集物体检测器，它可以自动整合数据特定输出到一个通用的语义分类体系中，避免了手动分类调和的步骤，且实验表明，该流程可以推广到新的未见数据集，而无需再次针对它们进行微调。

    Feb, 2021

  • 具有重构预训练和异质性抗干扰调节的统一多模式诊断框架

    提出了一种统一的医学多模态诊断 (UMD) 框架，包括量身定制的预训练和下游调优策略，以解决医学多模态预训练面临的数据和模态异质性挑战，在五个公共医学数据集上的广泛实验表明我们的 UMD 框架在三种下游任务上显著优于现有方法。

    Apr, 2024

  • 克服生物医学影像数据稀缺问题的基础多任务模型

    提出了一种多任务学习策略，使用 bioMedical PreTrained 模型（UMedPT）在包括断层、显微和 X 光图像的多任务数据库上进行训练，其在预训练数据库相关任务上具有卓越性能，且对于领域外任务仅需少量训练数据便可保持优越性能，对于跨中心可转移性，UMedPT 提取的影像特征成为新的标准。

    Nov, 2023

  • 基于多个异构数据集的卷积网络训练，用于街景语义分割

    该研究提出了一种具有分层分类器的卷积网络，用于每像素的语义分割，能够在多个异构数据集上进行训练和利用它们的语义层次结构。

    Mar, 2018

  • 构建通用 3D 大规模感知强预训练基准

    通过构建一个 CSC 框架，我们综合使用视觉基础模型提供的语义线索和多模态信息的知识丰富的跨场景原型，实现了一种具有各种下游任务的更少微调工作量的通用 3D 预训练模型。

    May, 2024

  • 深度神经网络数字病理学多任务预训练

    本研究中，我们探讨了多任务学习作为预训练模型用于数字病理分类任务的方法，通过构建 22 个分类任务和近 900k 图像的资源池并使用简单结构和训练策略创建了可转移模型，并提出了一个稳健的模型选优协议，根据目标任务，我们展示了使用我们模型作为特征提取器时，其性能要么显著优于 ImageNet 预训练模型，要么提供相当的性能。Fine-tuning 技术可以恢复 ImageNet 特征的泛化性不足，提高性能。

    May, 2020