CVPRMay, 2023

HGFormer: 面向领域通用的分层分组变压器用于语义分割

PDF
TL;DR本研究使用视觉 Transformer 的自注意视觉分组属性，提出了一种新型分层分组变压器（HGFormer），在不同尺度上找到部聚合模块并组合像素以形成对象级别的语义分割结果，比以像素分组的方法和以平坦分组变压器的方法具有显著更强的网络鲁棒性。
semantic segmentationdomain generalizationhgformerself-attentionvision transformers
发现论文，激发创造
  • HiFormer: 使用 Transformer 实现的分层多尺度表示，用于医学图像分割

    本文提出了一种新的方法 HiFormer，它通过使用 Swin Transformer 模块和基于 CNN 的编码器设计了两种多尺度特征表示来有效地跨越 CNN 和 Transformer 进行医学图像分割。在编码器解码器结构的跳跃连接中，我们提出了 Double-Level Fusion（DLF）模块，以确保从两个上述表示中获得的全局和局部特征的细粒度融合。在各种医学图像分割数据集上的广泛实验表明，HiFormer 在计算复杂度、定量和定性结果方面优于其他基于 CNN、Transformer 和混合方法。

    Jul, 2022

  • SegFormer：使用 Transformer 简单高效的语义分割设计

    SegFormer 是一种简单、高效而强大的语义分割框架，它将 Transformers 和轻量级的多层感知机解码器统一在一起。我们展示了这种轻量简单设计对提高 Transformers 语义分割效率的关键所在，并为 SegFormer 构建了一系列模型，其中最好的模型 - SegFormer-B5，在 Cityscapes 验证集上达到了 84.0％的 mIoU，显示了出色的零 - shot 鲁棒性。

    May, 2021

  • 使用 Transformer 进行对比分组的指向图像分割

    在本文中，我们提出了一种使用对比式分组和 Transformer 网络 (CGFormer) 的掩模分类框架，通过基于令牌的查询和分组策略来明确捕捉对象级信息。CGFormer 通过交替查询语言特征并将视觉特征分组到查询令牌中进行对象感知的跨模态推理，最终通过对比学习来确定与参考对象对应的令牌及其掩模，实验结果显示 CGFormer 在分割和泛化设置中始终明显优于最先进的方法。

    Sep, 2023

  • 面向语义图像分割的领域自适应和泛化网络结构及训练策略

    该研究提出两种新的神经网络框架（DAFormer 和 HRDA）来解决在未标记或不可见目标域上使用源域模型的问题，以提高无监督领域适应和领域泛化的性能，并在多个基准测试中取得了显著的改进。

    Apr, 2023

  • SegFormer3D: 3D 医学图像分割的高效 Transformer

    SegFormer3D 是一种记忆高效的分层 Transformer，在 3D 医学图像分割中拥有比当前最先进模型更少的参数和更低的 GFLOPS，并在 Synapse、BRaTs 和 ACDC 等广泛使用的数据集上取得竞争性结果。

    Apr, 2024

  • DFormer: 拓扑扩散引导的 Transformer 用于通用图像分割

    本文介绍了一种名为 DFormer 的方法，用于实现全局图像分割，该方法将全局图像分割任务视为使用扩散模型的降噪过程，在地面真实掩模上添加各个层次的高斯噪声，然后学习模型从损坏掩模中预测降噪掩模，最后使用基于扩散的解码器逐渐执行掩模预测，并直接从一组随机生成的蒙版中预测掩模和相应类别。

    Jun, 2023

  • MISSFormer：一种有效的医学图像分割变压器

    提出了一种基于 Transformer 的医学图像分割方法 ——MISSFormer，通过改良的 Transformer 块和上下文桥，结合 CNN 和 Transformer 的优点，在医学图像分割任务上获得了优秀的性能，代码已开源。

    Sep, 2021

  • UniDAformer: 基于层次化掩模校准的统一域自适应全景分割 Transformer

    UniDAformer 是一种简单的统一领域自适应全景分割变压器，采用分层掩模校准来纠正特定区域的不准确预测，可以同时实现领域自适应实例分割和语义分割。它可用于统一领域自适应全景适应，并通过在线自训练来缓解错误预测，有效地提高了领域自适应全景分割的效果，训练及推理流程简单，经过多项公共基准测试，UniDAformer 的领域自适应全景分割优于现有技术水平。

    Jun, 2022

  • 领域通用城市场景分割的学习增强掩模变换器

    本文提出了一种基于 Content-enhanced Mask TransFormer (CMFormer) 的 Transformer 分割模型，该模型通过将图像内容信息和其下采样版本的图像特征融合到一个多分辨率内容增强的蒙版注意力学习方案中，从而在各种领域通用的城市场景语义分割数据集上显着优于现有的基于 CNN 的方法。

    Jul, 2023

  • OneFormer3D：统一点云分割的一种 Transformer

    本文提出了一种统一、简单、有效的模型 OneFormer3D，利用可学习的卷积核同时处理实例分割和语义分割，通过输入统一的实例和语义查询来训练，并在 ScanNet 测试排行榜中取得了第一名和新的最佳性能，同时在 ScanNet、ScanNet200 和 S3DIS 数据集上展示了最领先的语义、实例和全景分割结果。

    Nov, 2023