Jul, 2022

HiFormer: 使用 Transformer 实现的分层多尺度表示，用于医学图像分割

PDF
TL;DR本文提出了一种新的方法 HiFormer，它通过使用 Swin Transformer 模块和基于 CNN 的编码器设计了两种多尺度特征表示来有效地跨越 CNN 和 Transformer 进行医学图像分割。在编码器解码器结构的跳跃连接中，我们提出了 Double-Level Fusion（DLF）模块，以确保从两个上述表示中获得的全局和局部特征的细粒度融合。在各种医学图像分割数据集上的广泛实验表明，HiFormer 在计算复杂度、定量和定性结果方面优于其他基于 CNN、Transformer 和混合方法。
convolutional neural networksmedical image segmentationtransformerhiformermulti-scale feature representations
发现论文，激发创造
  • MISSFormer：一种有效的医学图像分割变压器

    提出了一种基于 Transformer 的医学图像分割方法 ——MISSFormer，通过改良的 Transformer 块和上下文桥，结合 CNN 和 Transformer 的优点，在医学图像分割任务上获得了优秀的性能，代码已开源。

    Sep, 2021

  • D-Former: 一种用于 3D 医学图像分割的 U 形扩张 Transformer

    本文提出了一种称为 Dilated Transformer 的方法，该方法在全球和局部范围内交替捕捉成对的补丁关系进行自我关注。我们基于 Dilated Transformer 的设计构建了一种名为 D-Former 的 U 型编码器 - 解码器分层结构，用于 3D 医学图像分割。实验表明，我们的 D-Former 模型在低计算成本下，从头开始训练，优于各种有竞争力的基于 CNN 或 Transformer 的分割模型。

    Jan, 2022

  • ScaleFormer: 从尺度角度重新审视基于 Transformer 的骨干网路，应用于医学图像分割

    提出一种基于 ScaleFormer 的新型骨干网络，其中包含针对各个尺度的内部转换器，以在每个尺度上提取局部 - 全局提示，并设计了空间感知的跨尺度变换器，以相互作用多个尺度的共识区域，从而突出跨度依赖性并解决复杂的尺度变化。

    Jul, 2022

  • ConvFormer: 提升医学图像分割的即插即用卷积神经网络模型

    通过构建 CNN 式 Transformer（ConvFormer）来提升更好的注意力收敛，从而获得更好的分割性能。

    Sep, 2023

  • nnFormer: 交错 Transformer 用于体积分割

    介绍了一种新的医学图像分割模型 ——nnFormer，利用了 3D Transformer 模型的自注意机制，相比之前的 Transformer 模型在三个公开数据集上都取得了更好的性能。

    Sep, 2021

  • SegFormer3D: 3D 医学图像分割的高效 Transformer

    SegFormer3D 是一种记忆高效的分层 Transformer，在 3D 医学图像分割中拥有比当前最先进模型更少的参数和更低的 GFLOPS，并在 Synapse、BRaTs 和 ACDC 等广泛使用的数据集上取得竞争性结果。

    Apr, 2024

  • HRFormer: 用于密集预测的高分辨率 Transformer

    本研究提出了一种名为 High-Resolution Transformer 的方法，用于学习密集预测任务中的高分辨率表示， 并取得了在人体姿态估计和语义分割任务中较好的结果。

    Oct, 2021

  • Transformer-CNN 融合架构用于增强皮肤病变分割

    通过融合 transformers 和 CNNs，我们提出了一种混合架构用于医学图像分割，旨在克服 CNNs 在捕捉全局依赖性和局部空间细节方面的局限性。我们通过比较各种架构和配置，并进行多次实验来评估它们的有效性。

    Jan, 2024

  • LAPFormer: 一个轻量且准确的息肉分割 Transformer

    本文介绍了一种新型的编码器 - 解码器结构的 LAPFormer 模型，使用分层 Transformer 编码器来提取全局特征，并结合了用于捕获息肉局部外观的 CNN 解码器，包括渐进特征融合模块，特征细化模块和特征选择模块来处理特征，模型在多个息肉分割数据集上进行测试表现良好。

    Oct, 2022

  • UNetFormer: 用于三维医学图像分割的统一视觉 Transformer 模型和预训练框架

    本文提出了一个统一的框架，它由两个体系结构组成，称为 UNetFormer，具有基于 3D Swin 变压器的编码器和卷积神经网络和变压器的解码器。该架构的设计允许在准确性和计算成本之间满足宽范围的权衡要求。使用 CT 图像进行自我监督预训练，使用 Medical Segmentation Decathlon（MSD）数据集进行肝和肝肿瘤分割任务的 Fine-tune 和测试，并使用 MRI 图像的 BraTS 21 数据集进行脑肿瘤分割，并在 Dice 评分方面优于其他方法。

    Apr, 2022