Aug, 2022

U-Net 和 Transformer: U-Net 在医学图像配准中是否已经过时？

PDF
TL;DR本研究旨在探究在医学图像配准领域中，基于 U-Net 神经网络是否比现代 transformer-based 方法更陈旧。通过提出一种大卷积核 U-Net 模型并在公共数据集和 MICCAI Learn2Reg 2021 挑战数据集上进行测试，结果表明新模型在参数和计算复杂度较低的情况下可以优于 state-of-the-art 的 TransMorph 模型及其他现有 transformer-based 方法，证明 U-Net 仍然在 inter-subject 和 atlas-based 3D 医学图像配准中具有优势。
vision transformer-based networks5-layer convolutional u-netmedical image registrationlarge kernel u-nettransmorph
发现论文，激发创造
  • 一种用于无监督可变形图像配准的轻量级残差网络

    使用改进的卷积神经网络进行体积图像配准，提供增强的感受野，减少参数并在受限的训练数据集上取得与基于 Transformer 方法相当甚至稍好的性能。

    Jun, 2024

  • TransMorph: 无监督医学图像配准的 Transformer 模型

    本文提出了 TransMorph，一种混合了 Transformer-ConvNet 模型的医学图像配准方法，并通过验证证明，该方法在医学图像配准方面性能显著优于基线方法，从而证实了 Transformer 在医学图像配准方面的有效性。

    Nov, 2021

  • 3D TransUNet：通过视觉 Transformer 提升医学图像分割

    通过在 2D TransUNet 体系结构的基础上建立在最先进 nnU-Net 体系结构的基础上，充分探索 Transformers 在编码器和解码器设计中的潜力，我们引入了两个关键组件：1）一个从卷积神经网络（CNN）特征图中令图像块标记化的 Transformer 编码器，从而实现全局上下文的提取；2）一个自适应地利用候选区域和 U-Net 特征之间的交叉注意力进行候选区域的精炼的 Transformer 解码器。我们的研究发现，不同的医学任务受益于不同的体系结构设计。Transformer 编码器在多器官分割中表现出色，其中器官之间的关系至关重要。另一方面，Transformer 解码器在处理小而具有挑战性的分割目标（如肿瘤分割）方面更有益处。大量实验证明了将基于 Transformer 的编码器和解码器集成到 U 型医学图像分割体系结构中的巨大潜力。TransUNet 在各种医学应用中超越竞争对手。

    Oct, 2023

  • TransUNet：使用 Transformers 强大编码器进行医学图像分割

    本文提出了一种新的医学图像分割框架 TransUNet，它将 Transformers 和 U-Net 结合起来，通过编码全局上下文和恢复本地细节信息来实现更精确的分割，针对不同的医学应用，TransUNet 优于其他竞争方法。

    Feb, 2021

  • AFTer-UNet：医学图像分割轴向融合 Transformer UNet

    本篇论文提出了一种名为 Axial Fusion Transformer UNet (AFTer-UNet) 的方法，它结合了卷积层和 Transformer 的优势，同时考虑了切片内和切片间的长距离信息，在医学图像分割中优于现有技术。

    Oct, 2021

  • 用于高效和鲁棒的脑损伤分割的大核心注意力

    我们提出了一个全卷积变种的 U-Net 结构的转换器模块，用于建模 3D 脑损伤分割的远程交互，证明了我们的模型在三个因素中提供了最大的妥协点：与最先进技术相竞争的性能；卷积神经网络的参数效率；以及转换器的有利归纳偏差。

    Aug, 2023

  • ViT-V-Net: 用于无监督容积医学图像配准的视觉变换器

    该论文提出了一种基于 ViT 和 ConvNets 的新架构 ViT-V-Net，实现了类医学图像的体积重建。实验结果表明，该方法在图像配准任务中具有优异的性能。

    Apr, 2021

  • SeUNet-Trans: 医学图像分割的简单而有效的 UNet-Transformer 模型

    我们提出了一种简单而有效的 UNet-Transformer（seUNet-Trans）模型，用于医学图像分割，结合了 CNN-based 模型和 Transformer 模型，在多个医学图像分割数据集上进行了广泛实验，显示出优于其他几种先进模型的性能。

    Oct, 2023

  • DS-TransUNet: 医学图像分割的双 Swin Transformer U-Net

    本研究提出了 Dual Swin Transformer U-Net (DS-TransUNet) 框架，它是第一次尝试将 Swin Transformer 的优势同时融入到标准 U 形架构的编码器和解码器中，以提高不同医学图像的语义分割质量。实验表明，DS-TransUNet 显著优于现有的医学图像分割方法。

    Jun, 2021

  • UNetFormer: 用于三维医学图像分割的统一视觉 Transformer 模型和预训练框架

    本文提出了一个统一的框架，它由两个体系结构组成，称为 UNetFormer，具有基于 3D Swin 变压器的编码器和卷积神经网络和变压器的解码器。该架构的设计允许在准确性和计算成本之间满足宽范围的权衡要求。使用 CT 图像进行自我监督预训练，使用 Medical Segmentation Decathlon（MSD）数据集进行肝和肝肿瘤分割任务的 Fine-tune 和测试，并使用 MRI 图像的 BraTS 21 数据集进行脑肿瘤分割，并在 Dice 评分方面优于其他方法。

    Apr, 2022