基于大窗口的 Mamba UNet 用于医学影像分割:超越卷积和自注意力
基于深度序列模型的 U-Mamba 是一种适用于医学图像分割的通用网络,通过融合卷积层的局部特征提取能力与序列模型的长距离依赖捕捉能力,能够自适应不同数据集并在各种任务中取得优于当前基于 CNN 和 Transformer 的分割网络的结果,为医学图像分析中高效建模长距离依赖开辟了新的途径。
Jan, 2024
我们提出了一种名为 Mamba-UNet 的创新架构,该架构将 U-Net 在医学图像分割中的能力与 Mamba 的能力相结合,通过纯粹的 Visual Mamba(VMamba)编码器 - 解码器结构和跳跃连接来捕捉医学图像中的细节和上下文,并显著优于具有相同超参数设置的 UNet 和 Swin-UNet。
Feb, 2024
本研究提出了一种基于状态空间模型的医学图像分割模型 Vision Mamba UNet (VM-UNet),通过引入 Visual State Space (VSS) 块以捕获广泛的上下文信息,并构建了一个不对称的编码器 - 解码器结构。实验结果表明,VM-UNet 在医学图像分割任务中具有竞争力。此外,该模型是首个基于纯 SSM 模型构建的医学图像分割模型,旨在为未来开发更高效、更有效的 SSM 分割系统奠定基础并提供有价值的见解。
Feb, 2024
在医学图像分割领域,CNN 和 Transformer 基于模型已经进行了深入研究。然而,CNN 对长距离依赖的建模能力有限,使得充分利用图像内的语义信息变得具有挑战性。另一方面,Transformer 的二次计算复杂性提出了挑战。最近,基于状态空间模型(SSMs)的方法,如 Mamba,被认为是一种有希望的方法。它们不仅在建模长程交互方面表现出卓越性能,而且保持了线性计算复杂性。受到 Mamba 架构的启发,我们提出了 Vision Mamba-UNetV2,引入了 Visual State Space(VSS)块来捕捉广泛的上下文信息,引入 Semantics and Detail Infusion(SDI)来增强低级和高级特征的融合。我们在 ISIC17、ISIC18、CVC-300、CVC-ClinicDB、Kvasir、CVC-ColonDB 和 ETIS-LaribPolypDB 等公共数据集上进行了全面的实验。结果表明,VM-UNetV2 在医学图像分割任务中表现出竞争力。我们的代码可在此网址获得
Mar, 2024
通过将 State Space Sequence Models (SSMs) 整合到卷积残差块中,nnMamba 架构能够提取局部特征并建模复杂的依赖关系,从而在医学图像分析的一系列挑战性任务中展现出卓越的性能。
Feb, 2024
提出了一种新颖的基于 Mamba 的模型,Swin-UMamba,专门针对医学图像分割任务,利用了基于 ImageNet 的预训练的优势。实验结果表明,ImageNet 的训练对于提高基于 Mamba 的模型性能起到了重要作用。与 CNNs、ViTs 和最新的基于 Mamba 的模型相比,Swin-UMamba 在 AbdomenMRI、Encoscopy 和 Microscopy 数据集上的表现优异,平均得分比最接近的对应模型 U-Mamba 高出 3.58%。
Feb, 2024
通过使用残差 VSS 模块进行深度上下文特征提取,以及使用 Triplet SSM 在空间和通道维度上融合特征,我们的 TM-UNet 在多个数据集上展示了卓越的分割性能,并且相较于之前的 VM-UNet 减少了三分之一的参数。
Mar, 2024
SegMamba 是一种新颖的 3D 医学图像分割模型,通过有效地捕捉各个尺度上的全体积特征的远程依赖性,从状态空间模型的角度在全体积特征建模方面胜过基于 Transformer 的方法,保持出色的处理速度,即使是具有 {$64 imes 64 imes 64$} 分辨率的体积特征。在 BraTS2023 数据集上的综合实验证明了 SegMamba 的有效性和高效性。
Jan, 2024
LightM-UNet integrates Mamba and UNet in a lightweight framework, achieving superior segmentation performance while drastically reducing parameter and computation costs, making it suitable for mobile health applications.
Mar, 2024
提出了一种新的架构 Mamba HUNet,该架构结合了卷积神经网络的局部特征提取能力和状态空间模型的长程依赖建模能力,通过将输入灰度图像分割为补丁并转换为 1D 序列,提取层次特征并保留空间信息,实验结果表明 Mamba HUNet 在医学图像分割任务中具有良好的效果,特别是在多发性硬化症损伤分割方面表现出强大的鲁棒性和灵活性,对改善临床决策过程具有潜在的推动作用。
Mar, 2024