NetMamba:通过预训练单向 Mamba 实现高效的网络流量分类
综述了一种名为 Mamba 的机制,讨论了其在深度神经网络(例如 Transformer)和自然语言处理领域中的潜力、改进以及与其他网络的集成等相关研究方向。
Jun, 2024
LightM-UNet integrates Mamba and UNet in a lightweight framework, achieving superior segmentation performance while drastically reducing parameter and computation costs, making it suitable for mobile health applications.
Mar, 2024
我们提出了一种名为 Mamba-UNet 的创新架构,该架构将 U-Net 在医学图像分割中的能力与 Mamba 的能力相结合,通过纯粹的 Visual Mamba(VMamba)编码器 - 解码器结构和跳跃连接来捕捉医学图像中的细节和上下文,并显著优于具有相同超参数设置的 UNet 和 Swin-UNet。
Feb, 2024
通过将 Transformer 和 Mamba 架构相结合,PoinTramba 方法在点云分析领域取得了显著进展,并在 ScanObjectNN、ModelNet40 和 ShapeNetPart 等数据集上展示了优越的性能,从而为该领域建立了新的分析标准。
May, 2024
提出了一种新颖的基于 Mamba 的模型,Swin-UMamba,专门针对医学图像分割任务,利用了基于 ImageNet 的预训练的优势。实验结果表明,ImageNet 的训练对于提高基于 Mamba 的模型性能起到了重要作用。与 CNNs、ViTs 和最新的基于 Mamba 的模型相比,Swin-UMamba 在 AbdomenMRI、Encoscopy 和 Microscopy 数据集上的表现优异,平均得分比最接近的对应模型 U-Mamba 高出 3.58%。
Feb, 2024
提出了一种名为 VideoMamba 的基于 Mamba 的视频理解方法,克服了现有 3D 卷积神经网络和视频变换器的限制,通过线性复杂度运算实现了高效的长视频建模,同时展示了在视觉域上的可扩展性、在短期行动识别上的敏感性、在长期视频理解上的优越性以及在多模态背景下的兼容性。
Mar, 2024
通过将 State Space Sequence Models (SSMs) 整合到卷积残差块中,nnMamba 架构能够提取局部特征并建模复杂的依赖关系,从而在医学图像分析的一系列挑战性任务中展现出卓越的性能。
Feb, 2024
多任务密集场景理解的模型 MTMamba 利用 Mamba 处理长程依赖,并通过交叉任务交互显式地建模任务间的信息交流,实现了对语义分割、人体解析和目标边界检测任务在 PASCAL-Context 数据集上超越先前最佳方法的性能提升。
Jul, 2024
在这篇综述性文章中,我们回顾了 Mamba 模型的起源和核心见解,并将 Mamba 应用于不同的计算机视觉任务。我们对各种图像、视频、点云、多模态等应用进行了分类和组织,为未来在这个快速发展的领域中提供了挑战和研究方向。
Apr, 2024
本研究提出了一种基于状态空间模型的医学图像分割模型 Vision Mamba UNet (VM-UNet),通过引入 Visual State Space (VSS) 块以捕获广泛的上下文信息,并构建了一个不对称的编码器 - 解码器结构。实验结果表明,VM-UNet 在医学图像分割任务中具有竞争力。此外,该模型是首个基于纯 SSM 模型构建的医学图像分割模型,旨在为未来开发更高效、更有效的 SSM 分割系统奠定基础并提供有价值的见解。
Feb, 2024