Jun, 2024

基于双向 SSM 的扩散曼巴高效三维形状生成

PDF
TL;DR为了解决传统 attention 机制在高分辨率三维形状生成中的可扩展性问题，我们引入了一种新颖的基于 Mamba 架构的扩散生成模型（DiM-3D），通过利用 Mamba 架构的高效性和线性复杂度，DiM-3D 在维持线性复杂度的同时实现了快速推理时间和大大降低的计算需求，并在 ShapeNet 基准测试上实验结果证明其在生成高保真度和多样性的三维形状方面表现出卓越性能。
sequence modelingmamba architecture3d shape generationdiffusion transformershigh-resolution voxel
发现论文，激发创造
  • 使用双向 SSM 扩展 Diffusion Mamba 以实现高效图像和视频生成

    Diffusion Mamba (DiM) is a novel architecture that effectively addresses the computational complexity of traditional diffusion transformers (DiT) in image generation tasks while maintaining linear complexity with respect to sequence length, outperforming existing techniques and establishing a new benchmark for generative models.

    May, 2024

  • DiM: 高效高分辨率图像合成的扩散灰曼巴

    提出了一种结合了 Mamba 和扩散模型的高效高分辨率图像合成方法 DiM，使用 ``weak-to-strong'' 训练策略和无需进一步微调的上采样策略提高训练和推理效率。

    May, 2024

  • Mamba24/8D: 通过状态空间模型增强点云的全局交互

    通过借鉴最近的状态空间模型在长序列建模方面的潜力，我们引入了基于 SSM（状态空间模型）的架构 Mamba 到点云领域，并提出了 Mamba24/8D，它在线性复杂度下具有强大的全局建模能力。该架构在多个 3D 点云分割任务上取得了最先进的结果，并通过大量实验证实了其有效性。

    Jun, 2024

  • Dimba: Transformer-Mamba 扩散模型

    该论文介绍了 Dimba，一种新的文本到图像扩散模型，它采用了一种独特的混合架构，结合了 Transformer 和 Mamba 元素。

    Jun, 2024

  • PointABM：Point Cloud 分析中融合双向状态空间模型与多头自注意力

    基于状态空间模型（SSM）的 Mamba 与 Transformer 架构相结合的 PointABM 模型，在改善局部特征以提高 3D 点云分析性能方面表现出优越性，并通过引入双向 SSM 框架和自注意机制进一步增强了特征提取能力，实验证明整合 Mamba 与 Transformer 显著提高了 3D 点云分析模型的能力。

    Jun, 2024

  • VM-DDPM：医学图像合成的视觉曼巴扩散

    基于 SMM-CNN 混合结构的 Vision Mamba DDPM（VM-DDPM）用于医学图像合成，通过多级状态空间块（MSSBlock）、状态空间层（SSLayer）和交叉扫描模块（CSM）等方法，在三个不同规模的数据集上取得最先进的性能。

    May, 2024

  • Motion Mamba: 高效和长序列动作生成与分层和双向选择性 SSM

    提出了一种简单高效的运动生成模型，利用了状态空间模型进行建模，并通过分层时序 Mamba (HTM) 块和双向空间 Mamba (BSM) 块来处理时序和姿态信息，从而实现了高质量、长序列的运动生成和实时人体动作生成。

    Mar, 2024

  • CT 到 MRI 转换的软遮罩曼巴扩散模型

    本研究旨在使用潜在扩散模型（Latent Diffusion Model）对 CT 进行 MRI 转换，并将常用的 U-Net 或 Transformer 骨干换成一种名为 Mamba 的状态空间模型。实验证明 DiffMa 在医学图像生成任务中表现出令人印象深刻的性能，并在输入缩放效率方面具有明显优势。

    Jun, 2024

  • ZigMa: 蜿蜒进化扩散模型

    应用 Mamba 的 State-Space 模型，通过引入一种名为 Zigzag Mamba 的方法来解决视觉数据生成中的缺陷，提升了速度和内存利用率，并将其与 Stochastic Interpolant 框架相结合以研究模型在大分辨率视觉数据集上的可扩展性。

    Mar, 2024

  • Mamba3D：基于状态空间模型增强 3D 点云分析的本地特征

    通过引入局部几何特征提取机制和双向状态空间模型（bi-SSM），Mamba3D 模型在点云学习中取得了超过 Transformer 的卓越性能、高效性和可扩展性，在多个任务中超越同类模型和并行研究，包括在 ScanObjectNN 任务中从头开始的 92.6% 综合准确性和在 ModelNet40 分类任务中基于单模态预训练达到 95.1% 的准确性，并且具有线性复杂度。

    Apr, 2024