DTMamba:时间序列预测的双孪蛇
提出了一种名为 Bi-Mamba4TS 的双向 Mamba 模型,通过采用补丁技术丰富了局部信息并精细捕捉时间序列的演化模式,同时结合数据集特征选择更合适的建模方法,实验证明该模型在七个真实数据集上相较于现有方法获得了更准确的预测结果。
Apr, 2024
TimeMachine 是一种创新的模型,利用 Mamba 作为状态空间模型来捕捉多变量时间序列数据中的长期依赖关系,同时具有线性可扩展性和小内存占用。TimeMachine 利用时间序列数据的独特属性,在多个尺度上生成显著的上下文提示,并利用一种创新的集成四重 - Mamba 架构统一处理混合通道和独立通道情况,从而在不同尺度上以全局和局部上下文的方式对内容进行有效选择以进行预测。实验结果表明,TimeMachine 在预测准确性、可扩展性和内存效率方面表现出优异的性能,已在基准数据集上进行了广泛验证。
Mar, 2024
本文介绍了两种基于状态空间模型(SSM)的时序预测模型,S-Mamba 和 D-Mamba,它们利用 Mamba 块提取变量之间的相关性,在节省 GPU 内存和训练时间的同时实现了卓越的性能,同时通过大量实验比较了 Mamba 和 Transformer 在时序预测中的潜力,为该领域探索了新的研究方向。
Mar, 2024
我们提出了一种新颖的多视图方法,将频域和时域特征整合起来,为时间序列分类提供互补的上下文。我们的方法将连续小波变换光谱特征与时间卷积或多层感知器特征融合在一起,并利用 Mamba 状态空间模型进行高效和可扩展的序列建模,同时引入一种新颖的扫描方案来更好地建模序列关系。在 10 个标准基准数据集上的实验证明,我们的方法相对于最先进的时间序列分类模型,平均准确率提高了 6.45%。
Jun, 2024
在这篇论文中,我们提出了一种混合框架 Mambaformer,该框架在内部结合了 Mamba 和 Transformer 架构,用于长短范围的时间序列预测,并通过比较研究表明,Mambaformer 系列可以在长短范围的时间序列预测问题中胜过 Mamba 和 Transformer。
Apr, 2024
这项研究介绍了 ST-MambaSync,它是一个创新的框架,将一个简化的状态空间层与一个流线型的注意力层集成在一起,在处理高维数据(如空间 - 时间数据集)时,它在空间 - 时间预测任务中实现了竞争性的准确率。我们深入研究了注意机制与 Mamba 组件之间的关系,揭示了 Mamba 在残差网络结构中起到类似于注意力的功能。这种对比分析支持了状态空间模型的高效性,阐明了它们在降低计算成本的同时能够提供卓越的性能。
Apr, 2024
该研究论文借助于 Mamba Decision Maker 对 RL 领域的序列建模能力进行了深入探讨,并为未来鲁棒高效决策系统的进一步发展铺平了道路。
Jun, 2024
在这篇综述性文章中,我们回顾了 Mamba 模型的起源和核心见解,并将 Mamba 应用于不同的计算机视觉任务。我们对各种图像、视频、点云、多模态等应用进行了分类和组织,为未来在这个快速发展的领域中提供了挑战和研究方向。
Apr, 2024
提出了一种名为 C-Mamba 的基于状态空间模型的多变量时间序列预测方法,通过混合通道和通道注意力增强的方式来捕捉跨通道依赖关系,获得了在七个真实世界时间序列数据集上的最先进性能,同时其混合和注意力策略在其他框架中表现出强大的泛化能力。
Jun, 2024
通过将 Transformer 和 Mamba 架构相结合,PoinTramba 方法在点云分析领域取得了显著进展,并在 ScanObjectNN、ModelNet40 和 ShapeNetPart 等数据集上展示了优越的性能,从而为该领域建立了新的分析标准。
May, 2024