Mar, 2024

HARMamba：基于双向选择性 SSM 的高效可穿戴传感器人体活动识别

PDF
TL;DR本研究介绍了一种更轻量级、选择性的状态空间模型为基础的活动识别模型 HARMamba，通过独立学习每个通道的传感器数据并将数据分割成 “补丁”，标记出的传感器序列的位置嵌入作为双向状态空间模型的输入令牌，最终通过分类头实现活动分类，相比于基于 Transformer 的模型，在减少计算和内存开销的同时实现了更好的性能，并在 PAMAP2、WISDM、UNIMIB 和 UCI 等四个公共活动数据集上进行了广泛测试，展示了令人印象深刻的活动识别性能。
wearable sensorhuman activity recognitionstate space modelharmambareal-time activity recognition
发现论文，激发创造
  • Motion Mamba: 高效和长序列动作生成与分层和双向选择性 SSM

    提出了一种简单高效的运动生成模型，利用了状态空间模型进行建模，并通过分层时序 Mamba (HTM) 块和双向空间 Mamba (BSM) 块来处理时序和姿态信息，从而实现了高质量、长序列的运动生成和实时人体动作生成。

    Mar, 2024

  • 利用自注意力进行可穿戴传感器数据的人类活动识别

    本文通过基于自注意力机制的神经网络模型，有效地解决了从身体穿戴传感器数据中提取人类活动的空间和时间序列信号依赖性识别的问题，并在四个流行的 HAR 数据集上进行了大量实验，获得了显著的性能改进。

    Mar, 2020

  • SSAMBA：自监督音频表示学习与 Mamba 状态空间模型

    使用自监督方法的 SSAMBA 模型，结合双向 Mamba 的优势，在音频表示学习任务中实现更高的性能和更高的效率。

    May, 2024

  • RSMamba：基于状态空间模型的遥感图像分类

    RSMamba 是基于状态空间模型（SSM）和 Mamba 的高效、硬件感知设计的一种远程感知图像分类的新型架构，它通过动态多路径激活机制增强了模型对非因果数据的建模能力，并在多个远程感知图像分类数据集上展现出卓越的性能，具有成为未来视觉基础模型骨干的潜力。

    Mar, 2024

  • UMSNet: 一种用于人体活动识别的通用多传感器网络

    本文提出了一种适用于人类活动识别的通用多传感器网络（UMSNet），采用了新型轻量级传感器残差块（称为 LSR 块）和 Transformer 来提取序列特征的关系，经过全面实验后，证明在人类活动识别方面优于其他最先进的方法。

    May, 2022

  • 计算效率时代：医学图像分析中状态空间模型的综合调查

    该论文通过对 Mamba 模型在医学图像中的应用进行全面回顾，介绍了该模型的架构、分类和未来研究方向。

    Jun, 2024

  • MambaAD：用于多类无监督异常检测的状态空间模型研究

    应用 Mamba 到多类无监督异常检测，提出了包含预训练编码器和 Mamba 解码器的 MambaAD，通过在多个尺度上引入局部增强状态空间模块 (LSS)，该方法在六个不同的异常检测数据集上展示了具有 SoTA 性能的结果，证实了其有效性。

    Apr, 2024

  • Mamba：具有选择性状态空间的线性时间序列建模

    基于 Transformer 架构的基础模型凭借其核心注意力模块，驱动着深度学习中大部分令人兴奋的应用。我们发现这种模型的一个关键弱点是其无法进行内容导向的推理，并对此进行了改进，通过让结构状态空间模型（SSMs）参数成为输入的函数来解决离散模态的弱点，该模型在长度可选的维度上选择性地传播或遗忘信息，并且通过在递归模式下设计一种硬件感知并行算法，将这些选择性 SSMs 集成到简化的端到端神经网络架构中。该模型（Mamba）具有快速推断速度（比 Transformers 快 5 倍）和序列长度的线性扩展，并在实际数据上对长达百万长度的序列显示出改进。作为一种基于通用序列模型的支持，Mamba 在语言、音频和基因组等多个模态上实现了最先进的性能。在语言建模中，我们的 Mamba-3B 模型在预训练和下游评估中均优于同样大小的 Transformers，与其两倍大小的模型性能相当。

    Dec, 2023

  • PointABM：Point Cloud 分析中融合双向状态空间模型与多头自注意力

    基于状态空间模型（SSM）的 Mamba 与 Transformer 架构相结合的 PointABM 模型，在改善局部特征以提高 3D 点云分析性能方面表现出优越性，并通过引入双向 SSM 框架和自注意机制进一步增强了特征提取能力，实验证明整合 Mamba 与 Transformer 显著提高了 3D 点云分析模型的能力。

    Jun, 2024

  • 使用可穿戴数据的自监督表示进行人类活动识别

    本研究基于一个大规模无标签数据集上学习的自监督表征及浅层多层感知器模型，在未参与训练的真实世界数据集上取得了良好性能，并可通过不同传感器的数据训练，从而实现了设备无关型人体活动识别模型，将有助于增加 HAR 领域中模型评估的标准化。

    Apr, 2023