用于多模态人类活动识别的蒸馏中融合 Transformer 网络

May, 2023

用于多模态人类活动识别的蒸馏中融合 Transformer 网络

Distilled Mid-Fusion Transformer Networks for Multi-Modal Human Activity Recognition

Jingcheng Li, Lina Yao, Binghao Li, Claude Sammut

TL;DR本文提出了一种基于知识蒸馏的多模态中融合方法，即 DMFT，以在多模态人类活动识别任务中进行信息特征提取和融合，解决深度学习方法无法充分探索跨多模态信息融合的问题，并通过评估表明该方法在有效性，可扩展性和鲁棒性方面均取得了有竞争力的表现。

Abstract

human activity recognition is an important task in many human-computer collaborative scenarios, whilst having various practical applications. Although uni-modal approaches have been extensively studied, they suffer from data quality and require modality-specific feature engineering, th

human activity recognition multi-modal deep learning knowledge distillation spatial-temporal features

发现论文，激发创造

基于传感器的人体动作识别的多视角融合变压器

本文介绍了一种新方法，即多视图融合变压器（MVFT），通过编码时间视图、频繁视图和统计视图来生成多视图特征，并提出一种新的注意机制以揭示细节关系建模。实验表明，该方法比几种最先进的方法更优异。

Feb, 2022

使用参数优化的多阶段图卷积网络和 Transformer 模型进行人类活动识别的特征融合

使用深度学习模型（如卷积神经网络和 Transformer）进行人类活动识别，研究表明特征融合对于改善活动识别系统的准确性和稳健性具有重要意义。使用 HuGaDB、PKU-MMD、LARa 和 TUG 数据集，PO-MS-GCN 和 Transformer 模型在准确性上进行了训练和评估，PO-MS-GCN 模型在效果上优于其他先进模型，并且特征融合在不同数据集上改善了结果。

Jun, 2024

从 CNN 到 Transformers 的多模态人体动作识别：一项调查

多模态人体动作识别的综述研究，重点关注多模态数据融合设计方面的经典和新兴技术，分析了卷积神经网络和 Transformer 建模方法在该问题上的流行趋势和更高效的模型设计选择，并讨论了实践模型训练中的有前景的架构和融合设计选择，以及多模态数据集的规模和评估视角，提出了多模态人体动作识别的挑战与未来发展方向。

May, 2024

MuJo：人体活动识别的多模态联合特征空间学习

通过多模态对比预训练方法 MuJo，利用视频、语言、姿势和 IMU 传感器数据，改善了不同模态下的人类活动识别性能，在 MM-Fit 数据集上达到了令人印象深刻的宏平均 F1-Score 为 0.992 和 0.999 的分类效果，同时展示了最高达 0.638 的泛化性能。

Jun, 2024

FedOpenHAR：传感器基于的人体活动识别的联邦多任务迁移学习

该研究论文探讨了在多任务环境下的联邦迁移学习，用于基于传感器的人体活动识别和设备位置识别任务，并通过使用 OpenHAR 框架和 DeepConvLSTM 结构在联邦学习环境中进行了多个实验，结果显示相比个别客户端训练和完全集中化方法，利用迁移学习和训练的任务特定及个性化的联邦模型可以获得类似的准确性并且更高的准确性。

Nov, 2023

多智能体注意力活动识别

通过多智能体空间时间关注模型，智能选择观测到的信息和关联的运动方式来完成并优化活动识别任务。在四种真实世界数据集上的实验结果表明，该模型优于现有的方法。

May, 2019

基于视觉与惯性传感器数据的新型二流决策级融合技术，用于自动多模态人类活动识别系统

本文提出了一种新颖的多模态人体活动识别系统，并使用了两种流的决策级融合来融合视觉和惯性传感器的信息，通过此方法准确率远高于现有的最先进方法。

Jun, 2023

统一对比融合变压器用于多模态人类动作识别

提出了一种新的多模态融合架构 UCFFormer，它能够整合具有不同分布的数据以增强人类动作识别 (HAR) 的性能；通过使用统一 Transformer 来捕捉嵌入特征在时间和模态领域之间的相互依赖关系，并引入了分解的时间 - 模态注意力来高效执行自注意力，在各种模态之间减少特征分布上的差异，从而生成在语义上对齐的特征进行信息融合；在 UTD-MHAD 和 NTU RGB+D 两个流行数据集上进行的性能评估表明，UCFFormer 通过显著的优势超越竞争方法，实现了最先进的性能。

Sep, 2023

可穿戴活动识别的单模态和多模态传感器融合

综合不同的感知模态与多个位置有助于形成对人类行为等复杂情况的统一感知和理解，因此，人类活动识别受益于综合冗余和互补信息（单模态 / 多模态）。然而，这并不是一项容易的任务，它需要多学科的方法，包括传感器技术、信号处理、数据融合算法和领域特定知识。本博士研究使用惯性、压力（音频和大气压力）和纺织电容感应等感知模型进行人类活动识别。所探索的场景包括手势和手部位置跟踪、面部和头部模式识别以及身体姿势和手势识别。所选择的可穿戴设备和感知模型完全集成了基于机器学习的算法，其中一些实现在嵌入式设备上，并在实时环境中进行了测试。

Apr, 2024

多模态 Transformer 网络用于动作检测

本文提出了一种新的多模态转换器网络，用于检测未修剪视频中的动作，利用新的多模态注意机制计算不同空间和动态模态组合之间的相关性，并提出一种算法来纠正相机运动引起的动态变形，该算法在 THUMOS14 和 ActivityNet 两个公共基准测试上优于现有方法，在我们的新教育活动数据集上进行了比较实验，该数据集包括从小学捕捉的大量具有挑战性的课堂视频。

May, 2023