时域多尺度稀疏自注意力在体能活动数据填补中的应用
穿戴设备中的缺失数据填充问题的研究，通过比较表示学习和统计方法，发现变化频繁的信号可以使用 Transformer 模型进行更准确的填充，为解决穿戴设备中的数据缺失问题提供了启示。
Jan, 2024
本文通过基于自注意力机制的神经网络模型，有效地解决了从身体穿戴传感器数据中提取人类活动的空间和时间序列信号依赖性识别的问题，并在四个流行的 HAR 数据集上进行了大量实验，获得了显著的性能改进。
Mar, 2020
本文研究如何在时间稀疏的数据上直接使用深度学习模型进行活动识别，并从老年人的多个真实数据集中，通过学习活动特征空间，得出相比于现有模型有显著分类性能提升的结论。
Jun, 2019
利用可穿戴设备进行动作重建已成为一种经济且可行的技术，在稀疏的惯性测量单元（IMUs）数据上建立人体姿势模型存在着困扰，本文通过多传感器的空间重要性和文本描述的监督引入不确定性来获取每个 IMU 的加权特征，并设计了一种层次时间变换器（HTT）和对比学习来实现传感器数据与文本语义的精确时间和特征对齐。实验证明我们的方法在多个指标上相比现有方法有显著改进，尤其是在文本监督下，我们的方法不仅能区分诸如坐下和站起之类的模糊动作，还能产生更精确和自然的动作。
Dec, 2023
本论文利用自我关注机制来处理多元、地理标记的时间序列数据中的缺失值，并通过跨维度自我关注 (CDSA) 的新方法，提出了一种具有低计算复杂度的序列建模算法，超越了现有的标准预测和补全方法。
May, 2019
本文提出了一种深度神经网络架构，利用自关注机制从多传感器时间序列数据中选择和学习重要时间点，以更好地解码人体活动，并在六个公共数据集上验证了该方法的有效性。
May, 2020
这项研究提出了一种新颖的方法来解决多元时间序列中缺失数据的挑战，特别关注医疗数据的复杂性。我们的条件自注意力填补模型（CSAI），基于变换器框架，引入了针对医学时间序列数据的条件隐藏状态初始化。此方法与传统填补技术不同之处在于专门针对医疗数据集中经常被忽视的缺失数据分布的不平衡进行调整。通过整合先进的知识嵌入和非均匀掩蔽策略，CSAI 能够灵活调整至电子病历中缺失数据的独特模式。
Dec, 2023
我们提出了一种使用弱监督多输出连体网络的方法，该方法能够学习将数据映射到多个表示空间上，从而能够同时解决多个任务，并在许多情况下胜过单任务监督方法。
Aug, 2023