Mar, 2019

基于分层注意力时序卷积网络的医疗时间序列分类：肌强直症诊断案例研究

PDF
TL;DR本文介绍了一种层次化的基于注意力机制的时间卷积神经网络 (HA-TCN)，能够从手握时间序列数据中准确诊断肌无力症，并且具有模型可解释性等优点。在分类准确率和 F1 分数方面，我们发现所有深度学习模型的性能都相似，而它们都优于 SVM。此外，与网络深度无关，HA-TCN 模型在计算效率和性能方面都优于 TCN 模型，特别是在隐藏层数较少的情况下。最后，HA-TCN 模型可以一致地识别与松弛阶段有关的时间序列段，并且与基于注意力机制的 LSTM 模型相比具有更强的噪声鲁棒性。
发现论文，激发创造
  • 可解释的基于时态卷积网络的 3D 人体动作分析

    本文提出了一种使用新型解释性模型 TCN 进行 3D 人体动作识别任务的方法 Res-TCN，并在最大的 3D 人体动作识别数据集 NTU-RGBD 上取得了最新的成果。

    Apr, 2017

  • NAC-TCN: 基于因果稀疏邻域注意力的时序卷积网络用于情感理解

    视频情感识别是通过一系列方法如 GRUs、LSTMs、自注意力机制、Transformers 和 TCNs 改善了基于视频情感识别，然而这些方法存在内存使用高、操作量大或梯度下降不良的问题。我们提出了一种称为邻域注意力与卷积 TCN（NAC-TCN）的方法，它结合了注意力和时序卷积网络的优点，并确保理解因果关系，从而减少计算和内存成本。我们的模型在标准的情感识别数据集上比 TCNs、TCAN、LSTMs 和 GRUs 取得了相当好或最先进的性能，并且需要较少的参数。我们在线发布了我们的代码，以便其他项目能够轻松复现和使用。

    Dec, 2023

  • 使用注意力模型进行临床时间序列分析

    该论文针对临床时间序列数据，采用注意力机制代替循环神经网络，提出了一种新的架构 SAnD（Simply Attend and Diagnose），并证明该方法在多项诊断任务中表现优异，胜过 LSTM 模型和基于手工特征的经典基线模型。

    Nov, 2017

  • 时间序列分类的多尺度卷积神经网络

    提出了一种基于多尺度卷积神经网络的时间序列分类模型，该模型将特征提取和分类集成在一个框架中，具有较高的准确性和计算效率，并在大量基准数据集上进行了全面的实证评估，取得了优于其他先进方法的性能。

    Mar, 2016

  • 基于并行时空注意力的 TCN 模型用于多元时间序列预测

    该论文介绍了一种新的框架 PSTA-TCN，该框架将并行时空关注机制与轴承温网络相结合，从而达到了更长的记忆，并且使用并行计算大大缩短了训练时间，可以更好地用于多元时间序列预测任务。

    Mar, 2022

  • 基于时间卷积关注的序列模型网络

    我们提出了一种基于时间卷积网络和注意力机制的探索性架构称为 TCAN，它不仅能够实现递归网络的近似替代，还可以吸收前向模型的优势，提高了 word-level PTB、character-level PTB 和 WikiText-2 等文本数据集的 bpc/perplexity 表现.

    Feb, 2020

  • TodyNet：用于多元时序分类的时间动态图神经网络

    提出了一种新的基于深度学习的多元时间序列分类 (TodyNet) 方法，该方法可以提取隐含的时空依赖关系，通过动态图机制捕获不同时间段之间的关联，同时可利用可学习的时间参数获取全局图级表示，实现了端到端的联合学习，实验结果表明，该方法在 MTSC 任务中优于现有深度学习方法。

    Apr, 2023

  • 简化模型的卷积神经网络用于音标恢复

    本文研究比较了常用的双向 LSTM 和新型的 Acausal TCN 模型在阿拉伯语、约鲁巴语和越南语标音任务上的表现，研究结果表明 A-TCN 模型不仅表现优越，而且在运行速度上也更有效率。

    Dec, 2019

  • 用于动作分割和检测的时序卷积网络

    介绍了一种新的 Temporal Convolutional Networks 模型，可用于对视频中动作的细粒度分割和检测，具有高效性和良好的表现。

    Nov, 2016

  • 用于动态推荐系统的分层时间卷积网络

    本研究提出了一种使用 Hierarchical Temporal Convolutional Networks (HierTCN) 的推荐系统，以动态预测用户将选择的下一个物品，该模型由两个级别的模型组成，可用于拥有大量用户和物品的 Web 规模系统，并可以超越动态推荐方法的最新水平。

    Apr, 2019