ICLROct, 2023

T-Rep: 利用时间嵌入进行时间序列的表示学习

PDF
TL;DR多变量时间序列的自我监督学习方法 T-Rep 能够学习时间序列的表示，并提取出趋势、周期性、分布变化等时间特征。在分类、预测和异常检测任务中，T-Rep 表现优于现有的自我监督学习算法，并在处理缺失数据时表现更强韧。此外，通过潜空间可视化实验证明了学到的表示的可解释性。
发现论文，激发创造
  • 多维时序数据无监督可扩展表征学习

    通过一种无监督方法，提出了在长度和标签稀疏性方面都很具有可扩展性的编码器，通过时间负采样的三元损失组合将其与基于因果膨胀卷积的编码器结合，用于生成变长时间序列的通用表示，表现出了良好的质量、可转移性和实用性。

    Jan, 2019

  • 时间序列表示模型

    我们提出了一种基于内省的时间序列分析的新架构概念，其中关键是自监督预训练的时间序列表示模型（TSRM），可以在自动化和资源高效的方式下进行定制和微调，以实现特定任务，如预测和插补。我们的架构通过灵活和分层的表示学习过程对抗缺失数据和异常值，能够捕捉和学习给定时间序列类别（如心率数据）的结构、语义和关键模式的本地和全局特征。与现有方法相比，我们的架构提高了插补和预测误差，分别高达 90.34％和 71.54％，同时减少了可训练参数高达 92.43％。

    May, 2024

  • 时间序列的自学习特征提取

    时间序列上的自我监督学习能够使得类似于自然语言处理和计算机视觉领域中最近释放的潜力发挥出来。通过使用基于 data2vec 自蒸馏框架的一个概念上简单而强大的非对比度方法，我们的方法展示了在分类和预测等下游任务上与 UCR、UEA 和 ETT 以及 Electricity 数据集上的最先进的自我监督学习方法相比的竞争力。

    Nov, 2023

  • 基于 Transformer 的多变量时间序列表示学习框架

    本文提出了一种基于 transformer 的无监督多元时间序列表示学习框架，可以应用于回归、分类、预测和缺失值插补等下游任务，并通过多项基准数据集的测试实验证明了该方法的优越性和效率。同时表明，与监督学习方法相比，该方法在样本有限、计算加速方面具有明显优势，未标注数据的无监督预训练可以改善模型性能。

    Oct, 2020

  • 通用时间序列表示学习调查

    使用深度学习从时间序列数据中提取隐藏模式和特征的研究现状和未来发展方向的综述。

    Jan, 2024

  • TS2Vec：面向时间序列的通用表示

    本文介绍了 TS2Vec，它是一种用于在任意语义级别学习时间序列表示的通用框架。通过对增强的上下文视图进行分层对比学习，TS2Vec 能够为每个时间戳提供强大的上下文表示，并通过简单的聚合来获得时间序列任意子序列的表示，通过实验评估表明，TS2Vec 在时间序列分类、时间序列预测和异常检测任务中具有良好的性能。

    Jun, 2021

  • 时间序列的无监督表示学习综述

    无监督时间序列数据表示学习方法的文献综述及开放性研究挑战的综合分析，通过统一标准化库对其进行了实证评估，并讨论了实际考虑因素和未来研究方向。

    Aug, 2023

  • TimeDRL：多变量时序数据的解缠结表示学习

    TimeDRL 是一个通用的多变量时间序列表示学习框架，通过解耦的双层嵌入技术，利用预测和对比损失来学习时间戳级别和实例级别的嵌入，避免了数据增强方法引起的归纳偏差，并在多个实验中表现出优于现有方法的性能。

    Dec, 2023

  • 自监督视频表示学习中的时间粒度探索

    该研究提出了一种名为 TeG 的自监督学习框架来探索学习视频表示中的时间粒度，其在 8 个视频基准测试中显示出了超越有监督预训练的最新成果。

    Dec, 2021

  • 基于表示学习的时间序列分类自动标注生成：降低训练标注成本

    本研究提出了一种使用编码器来自动生成未标记时间序列标签的方法，该方法通过学习潜在结构进行自我纠正并使用变分自动编码器来改善标签的质量，实验结果证明该方法接近于全面监督分类的性能水平并在某些情况下表现更好。

    Jul, 2021