无监督时间序列表示学习与时空邻域编码

ICLRJun, 2021

无监督时间序列表示学习与时空邻域编码

Unsupervised Representation Learning for Time Series with Temporal Neighborhood Coding

Sana Tonekaboni, Danny Eytan, Anna Goldenberg

TL;DR本文提出了一种自监督学习框架 (Temporal Neighborhood Coding)，用于学习非平稳时间序列的可泛化表示，通过利用信号生成过程的局部平滑性定义时间上具有稳定性的邻域，使用无偏差对比目标，通过确保在编码空间中，邻域内的信号分布可与非邻域内的信号分布区分来学习时间序列表示，并在分类和聚类任务上表现出卓越的性能。

Abstract

time series are often complex and rich in information but sparsely labeled and therefore challenging to model. In this paper, we propose a self-supervised framework for learning generalizable representations for non-sta

time series self-supervised learning non-stationary temporal neighborhood coding medical data

发现论文，激发创造

通过本地对齐分布式表示进行循环神经网络的持续学习

本文提出了一种基于局部表示对齐算法训练的并行时间神经编码网络 (P-TNCN)，用以解决通过时间反向传播所存在的困难和问题，比如序列建模基准测试中表现优异，具有零 - shot 适应能力和在线连续序列建模的能力。

Oct, 2018

时间序列的自学习特征提取

时间序列上的自我监督学习能够使得类似于自然语言处理和计算机视觉领域中最近释放的潜力发挥出来。通过使用基于 data2vec 自蒸馏框架的一个概念上简单而强大的非对比度方法，我们的方法展示了在分类和预测等下游任务上与 UCR、UEA 和 ETT 以及 Electricity 数据集上的最先进的自我监督学习方法相比的竞争力。

Nov, 2023

时间序列表示学习：基于时间和上下文对比的方法

本文提出了一种通过时间和语境对比（TS-TCC）的无监督时间序列表示学习框架，该框架可从未标记数据中学习时间序列表示，其中包括弱和强扩充转换的两个不同但相关的视图，并提出了一种新的时间对比模块和一个上下文对比模块来学习稳健的时间表示和判别性表示。

Jun, 2021

高效神经常见邻居用于时间图链接预测

我们提出了 TNCN，这是 NCN 的一个时间版本，用于预测时间图中的链接，并使用多跳公共邻居来学习更有效的成对表示。我们在五个大规模真实世界数据集上验证了我们的模型，并发现它在其中三个上实现了最新的最先进表现。此外，TNCN 在处理大型数据集上表现出了出色的可扩展性，在速度上超过了流行的 GNN 基线最多 6.4 倍。

Jun, 2024

面向自适应邻域的时序交互图建模

在这篇论文中，我们通过引入自适应邻域编码机制来增强现有的时态图神经网络 (TGNs)，提出了 SEAN 模型，该模型可以无缝集成到现有的 TGNs 中，有效提升其性能。具体而言，该模型通过代表性邻居选择和时态感知邻域信息聚合两个阶段，实现自适应邻域编码的过程，从而在聚合过程中灵活利用重要的邻居信息，并适应性地选择和衰减过时信息，取得了出色的性能提升。我们在四个公共数据集和一个金融基准数据集上将 SEAN 与三种代表性 TGNs 进行了集成，并进行了大量的实验证明，SEAN 可以在所有模型上持续提高性能，达到顶级水平并具有出色的稳健性。

Jun, 2024

多任务自监督时间序列表示学习

本文提出了一种新的时间序列表示学习方法，通过自监督任务的上下文、时间和转换一致性，结合不确定性加权方法，实现了多任务学习和跨领域传递学习，进而在时间序列分类、预测和异常检测等下游任务中取得了更好表现。

Mar, 2023

基于邻域感知的可扩展时序网络表示学习

该研究提出一种邻域感知的时间网络模型，使用一种新颖的字典类型邻域表示方法，设计了一种数据结构支持字典表示在 GPU 上并行访问和更新，通过实验表明，该模型在节点链接预测准确性（对于在归纳和传递方式下）优于最先进的基线方法，可以实现该特征的速度提升，并可扩展到多个实际大规模时间网络中。

Sep, 2022

面向时间序列的通用神经网络编码器

该研究探讨了使用时间序列编码器学习适用于其未经训练的数据集类型的表示，性能优越，适应性强，可用于处理标记稀疏或未标记的时间序列数据，并通过卷积神经网络和注意机制等多种方法使其性能更加优异。

May, 2018

多维时序数据无监督可扩展表征学习

通过一种无监督方法，提出了在长度和标签稀疏性方面都很具有可扩展性的编码器，通过时间负采样的三元损失组合将其与基于因果膨胀卷积的编码器结合，用于生成变长时间序列的通用表示，表现出了良好的质量、可转移性和实用性。

Jan, 2019

自监督时空数据的时间分析

通过自我监督学习方法，将地理空间活动时间序列转化成任务无关的时间嵌入表示，然后使用深度语义分割，将这些嵌入转换成用于下游任务的基于图像通道的表示，实现对住宅区和商业区等不同类型用地的分类。

Apr, 2023