本文提出了一个新的自监督多元时间序列异常检测框架，使用图注意力层显式地捕获时间序列之间的关系，并结合预测 和重构的方法来获得更好的时间序列表示，实验结果表明该方法在真实数据集上表现优异且具有良好的可解释性。

Sep, 2020

该论文提出了一种基于自适应图形时空网络和 Transformer 的交叉空间时间注意力机制，在流量预测上的实验结果表明其具有更优秀的性能。

Jul, 2022

我们提出了一种新颖的相关注意力机制，能够高效地捕捉多元时间序列数据中不同特征之间的复杂相互关系，并能够与现有的基于 Transformer 的模型无缝集成，提高效率。在多种任务中，包括插补、异常检测和分类，相关注意力机制与先前的 Transformer 模型相结合，形成了更好的编码器架构，并且取得了先进的结果。

Nov, 2023

通过 Transformer 架构，GridTST 模型将时间序列数据视为网格，结合创新的多方向关注机制，同时考虑时间和变量维度，提升了分析能力，并在各种真实数据集上实现了最先进的性能。

May, 2024

通过提出一种名为 UniTST 的基于 Transformer 的模型，该模型含有统一的关注机制和调度模块，可以直接建模时间序列数据中的复杂依赖关系，并在多个数据集上展现了出色的性能。

Jun, 2024

我们提出了一种方法，将多变量信号表示为图中的节点，通过图神经网络和注意力机制来高效学习时间序列数据中的潜在关系，并建议使用分层信号分解来捕捉多个空间依赖关系，实验证明我们的模型在长期预测任务中优于现有模型，平均均方误差 (MSE) 减少了 23%。

Nov, 2023

本文提出了一种基于时间图的归纳表示学习方法，使用新颖的时间编码技术和自注意力机制，可以对动态网络中的节点分类和链接预测任务进行有效处理，并相对于现有的时空图嵌入方法取得了优秀的效果。

Feb, 2020

该研究提出了一种面向多变量时间序列数据的图神经网络框架，采用图学习模块提取自动生成的变量之间的关系，同时运用新颖的混合传递和膨胀创新层捕捉时间序列中的空间和时间相关性，而这些模块被联合学习在一个端对端框架中。实验结果表明，该模型的性能在 3 个基准数据集上优于现有最先进方法，并在提供额外结构信息的两个交通数据集上实现了与其他方法相当的性能。

May, 2020

本文提出了一种基于 Transformer 的多元时间序列预测和自我监督表征学习的有效设计，它基于两个关键组件：时间序列划分为子序列级别的片段，这些片段作为输入标记传递给 Transformer；通道独立性，其中每个通道包含一个单变量时间序列，其在所有系列中共享相同的嵌入和 Transformer 权重。PatchTST 可以显著提高长期预测准确性，超越 SOTA Transformer-based models，并在自我监督预训练任务中实现出色的微调性能。

Nov, 2022

本文提出了一种基于变压器自编码器的、使用对抗训练方案进行正则化的人工多变量时间序列信号生成方法，通过 t-SNE 可视化、动态时间扭曲（DTW）和熵评分对生成的信号进行评估，结果表明与卷积网络方法相比，生成的信号与示例数据集的相似性更高。

Jan, 2024