本文提出了一种基于数据驱动的、无需使用物理交通流模型或大量模拟数据训练机器学习模型的交通状态估计（TSE）解决方案，将 TSE 视为一个时空矩阵完形填充 / 插值问题，并应用时空延迟嵌入技术将原始不完整矩阵转换为四阶 Hankel 结构张量，通过对张量低秩假设，可以用窗口长度的平衡时空展开的截断核范数近似表示张量秩，具有较强的鲁棒性。该模型仅涉及两个超参数：时空窗口长度，可以根据数据稀疏程度进行设置，实验结果表明该模型在某些具有挑战性的场景中具有很好的鲁棒性。

May, 2021

提出了一种多分辨率时间序列变压器（MTST）框架，采用了多支架构来同时建模不同分辨率的多样化时间模式，通过相对位置编码提取不同尺度上的周期成分，与现有的时间序列变压器相比，在几个真实世界数据集上进行了广泛实验，证明了 MTST 在与最先进的预测技术的比较中的有效性。

Nov, 2023

本文提出了一种基于 Transformer 的多元时间序列预测和自我监督表征学习的有效设计，它基于两个关键组件：时间序列划分为子序列级别的片段，这些片段作为输入标记传递给 Transformer；通道独立性，其中每个通道包含一个单变量时间序列，其在所有系列中共享相同的嵌入和 Transformer 权重。PatchTST 可以显著提高长期预测准确性，超越 SOTA Transformer-based models，并在自我监督预训练任务中实现出色的微调性能。

Nov, 2022

通过使用多尺度层次掩蔽时间序列建模方法，HiMTM 在提升多尺度特征提取能力的同时，通过实验证明其在时间序列预测准确性上具有明显优势，并在天然气需求预测领域得到了有效应用。

Jan, 2024

通过开发一种名为 Modality-aware Transformer 的新型多模态变压器，我们旨在解决多模态时间序列预测的复杂挑战，并在金融数据集上进行了广泛实验，证明其优于现有方法，提供了一种新颖而实用的解决方案。

Oct, 2023

我们提出了一种新颖的基于 MLP 的自适应多尺度分解 (AMD) 框架用于时间序列预测，该框架在多个尺度上将时间序列分解为不同的时间模式，并利用多尺度分解混合 (MDM) 模块将这些模式进行拆分和聚合，通过双重依赖交互 (DDI) 模块和自适应多预测合成 (AMS) 模块有效地建模时间和通道依赖性，并利用自相关性来提炼多尺度数据集成。全面的实验表明，我们的 AMD 框架不仅克服了现有方法的局限性，而且在各种数据集上的长期和短期预测任务中始终取得了最先进的性能，展示了出色的效率。

Jun, 2024

本论文提出了一种名为 SALT 模型的概率模型，用于对具有时间变化动态的系统进行的时间序列分析，并在各种模拟和真实预测任务上表现出优越性。

Jun, 2023

本文提出了一种通用的 MTS 预训练模型 DBT-DMAE，其中包括缺失表示模块，并给出了一个自编码器结构以获得 MTS 的编码表示，最后建立整体馈送和丢失策略以确保模型的充分训练。 实验结果表明，DBT-DMAE 在 6 个真实数据集和 2 个不同的下游任务中均优于其他最先进的方法，并进行了剖析和可解释性实验以验证其有效性。

Sep, 2022

该论文提出了一种新的基于 Masked Autoencoders (MAE) 的自监督预训练方法称为 MTSMAE，利用补丁嵌入的方法处理多元时间序列，实验证明，该方法的性能显著优于目前最好的方法。

Oct, 2022

长期时间序列预测面临处理复杂的时间 - 上下文关系的挑战，因此引入了 ARM 方法，该方法通过 Adaptive Univariate Effect Learning (AUEL)、Random Dropping (RD) 训练策略和 Multi-kernel Local Smoothing (MKLS) 来更好地处理个别时间序列模式并正确学习序列间的依赖关系。ARM 在多个基准测试中表现出优越性能，同时与传统 Transformer 相比，计算成本不显著增加，从而推动了 LTSF 的最新技术进展。

Oct, 2023