多变量时间序列的状态空间模型聚合
本文研究关注机制在时间序列预测性能上的作用，提出MTS-Mixers来解决捕获时间和通道互动中的交错和冗余问题，并证明了关注机制不是捕获时间依赖关系的必要条件。
Feb, 2023
提出了一种名为SpaceTime的新型状态空间时间序列体系结构，其通过一种新的SSM参数化基于伴随矩阵来提高表现力，并引入一个“闭环”变化的伴随SSM，使其能够生成自己的逐层输入进行长期预测，同时通过算法实现前向传递的内存和计算效率提高，并在大量不同的基准测试中取得最先进的结果。
Mar, 2023
本文介绍了两种基于状态空间模型（SSM）的时序预测模型，S-Mamba和D-Mamba，它们利用Mamba块提取变量之间的相关性，在节省GPU内存和训练时间的同时实现了卓越的性能，同时通过大量实验比较了Mamba和Transformer在时序预测中的潜力，为该领域探索了新的研究方向。
Mar, 2024
在这篇论文中，我们提出了一种混合框架Mambaformer，该框架在内部结合了Mamba和Transformer架构，用于长短范围的时间序列预测，并通过比较研究表明，Mambaformer系列可以在长短范围的时间序列预测问题中胜过Mamba和Transformer。
Apr, 2024
提出了一种名为Bi-Mamba4TS的双向Mamba模型，通过采用补丁技术丰富了局部信息并精细捕捉时间序列的演化模式，同时结合数据集特征选择更合适的建模方法，实验证明该模型在七个真实数据集上相较于现有方法获得了更准确的预测结果。
Apr, 2024
本文研究了状态空间模型（SSM）的普适性，并提出基于普适性结果改进训练算法的方法。具体地，我们给出了一种依赖数据的SSM普适性界限，展示了SSM参数与训练序列的时间依赖性之间的相互作用。基于该普适性界限，我们（1）建立了一个基于提出的普适性度量的模型初始化缩放规则，显著提高了SSM对序列数据中不同时间模式的输出值尺度的稳健性；（2）引入了一种新的正则化方法来提高SSM的普适性性能。通过数值实验验证了我们的结果。
May, 2024
提出了一种名为C-Mamba的基于状态空间模型的多变量时间序列预测方法，通过混合通道和通道注意力增强的方式来捕捉跨通道依赖关系，获得了在七个真实世界时间序列数据集上的最先进性能，同时其混合和注意力策略在其他框架中表现出强大的泛化能力。
Jun, 2024
本研究针对高维多变量时间序列（MTS）预测中现有通道依赖模型的性能不足问题进行了深入分析，发现主要问题在于无关序列引入的噪声和训练策略的挑战。我们提出了一种新颖的可扩展变换器STHD，结合稀疏关系矩阵、灵活的重索引训练策略和二维输入处理能力，显著提高了在高维数据集上的预测性能。
Aug, 2024
本研究针对深度学习模型在长短期时间序列预测中的局限性，提出了一种新的方法MAT，结合了曼巴模型的长程依赖能力和变压器模型的短程特性。实验证明，MAT在预测准确性、可扩展性和内存效率方面优于现有方法，能够更好地捕捉多变量时间序列中的独特依赖关系和演变模式。
Sep, 2024