MSegRNN:基于Mamba的增强SegRNN模型用于长期时间序列预测
RNN domain prominence has declined in Long-term Time Series Forecasting due to limitations with long look-back windows and forecast horizons, but the proposed SegRNN strategy improves forecast accuracy and inference speed, outperforming Transformer-based models while reducing runtime and memory usage.
Aug, 2023
为了支持机器学习方法在预测时间序列数据方面的进展,我们提供了一个专门设计用于长期时间序列预测的全面数据集。我们将从不同的动态系统和真实记录中获取的一系列数据集进行了标准化,每个数据集都被分成了训练和测试轨迹,并设定了预定的回溯长度。通过对经典和先进的模型(即LSTM,DeepAR,NLinear,N-Hits,PatchTST,和LatentODE)进行广泛的基准分析,我们确定在不同场景中最有效的模型。我们的研究结果显示出这些模型之间有着有趣的性能比较,突显了模型效果与数据集有关的特性。值得注意的是,我们引入了一个定制的latent NLinear模型并且通过课程学习阶段提高了DeepAR的性能,它们在效果上始终优于其原始版本。
Sep, 2023
提出了一种名为SutraNets的新方法,用于神经概率预测长序列时间序列。SutraNets使用自回归生成模型将长序列的可能性因子分解为条件概率的乘积。在生成长序列时,大多数自回归方法会遭受有害错误积累以及对建模长距离依赖关系的挑战。SutraNets将长期的单变量预测视为低频子序列上的多元预测。自回归方式在时间和子序列之间进行,以确保一致的多元(因此也是高频的单变量)输出。由于子序列可以使用较少的步骤生成,SutraNets有效减少了错误积累和信号路径距离。实验证明SutraNets在六个真实世界数据集上显著提高了预测准确性,包括在变化子序列数量以及加大底层序列模型的深度和宽度的情况下。
Dec, 2023
TimeMachine是一种创新的模型,利用Mamba作为状态空间模型来捕捉多变量时间序列数据中的长期依赖关系,同时具有线性可扩展性和小内存占用。TimeMachine利用时间序列数据的独特属性,在多个尺度上生成显著的上下文提示,并利用一种创新的集成四重-Mamba架构统一处理混合通道和独立通道情况,从而在不同尺度上以全局和局部上下文的方式对内容进行有效选择以进行预测。实验结果表明,TimeMachine在预测准确性、可扩展性和内存效率方面表现出优异的性能,已在基准数据集上进行了广泛验证。
Mar, 2024
在这篇论文中,我们提出了一种混合框架Mambaformer,该框架在内部结合了Mamba和Transformer架构,用于长短范围的时间序列预测,并通过比较研究表明,Mambaformer系列可以在长短范围的时间序列预测问题中胜过Mamba和Transformer。
Apr, 2024
提出了一种名为Bi-Mamba4TS的双向Mamba模型,通过采用补丁技术丰富了局部信息并精细捕捉时间序列的演化模式,同时结合数据集特征选择更合适的建模方法,实验证明该模型在七个真实数据集上相较于现有方法获得了更准确的预测结果。
Apr, 2024
提出了一种名为C-Mamba的基于状态空间模型的多变量时间序列预测方法,通过混合通道和通道注意力增强的方式来捕捉跨通道依赖关系,获得了在七个真实世界时间序列数据集上的最先进性能,同时其混合和注意力策略在其他框架中表现出强大的泛化能力。
Jun, 2024
该研究解决了长期时间序列预测中难以同时考虑顺序和语义依赖的问题。论文提出了一种简化的Mamba模型,通过消除非线性激活和引入解耦依赖编码策略,显著提高了对交叉变量依赖的建模能力。实验结果显示,其在七个真实数据集上的预测性能优于现有模型,具有重要的应用价值。
Aug, 2024
本研究针对深度学习模型在长短期时间序列预测中的局限性,提出了一种新的方法MAT,结合了曼巴模型的长程依赖能力和变压器模型的短程特性。实验证明,MAT在预测准确性、可扩展性和内存效率方面优于现有方法,能够更好地捕捉多变量时间序列中的独特依赖关系和演变模式。
Sep, 2024
本研究解决了RNN在捕捉长期依赖关系方面的局限,提出了一种新范式并行门控网络(PGN)。通过历史信息提取层,PGN显著缩短信息传播路径,结合时间建模框架TPGN,展现出卓越的性能和高效率,尤其在长范围时间序列预测任务中,取得了最新的最佳结果。
Sep, 2024