提升 BizITOps 数据的多变量时间序列预测的自动混合器
本文研究线性模型在时间序列预测中的能力,提出了一个基于多层感知机的模型 TSMixer,通过在时间和特征维度上的混合操作提取信息。TSMixer 在常见的学术基准测试中表现出和专业模型类似的性能,在真实世界的 M5 基准测试数据集上表现出比先进模型更好的性能。本文的结果强调了有效利用交叉变量和辅助信息以提高时间序列预测性能的重要性,并且预计 TSMixer 的设计范例会为基于深度学习的时间序列预测开启新的视野。
Mar, 2023
TSMixer 是一个轻量级的神经架构,由多层感知机模块组成,旨在为补丁时间序列提供高效的替代转换器。通过添加在线对账头,混合通道建模和简单的门控关注机制等组件,TSMixer 的学习能力得到显著提高。TSMixer 在预测方面的性能优于现有的 MLP 和 Transformer 模型,同时可显著减少存储器和运行时间。
Jun, 2023
本文研究关注机制在时间序列预测性能上的作用,提出 MTS-Mixers 来解决捕获时间和通道互动中的交错和冗余问题,并证明了关注机制不是捕获时间依赖关系的必要条件。
Feb, 2023
基于全 MLP 框架,WindowMixer 模型通过窗口视角检查时间序列的时间变化,将时间序列分解为趋势和季节性组件,并使用 Intra-Window-Mixer 和 Inter-Window-Mixer 模块处理窗口间和窗口内的关系,从而捕捉数据中的复杂模式和长期依赖关系,实验证明 WindowMixer 在长期和短期预测任务中始终优于现有方法。
Jun, 2024
auto-sktime 是一个自动化的时间序列预测框架,利用自动机器学习技术来自动构建整个预测流程,针对时间序列数据提出了三项改进,实验结果显示了它的有效性和效率。
Dec, 2023
基于 Mixed Channels 策略,本文提出了 MCformer 作为一种混合通道特征的多变量时间序列预测模型,通过注意力机制有效捕捉了通道间相关信息从而在多变量时间序列预测任务中胜过了纯 CI 策略。
Mar, 2024
利用多尺度混合的方法进行时间序列预测,通过提取微观和宏观信息来解决复杂的时间变化,并通过 Past-Decomposable-Mixing (PDM) 和 Future-Multipredictor-Mixing (FMM) 块实现全面的多尺度系列的预测,同时在长期和短期预测任务中取得了一致的最先进性能,并具有良好的运行时效率。
May, 2024
利用预训练模型进行时间序列预测方面的研究,提出了 Multi-level Tiny Time Mixers(TTM)方法,通过小型模型、自适应补丁、数据增强和分辨率前缀调整来有效地模拟跨通道相关性和整合外部信号,实现了显著的准确性提升和参数规模大幅减小。
Jan, 2024
通过结合 Unet 和 Mixer 的方法,U-Mixer 框架能够有效地捕捉不同补丁和通道之间的局部时间依赖关系,以避免通道之间分布变化的影响,并合并低级别和高级别特征以获取全面的数据表示,从而解决时间序列预测中的非平稳性挑战。该研究通过在多个实际时间序列数据集上进行广泛实验,证明了 U-Mixer 方法的有效性和鲁棒性,并在性能上超过了最先进的方法 14.5% 和 7.7%。
Jan, 2024
通过引入 Cross-variable Decorrelation Aware feature Modeling (CDAM) 和 Temporal correlation Aware Modeling (TAM) 技术,本研究提出了一种新的框架,通过最小化通道之间的冗余信息并增强相关的相互信息来改进 Channel-mixing 方法,在综合测试中明显超过了现有模型。
Mar, 2024