多尺度分解 MLP-Mixer 用于时序分析
利用多尺度混合的方法进行时间序列预测,通过提取微观和宏观信息来解决复杂的时间变化,并通过 Past-Decomposable-Mixing (PDM) 和 Future-Multipredictor-Mixing (FMM) 块实现全面的多尺度系列的预测,同时在长期和短期预测任务中取得了一致的最先进性能,并具有良好的运行时效率。
May, 2024
我们提出了一种新颖的基于 MLP 的自适应多尺度分解 (AMD) 框架用于时间序列预测,该框架在多个尺度上将时间序列分解为不同的时间模式,并利用多尺度分解混合 (MDM) 模块将这些模式进行拆分和聚合,通过双重依赖交互 (DDI) 模块和自适应多预测合成 (AMS) 模块有效地建模时间和通道依赖性,并利用自相关性来提炼多尺度数据集成。全面的实验表明,我们的 AMD 框架不仅克服了现有方法的局限性,而且在各种数据集上的长期和短期预测任务中始终取得了最先进的性能,展示了出色的效率。
Jun, 2024
我们的研究通过改进 Transformer 架构,提出了一种基于 Patch 机制和线性层的新型解决方案 PDMLP,用于长期时间序列预测任务,并在多个真实数据集上实现了最先进的结果。
May, 2024
本文研究线性模型在时间序列预测中的能力,提出了一个基于多层感知机的模型 TSMixer,通过在时间和特征维度上的混合操作提取信息。TSMixer 在常见的学术基准测试中表现出和专业模型类似的性能,在真实世界的 M5 基准测试数据集上表现出比先进模型更好的性能。本文的结果强调了有效利用交叉变量和辅助信息以提高时间序列预测性能的重要性,并且预计 TSMixer 的设计范例会为基于深度学习的时间序列预测开启新的视野。
Mar, 2023
通过引入可学习的分解策略和双重注意力模块,该研究论文在多元时间序列预测方面取得了显著进展,并且提出的分解策略可以插入其他方法,大大提升了性能,MSE 误差降低从 11.87% 到 48.56%。
Feb, 2024
这篇论文介绍了一种基于传感器的人体活动识别方法,通过多通道时间序列分解网络(MTSDNet)进行信号分解,学习原始信号的低秩表示,提高模型的域外泛化能力,并通过层注意机制聚合分解得到的组件,来实现最终的分类结果。通过对多个公共数据集的广泛评估,证明了该方法在预测准确性和稳定性方面的优势,具有解释性和分层特性。
Mar, 2024
机器学习和深度学习的快速发展使得在电力系统的电力负荷预测等应用方面取得了广泛的成果。本文提出了一种可解释的深度学习方法,通过学习每个神经网络对输入时间特征进行关注的线性组合来实现。并且,我们提出了多尺度时序分解方法来处理复杂的时间模式。在比利时中央电网负荷数据集上进行了案例研究,结果表明所提出的模型相对于频繁应用的基准模型具有更好的准确性。此外,本方法不仅能展示特征的解释性,还能展示与其他基准方法相比的时间解释性,同时还能获得全局时间特征的解释性,这使得我们能够捕捉到负荷数据的整体模式、趋势和周期性,同时揭示了各种与时间相关的特征在形成最终输出中的重要性。
Feb, 2024
TSMixer 是一个轻量级的神经架构,由多层感知机模块组成,旨在为补丁时间序列提供高效的替代转换器。通过添加在线对账头,混合通道建模和简单的门控关注机制等组件,TSMixer 的学习能力得到显著提高。TSMixer 在预测方面的性能优于现有的 MLP 和 Transformer 模型,同时可显著减少存储器和运行时间。
Jun, 2023
本研究提出了一种基于分解的统一预测框架 ——LSTM-MSNet,用于预测具有多个季节性模式的时间序列数据。通过结合一系列最先进的多季节性分解技术,我们在来自不同数据源的数据集上进行了实验并展示了 LSTM-MSNet 的优势,同时也发现在单一应用程序的均质系列数据中,外生季节变量或没有季节性预处理是更好的选择。
Sep, 2019
本文提出了 MultiWave 框架,采用小波分解对多变量时间序列数据进行频率分组,并结合门控机制来提高各种深度学习模型的性能。多个实验表明,MultiWave 可以准确地识别信息丰富的频率带,提高模型性能,并提供有价值的应用见解。
Jun, 2023