应对分布变化的时间序列预测中的多尺度演化归一化
本文提出自适应循环神经网络(AdaRNN)来解决时间序列的分布漂移问题,并通过两个新算法来建立自适应模型。AdaRNN是一个通用的框架,它集成了灵活的分布距离。实验表明,AdaRNN在人类活动识别、空气质量预测和金融分析方面的表现优于最新的方法,并且能够显著降低均方根误差(RMSE)并提高性能。
Aug, 2021
本文提出 Dish-TS,一种用于缓解时序预测中分布漂移的神经范式,包括对输入和输出窗口进行分离学习和更有效的训练策略,实验证明其能够在多个数据集上带来平均超过 20% 的性能提升。
Feb, 2023
近年来,我们见证了将Transformers引入时间序列预测的成功。我们在数据生成的角度上阐述了现有的Transformers对于由时间上下文驱动的分布变化容易受到影响,不论是已观测到还是未观测到的。本文介绍了一种普适的校准方法,用于检测和调整训练过的Transformer模型中的上下文驱动分布变化。我们提出了一种新颖的CDS检测器——“基于残差的CDS检测器”或“Reconditionor”,通过评估预测残差与其对应上下文之间的互信息,量化模型对于CDS的脆弱性。高Reconditionor分数表示严重易受影响,因此需要模型调整。在这种情况下,我们提出了一个简单但有效的模型校准框架——“样本级上下文适配器”或“SOLID”。该框架涉及对于提供的测试样本进行上下文相似数据集的策划,并通过有限步骤对模型的预测层进行微调。我们的理论分析表明,该调整策略能够在偏差和方差之间实现最佳平衡。值得注意的是,我们提出的Reconditionor和SOLID适用于各种Transformers,并且易于调整。大量实验证明SOLID持续增强了当前真实世界数据集上最先进的Transformers的性能,特别是在由提出的Reconditionor检测到的具有实质性CDS的情况下,从而验证了校准方法的有效性。
Oct, 2023
FCDNet是一个简洁而有效的框架,通过两个轻量级依赖构造器,从多层频率模式中自适应地提取长期和短期依赖信息,从而克服了先前方法所面临的限制,并显著超过强基线,平均改进了MAE的6.82%、RMSE的4.98%和MAPE的4.91%。
Dec, 2023
本文提出了一种新的时间序列预测方法,通过解决分布转移问题以及采用解耦的公式,并在联合学习变换和预测的基础上,利用instance normalization flows实现时间序列的转换。通过广泛实验验证,在合成和实际数据上,我们的方法始终优于现有基线算法。
Jan, 2024
我们提出了一种新颖的基于MLP的自适应多尺度分解 (AMD) 框架用于时间序列预测,该框架在多个尺度上将时间序列分解为不同的时间模式,并利用多尺度分解混合 (MDM) 模块将这些模式进行拆分和聚合,通过双重依赖交互 (DDI) 模块和自适应多预测合成 (AMS) 模块有效地建模时间和通道依赖性,并利用自相关性来提炼多尺度数据集成。全面的实验表明,我们的AMD框架不仅克服了现有方法的局限性,而且在各种数据集上的长期和短期预测任务中始终取得了最先进的性能,展示了出色的效率。
Jun, 2024
为了解决长期时间序列预测中的依赖性问题,本研究提出了一种名为Frequency Dynamic Fusion(FreDF)的方法,该方法利用Fourier分析来捕捉不同频率下的时间序列模式,并动态地融合预测结果。通过广泛实验和消融研究,证明了FreDF在多个基准数据集上的有效性,并提供了时间序列预测的泛化能力的界限。
Jul, 2024
通过使用Probabilistic Graphical Model和JointPGM,本文解决了非平稳MTS预测中的分布变化问题,并实现了最先进的预测性能。
Jul, 2024
本文针对非平稳时间序列预测中的趋势和季节模式变化提出了新的解决方案,名为频率自适应归一化(FAN)。此方法通过傅里叶变换识别主要频率成分,有效处理动态趋势和季节模式,显著提高了预测精度,在多个基准数据集中平均提升7.76%到37.90%的均方误差(MSE)。
Sep, 2024
本研究解决了现有归一化方法在时域操作时未能充分捕捉频域动态模式的问题。我们提出的FredNormer通过从频率角度观察数据集并自适应加权关键频率成分,显著提高了预测性能。实验结果显示,FredNormer在多项设置中超越了传统归一化方法,平均降低了模型的均方误差。
Oct, 2024