May, 2024

FTMixer：时间序列建模的频率和时域表示融合

PDF
TL;DR为了捕捉局部和全局依赖关系，我们在频域和时域中引入了频域与时域混合器 (FTMixer) 来表示时间序列数据，通过频率通道卷积模块 (FCC) 和窗口频率卷积模块 (WFC) 来分别捕捉全局和局部依赖关系。同时，采用独立通道方案混合时域和频域补丁以更好地捕捉局部依赖关系。通过七个真实世界的长期时间序列数据集的广泛实验结果表明，FTMixer 在预测性能和计算效率方面具有优势。
time series datafrequency domaindependenciesftmixerforecasting performance
发现论文，激发创造
  • ATFNet：自适应时频集成网络用于长期时间序列预测

    ATFNet 框架是一种创新性的方法，结合了时间域模块和频率域模块，可以同时捕捉时间序列数据中的局部和全局依赖关系，并在长期时间序列预测方面超越了当前最先进的方法。

    Apr, 2024

  • 多元时序预测的联合时频域变换器

    该研究提出了一种联合时频域变压器模型 (JTFT) 进行多元预测的方法，其中使用少量可学习的频率，利用时间序列在频域中的稀疏性来有效提取时间依赖关系，并且 JTFT 通过在时域中直接编码最近的数据点来增强局部关系的学习能力和减轻不稳定性的不利影响，该方法线性复杂度，同时采用低秩注意层来高效捕获跨维度依赖关系并提高模型性能，实验证明 JTFT 优于现有的方法。

    May, 2023

  • TFDMNet：一种将时间域和频率域特征结合的新型网络结构

    本文提出了一种新的基于频域训练的元素逐位乘法层（EML），用于替代卷积层，并引入了权重固定机制以缓解过拟合问题。同时，分析了批量归一化和丢弃机制在频域中的工作行为。为了在计算复杂度和内存使用之间达到平衡，提出了一种新的网络结构，即时间频域混合网络（TFDMNet），结合了卷积层和 EML 的优势。实验证明，与对应的 CNN 相比，TFDMNet 在 MNIST、CIFAR-10 和 ImageNet 数据库上具有更好的性能并且操作数更少。

    Jan, 2024

  • WindowMixer：时间序列预测中的窗口内和窗口间建模

    基于全 MLP 框架，WindowMixer 模型通过窗口视角检查时间序列的时间变化，将时间序列分解为趋势和季节性组件，并使用 Intra-Window-Mixer 和 Inter-Window-Mixer 模块处理窗口间和窗口内的关系，从而捕捉数据中的复杂模式和长期依赖关系，实验证明 WindowMixer 在长期和短期预测任务中始终优于现有方法。

    Jun, 2024

  • 在频域中高效地学习算子

    本文介绍一种基于单个信号变换的频域学习模型，通过方差保持初始化方法和频率选择技术，可以简化模型设计，从而在各种动态系统的学习中获得更高的测试性能和更少的计算成本。

    Nov, 2022

  • FECAM: 时间序列预测的频率增强通道注意机制

    本研究提出了一种新的频率增强通道注意力机制，可以自适应地建模通道之间的频率相互依赖关系，避免傅里叶变换中出现的问题性周期性引起的高频噪声，目的是改善当前主流网络的预测能力，并显示出良好的性能。

    Dec, 2022

  • 频域多层感知机在时间序列预测中的更高学习能效

    将 MLP 应用于频域的时间序列预测方法称为 FreTS，并在 13 个真实世界基准测试中展现出与现有方法相比的显著优势。

    Nov, 2023

  • WFTNet：利用全局和局部周期性进行长期时间序列预测

    本文提出了一种基于波尔均匀转换网络 (WFTNet) 的长期时间序列预测方法，WFTNet 利用了傅里叶和小波变换来提取信号中综合的时间频率信息，其中傅里叶变换捕捉全局周期模式，小波变换捕捉局部模式，此外还引入了一个周期性加权系数 (PWC) 来自适应地平衡全局和局部频率模式的重要性，丰富的时间序列数据集上的实验结果表明，WFTNet 始终优于其他最先进的基线模型。

    Sep, 2023

  • TimeMixer：可分解的多尺度混合用于时间序列预测

    利用多尺度混合的方法进行时间序列预测，通过提取微观和宏观信息来解决复杂的时间变化，并通过 Past-Decomposable-Mixing (PDM) 和 Future-Multipredictor-Mixing (FMM) 块实现全面的多尺度系列的预测，同时在长期和短期预测任务中取得了一致的最先进性能，并具有良好的运行时效率。

    May, 2024

  • TFDNet：基于时频增强分解网络的长期时间序列预测

    提出了一种 Time-Frequency Enhanced Decomposed Network (TFDNet) 方法，用于从时频域捕捉长期潜在模式和时间周期性，通过多尺度的时频增强编码器支撑和两个独立的趋势和季节时频块来捕捉多分辨率中分解的趋势和季节成分的不同模式，实验证明 TFDNet 在效果和效率上优于现有方法。

    Aug, 2023