May, 2023

多元时序预测的联合时频域变换器

PDF
TL;DR该研究提出了一种联合时频域变压器模型 (JTFT) 进行多元预测的方法，其中使用少量可学习的频率，利用时间序列在频域中的稀疏性来有效提取时间依赖关系，并且 JTFT 通过在时域中直接编码最近的数据点来增强局部关系的学习能力和减轻不稳定性的不利影响，该方法线性复杂度，同时采用低秩注意层来高效捕获跨维度依赖关系并提高模型性能，实验证明 JTFT 优于现有的方法。
发现论文，激发创造
  • 可解释的多时段时间序列预测的时间融合变压器

    介绍了一种名为 Temporal Fusion Transformer（TFT）的基于注意机制的新型深度学习模型，以高效且可解释的方式解决多步预测中存在的多个输入和时间动态性问题，在实际数据集上表现出显著的性能和可解释性。

    Dec, 2019

  • ATFNet：自适应时频集成网络用于长期时间序列预测

    ATFNet 框架是一种创新性的方法，结合了时间域模块和频率域模块，可以同时捕捉时间序列数据中的局部和全局依赖关系，并在长期时间序列预测方面超越了当前最先进的方法。

    Apr, 2024

  • 联合时频散射

    通过计算基于小波卷积和模量非线性的联合时频散射变换，作者提出了一种具有时间平移不变性的信号表示方法，并且通过应用于鸣号信号和音频综合实验，证明了其适用于时序分类问题，并且在音频分类任务中获得了与全连接网络可比的高准确率。

    Jul, 2018

  • 可解释的多元时间序列预测：神经傅里叶变换

    该研究提出了神经傅里叶变换 (NFT) 算法，通过结合多维傅里叶变换和时间卷积网络层来提高预测准确性和可解释性，经过实证验证在多个预测时间范围和回顾期上表现出卓越性能，显著提高多变量时间序列预测的水平。

    May, 2024

  • FTMixer：时间序列建模的频率和时域表示融合

    为了捕捉局部和全局依赖关系，我们在频域和时域中引入了频域与时域混合器 (FTMixer) 来表示时间序列数据，通过频率通道卷积模块 (FCC) 和窗口频率卷积模块 (WFC) 来分别捕捉全局和局部依赖关系。同时，采用独立通道方案混合时域和频域补丁以更好地捕捉局部依赖关系。通过七个真实世界的长期时间序列数据集的广泛实验结果表明，FTMixer 在预测性能和计算效率方面具有优势。

    May, 2024

  • 在频域中高效地学习算子

    本文介绍一种基于单个信号变换的频域学习模型，通过方差保持初始化方法和频率选择技术，可以简化模型设计，从而在各种动态系统的学习中获得更高的测试性能和更少的计算成本。

    Nov, 2022

  • 频域多层感知机在时间序列预测中的更高学习能效

    将 MLP 应用于频域的时间序列预测方法称为 FreTS，并在 13 个真实世界基准测试中展现出与现有方法相比的显著优势。

    Nov, 2023

  • TFDNet：基于时频增强分解网络的长期时间序列预测

    提出了一种 Time-Frequency Enhanced Decomposed Network (TFDNet) 方法，用于从时频域捕捉长期潜在模式和时间周期性，通过多尺度的时频增强编码器支撑和两个独立的趋势和季节时频块来捕捉多分辨率中分解的趋势和季节成分的不同模式，实验证明 TFDNet 在效果和效率上优于现有方法。

    Aug, 2023

  • FCDNet: 频率引导的补充依赖建模用于多变量时间序列预测

    FCDNet 是一个简洁而有效的框架，通过两个轻量级依赖构造器，从多层频率模式中自适应地提取长期和短期依赖信息，从而克服了先前方法所面临的限制，并显著超过强基线，平均改进了 MAE 的 6.82%、RMSE 的 4.98% 和 MAPE 的 4.91%。

    Dec, 2023

  • FEDformer：用于长期序列预测的频率增强分解变换器

    该研究提出了一种名为 FEDformer 的算法，采用 Transformer 和季节趋势分解方法相结合，提高长期预测的性能，同时通过基于 Fourier 变换的频率增强技术进一步提高了预测的准确性，与当前先进的方法相比，在多元和单元时间序列上均能大幅度降低预测误差。

    Jan, 2022