Feb, 2024

SFTformer: 雷达回波外推的空间频率时域相关解耦变压器

PDF
TL;DR提出了一种空间频率时间相关解耦 Transformer（SFTformer）模型，用于有效地建模雷达回波的时空动态，并实现未来的天气预测。在豪雨数据集和华北数据集上的实验结果表明，SFTformer 在短期、中期和长期降水预测中具有出色的性能。
weather radar echoesspatiotemporal dynamicscorrelation-decoupling transformerecho sequence predictionprecipitation nowcasting
发现论文，激发创造
  • TempEE: 时空并行变换器用于雷达回波外推超越自回归

    本文介绍了一种新的雷达回波外推算法，该算法利用时空相关特征和 Transformer 技术，通过从多帧雷达图像中提取特征来准确表示降水的非定常运动过程，增强对全局 - 局部信息的感知能力并以轻量级方式突出与任务相关的特征区域，并在真实世界数据集上验证了其有效性和必要性

    Apr, 2023

  • Stecformer: 空间 - 时间编码叠加变换器用于多元长期时间序列预测

    本研究提出了一种完整的解决方案，包括特征提取和目标预测，旨在解决多变量长期时间序列预测中的空间特征提取和不同预测时期的一致性问题。新的方法称为 “时空编码串联变压器（Stecformer）”，其采用高效的时空编码提取器和级联解码预测器来改善基线模型的性能，并在五个基准数据集上实现了与基线模型可比较的最先进性能。

    May, 2023

  • ESTformer: EEG 超分辨率利用时空依赖的 Transformer

    基于 Transformer 的 ESTformer 框架应用于脑电超分辨率（SR）任务，利用时空依赖关系学习空间结构信息和时间功能变化，并通过 Spatial Interpolation Module（SIM）和 Temporal Reconstruction Module（TRM）捕捉建模脑电 SR 的时空依赖性。实验证明 ESTformer 在两个脑电数据集上的有效性，并证明了 SR 数据相对于 LR 数据在脑电相关的个人识别和情绪识别任务中的优越性，展示了 Transformer 在脑电超分辨率任务中的多功能性。

    Dec, 2023

  • 多元时序预测的联合时频域变换器

    该研究提出了一种联合时频域变压器模型 (JTFT) 进行多元预测的方法，其中使用少量可学习的频率，利用时间序列在频域中的稀疏性来有效提取时间依赖关系，并且 JTFT 通过在时域中直接编码最近的数据点来增强局部关系的学习能力和减轻不稳定性的不利影响，该方法线性复杂度，同时采用低秩注意层来高效捕获跨维度依赖关系并提高模型性能，实验证明 JTFT 优于现有的方法。

    May, 2023

  • Earthformer：探索用于地球系统预测的时空变压器

    该论文提出了一种名为 Earthformer 的深度学习模型，通过利用 cuboid attention 机制，成功地应用于 El Nino/Southern Oscillation (ENSO) 的预测，该方法表现出了最新的性能。

    Jul, 2022

  • FEDformer：用于长期序列预测的频率增强分解变换器

    该研究提出了一种名为 FEDformer 的算法，采用 Transformer 和季节趋势分解方法相结合，提高长期预测的性能，同时通过基于 Fourier 变换的频率增强技术进一步提高了预测的准确性，与当前先进的方法相比，在多元和单元时间序列上均能大幅度降低预测误差。

    Jan, 2022

  • 基于空域频域相互作用的双通路耦合图像去雨网络

    我们开发了一种创新的双路径耦合去雨网络（DPCNet），通过空间特征提取块（SFEBlock）和频率特征提取块（FFEBlock）在空间和频率域中整合信息，并引入了一种有效的自适应融合模块（AFM）来进行双通路径特征聚合。该方法在六个公共去雨基准和下游视觉任务上进行了大量实验证明，不仅超越了现有的最先进去雨方法，而且在下游视觉任务中具有出色的鲁棒性和视觉效果。

    Feb, 2024

  • Fredformer: 为时间序列预测提供频率无偏的 Transformer

    本文介绍了一种基于 Transformer 的框架 Fredformer，用于准确预测时间序列数据，该框架通过均匀地学习不同频带的特征来减轻频率偏差，并且引入了一个轻量级变种的 Fredformer，其参数更少、计算成本更低，但性能仍然可与其他基线方法相比。

    Jun, 2024

  • 基于分层时空 Transformer 的长期风力预测

    本文提出了一种新的基于 Transformer Network 的 Hierarchical Spatial-Temporal Transformer Network（HSTTN）模型，利用空间和时间特征增强长期风力发电预测。实验结果表明，该模型性能优于现有解决方案。

    May, 2023

  • Windformer: 风速预测的双向长距离时空网络

    该研究提出了一种名为 Windformer 的方法，通过将风力涡轮群体分为多个非重叠的窗口并计算窗口内的相关性，然后部分移动窗口以提供窗口之间的连接性，并最终基于详细和全局信息融合多通道特征，以动态建模风速变化过程。这种方法在提高预测准确性方面相较于目前其他先进方法，平均均方误差 (MSE) 能减少 2 到 15 个百分点。

    Nov, 2023