TempEE: 时空并行变换器用于雷达回波外推超越自回归

Apr, 2023

TempEE: 时空并行变换器用于雷达回波外推超越自回归

TempEE: Temporal-Spatial Parallel Transformer for Radar Echo Extrapolation Beyond Auto-Regression

Shengchao Chen, Ting Shu, Huan Zhao, Guo Zhong, Xunlai Chen

TL;DR本文介绍了一种新的雷达回波外推算法，该算法利用时空相关特征和 Transformer 技术，通过从多帧雷达图像中提取特征来准确表示降水的非定常运动过程，增强对全局 - 局部信息的感知能力并以轻量级方式突出与任务相关的特征区域，并在真实世界数据集上验证了其有效性和必要性

Abstract

The meteorological radar reflectivity data, also known as echo, plays a crucial role in predicting precipitation and enabling accurate and fast forecasting of short-term heavy rainfall without the need for comple

radar echo deep learning temporal-spatial transformer

发现论文，激发创造

SFTformer: 雷达回波外推的空间频率时域相关解耦变压器

提出了一种空间频率时间相关解耦 Transformer（SFTformer）模型，用于有效地建模雷达回波的时空动态，并实现未来的天气预测。在豪雨数据集和华北数据集上的实验结果表明，SFTformer 在短期、中期和长期降水预测中具有出色的性能。

Feb, 2024

时间耐心：嵌入式雷达数据处理的高效自适应深度学习

通过利用流式雷达数据中的时间相关性，本文提出了一种利用早期退出神经网络在嵌入式设备上进行深度学习推理的新技术，以增强处理资源有限的嵌入式平台上数据流的处理效率。这些神经网络在架构的隐藏层之间添加了额外的分类器分支，允许在运行时决策机制认为其结果足够时提前终止推理，我们的方法能够更加明智地决定何时终止推理，减少计算成本同时最大限度地保持准确性损失最小。我们的结果表明，相比于单一退出网络和基于置信度的早期退出版本，我们的技术每次推理节省了多达 26% 的操作，我们提出的技术适用于通用硬件并可以与传统优化相结合，使其适用于资源有限的嵌入式平台，这在智能设备中经常使用。这种效率提升使得在资源受限平台上进行实时雷达数据处理成为可能，并在智能家居、物联网和人机交互等领域推出了新的应用。

Sep, 2023

NAST：非自回归时空 Transformer 用于时间序列预测

本研究针对 Transformer 在时间序列预测中所面临的累积误差和时延问题以及在空间 - 时间依赖性问题上的挑战，提出了一种新型的非自回归 Transformer 架构并引入了新颖的空间 - 时间关注机制，以学习到一个时间影响图来填补空间 - 时间依赖之间的差距，实验结果表明在多样化的自我中心未来定位数据集上，该模型具有表现优异的实时性和准确性。

Feb, 2021

使用 Transformer 学习动态和分层交通时空特征

本研究提出了 Traffic Transformer 模型，通过多头和掩码多头机制，动态地从数据中抽取时空特征，提高了交通预测性能，比现有技术表现更好。

Apr, 2021

多通道时空变换器模型的交通流量预测

提出了一个多通道时空变换模型用于交通流量预测，通过融合来自不同通道的交通数据结果，改善了预测准确性。该模型使用图卷积网络从每个通道提取空间特征，并使用基于变换器的体系结构捕捉通道之间的时间依赖性。在六个真实数据集上的实验证明，引入多通道机制到时间模型中提高了性能，并且在准确性方面优于现有模型。

May, 2024

时间子采样减弱了地球物理湍流的递归神经网络仿真中的小空间尺度

该论文研究了机器学习方法在模拟高维地球物理湍流过程中的预测性能，并发现训练数据的时间分辨率对于预测性能的影响。

Apr, 2023

融合 Transformer 和时空自监督学习的长期交通预测

利用混合 Transformer 和时空自监督学习的模型来提高长期交通预测的鲁棒性，该模型通过在交通数据的序列级和图级应用自适应数据增强技术来增强其鲁棒性，利用 Transformer 克服了循环神经网络在捕捉长期序列方面的局限性，并采用 Chebyshev 多项式图卷积来捕捉复杂的空间依赖关系。此外，考虑到时空异质性对交通速度的影响，我们设计了两个自监督学习任务来建模时空异质性，从而提高模型的准确性和泛化能力。在两个真实数据集 PeMS04 和 PeMS08 上进行了实验评估，结果进行了可视化和分析，证明了所提模型的卓越性能。

Jan, 2024

时空自适应嵌入使得 Vanilla Transformer 成为交通预测的最佳模型

智能交通系统中，精确的交通预测是一项重要挑战。本研究提出了一种名为时空自适应嵌入的新型组件，可以通过使用传统的 Transformer 模型取得出色的结果，该模型在五个实际交通预测数据集上实现了最先进的性能，进一步实验证明时空自适应嵌入在交通预测中起着关键作用。

Aug, 2023

基于雷达的降水量的深度时间插值

研究了一种利用神经网络和气象卫星数据的降水插值方法，与基于线性插值的基准相比，可以降低高达 20％的洪水风险。

Mar, 2022

学习鲁棒降水预测的时间帧插值

通过引入 Temporal Frame Interpolation (TFI) 和 multi-level dice loss 等创新技术，该研究提出了一种抵御时空差异的强韧降水预测模型，取得了气象预测领域的突破性成果，并在 Weather4Cast'23 竞赛中获得第一名，为深度学习在气象预测中设立新的基准。

Nov, 2023