SFANet：面向天气预报的空间频率注意力网络

May, 2024

SFANet：面向天气预报的空间频率注意力网络

SFANet: Spatial-Frequency Attention Network for Weather Forecasting

Jiaze Wang, Hao Chen, Hongcan Xu, Jinpeng Li, Bowen Wang...

TL;DR提出了 Spatial-Frequency Attention Network（SFANet），这是一个新颖的深度学习框架，通过解决传统方法难以捕捉气象系统复杂动力学的问题，在高分辨率数据存在的情况下提高时空天气预测的准确性。通过整合先进的令牌混合和注意机制，SFANet 优化处理高维时空序列的过程，以捕捉组件间的关系信息和建模广泛的长距离关系。具有空间频率注意模块的 SFANet 能够捕捉复杂的跨模态相关性，并在两个不同数据集上展示了惊人的性能，证明其在预测降水模式和预测 El Niño 事件方面具有卓越的能力。

Abstract

weather forecasting plays a critical role in various sectors, driving decision-making and risk management. However, traditional methods often struggle to capture the complex dynamics of meteorological systems, particularly in the presence of high-resolution data. In this paper, we prop

weather forecasting spatial-frequency attention network deep learning spatiotemporal weather prediction feature integration

发现论文，激发创造

FECAM: 时间序列预测的频率增强通道注意机制

本研究提出了一种新的频率增强通道注意力机制，可以自适应地建模通道之间的频率相互依赖关系，避免傅里叶变换中出现的问题性周期性引起的高频噪声，目的是改善当前主流网络的预测能力，并显示出良好的性能。

Dec, 2022

利用图注意力和频率增强机制提高短期风速预测的准确性

本文提出了一种基于图注意力和频率增强机制的图注意力频率增强时空风速预测模型 (GFST-WSF)，该模型采用变压器架构进行时间特征提取，并采用图注意力网络 (GAT) 进行空间特征提取，从而提高短期风速预测的准确性。在案例研究中，GFST-WSF 在 6-24 小时预测范围内的风速预测中表现出比其他基线更好的性能。

May, 2023

基于注意力机制的卫星图像散射网络

利用散射变换从多通道卫星图像中提取高级特征，并引入分离方案以关注独立输入通道，通过实验对热带气旋强度估计和卫星图像中雷电预测显示出有希望的结果。

Oct, 2022

医学图像分割的空间频率双重逐步注意力网络

我们提出了 SF-UNet，这是一个具有空间频率双域注意力网络的模型，用于准确的医学图像分割，并在三个公共数据集上证明其有效性。

Jun, 2024

SFFNet：基于小波的遥感分割的空间和频域融合网络

为了充分利用空间信息进行分割并解决遥感图像中灰度变化显著区域的挑战，我们提出了 SFFNet（Spatial and Frequency Domain Fusion Network）框架。该框架采用两阶段网络设计：第一阶段使用空间方法提取特征，以获取具有足够空间细节和语义信息的特征；第二阶段在空间和频域中映射这些特征。在频域映射中，我们引入了小波变换特征分解器（WTFD）结构，该结构使用 Haar 小波变换将特征分解为低频和高频成分，并将其与空间特征进行融合。为了弥合频域和空域特征之间的语义差距，并便于进行显著特征选择以促进来自不同表示域的特征组合，我们设计了多尺度双重表示对齐滤波器（MDAF）。该结构利用多尺度卷积和双交叉注意力机制。全面的实验结果表明，与现有方法相比，SFFNet 在 mIoU 方面表现出卓越性能，分别达到 84.80% 和 87.73%。

May, 2024

带有注意力机制的双通道多尺度融合网络用于人群计数

本文提出了一种名为 SFANet 的新型双路径多尺度融合网络架构，其中包括一种注意力机制，可以在高度拥挤的人群场景中执行精确的计数估计以及提供高分辨率密度地图。该网络包括 VGG 骨干卷积神经网络和双路径多尺度融合网络，可生成高质量的高分辨率密度地图，并在多个数据集上表现出最佳性能。

Feb, 2019

L-SFAN：面向疼痛行为检测的轻量级空间关注网络

通过引入 L-SFAN，一种轻量级的卷积神经网络架构，结合 2D 滤波器设计来精确捕捉来自动作捕捉和表面肌电图传感器的数据的时空相互作用，我们提出了一种改进型模型，通过定向全局池化层和多头自注意机制来优先考虑关键特征以更好地理解慢性下腰痛，并实现了有竞争力的分类准确度。实验证据表明，我们的方法不仅能够以显著较少的参数提高性能指标，还可以促进模型可解释性，为临床医生在管理慢性下腰痛方面提供宝贵的见解。这一进展突显了人工智能在改变慢性病等复杂性条件的医疗实践方面的潜力，并为复杂生物医学数据的细致分析提供了一个复杂的框架。

Jun, 2024

全注意力网络用于语义分割

该研究提出了 FLANet 方法，可以通过单个相似度图来同时编码空间和通道注意力，并在三个具有挑战性的语义分割数据集上最先进的性能达到 83.6％，46.99％和 88.5％。

Dec, 2021

FANet：一种反馈注意力网络，用于改进生物医学图像分割

在生物医学图像分析领域，我们提出了一种称为反馈关注网络（FANet）的新型架构，利用每个训练时期的信息来修剪随后的预测地图，该网络在不同的卷积层上允许学习特征图的 “硬关注”，通过七个公开的生物医学成像数据集测试，显示出较大的平均分割指标提高。

Mar, 2021

MetNet：降水预测的神经气象模型

利用深度神经网络，MetNet 能在高达 1 km² 的空间分辨率下、每 2 分钟一个时间间隔内预测未来 8 小时的降水情况。它使用轴向自注意力来聚合来自一个对应于 1 百万平方千米的大型输入块的全局上下文。研究表明，在大陆尺度上，MetNet 在各种降水阀值下的预测性能优于数值天气预报长达 7 至 8 小时。

Mar, 2020