Feb, 2022

AA-TransUNet：用于现时预测任务的加强注意力的 TransUNet

PDF
TL;DR本文介绍一种新型的预测性模型，名为 “Attention Augmented TransUNet (AA-TransUNet)”，将 TransUNet 和 Convolutional Block Attention Modules (CBAM) 以及 Depthwise-separable Convolution (DSC) 结合起来，应用于降雨预测任务，并在 Dutch precipitation map dataset 和 French cloud cover dataset 上进行评估，结果表明 AA-TransUNet 模型在两个测试数据集上的表现均优于其他模型，并提供了该模型预测的不确定性分析。
发现论文，激发创造
  • DA-TransUNet：利用 Transformer U-Net 集成空间和通道双重注意力进行医学图像分割

    本研究提出了一种名为 DA-TransUNet 的新型深度医学图像分割框架，将 Transformer 和双注意力块引入传统 U 形架构的编码器和解码器中，通过注意力机制和多方面特征提取来增强医学图像分割，并通过实验结果证明 DA-TransUNet 在各个医学图像分割基准测试中显著优于现有方法。

    Oct, 2023

  • PAUNet：一种基于降水注意力的卫星亮温数据的降水预测 U-Net

    这篇论文介绍了基于降水关注的 U-Net（PAUNet）的深度学习架构，用于根据卫星辐射数据预测降水，解决 Weather4cast 2023 比赛的挑战。PAUNet 是 U-Net 和 Res-Net 的一种变体，通过编码器卷积层的中心裁剪和注意机制，有效捕捉多波段卫星图像中的大尺度上下文信息，包括可见光、水汽和红外波段。通过基于各种欧洲地区的大规模数据集进行训练，PAUNet 在多个时间段的降雨预测中表现出了显著的准确性，具有比基准模型更高的临界成功指数（CSI）得分。PAUNet 的架构和训练方法对于降水预测的改进具有重要意义，对紧急救援、零售和供应链管理等领域至关重要。

    Nov, 2023

  • GA-SmaAt-GNet：极端降水即时预报的生成对抗小注意力 GNet

    提出了 GA-SmaAt-GNet，一种新颖的生成对抗网络架构，通过使用两种方法以提高极端降水近场的深度学习模型的性能。首先，使用了基于 SmaAt-UNet 架构的新型 SmaAt-GNet 作为生成器，这个网络利用降水蒙版（二值化降水图）作为额外的数据源，以改进预测。此外，GA-SmaAt-GNet 利用了一个增强注意力的判别器，受到了 Pix2Pix 架构的启发。该研究在荷兰的实际降水数据集上评估了 GA-SmaAt-GNet 的性能，结果显示在整体性能和极端降水事件方面都有显著改进。最后，使用 Grad-CAM 方法进一步解释了所提出模型的预测，生成激活热图，用于说明网络各部分更活跃的输入区域。

    Jan, 2024

  • SeUNet-Trans: 医学图像分割的简单而有效的 UNet-Transformer 模型

    我们提出了一种简单而有效的 UNet-Transformer（seUNet-Trans）模型，用于医学图像分割，结合了 CNN-based 模型和 Transformer 模型，在多个医学图像分割数据集上进行了广泛实验，显示出优于其他几种先进模型的性能。

    Oct, 2023

  • TransGlow: 基于图神经网络的注意力增强传导模型用于水流预测

    该研究论文提出了一种基于图卷积循环神经网络和注意机制的时空预测模型 TransGlow，用于水量的水文预测与预测建模，通过对水系统的动态性和有限数据进行建模，实验结果表明该模型在水文应用领域取得了显著的优势。

    Dec, 2023

  • 基于 Swin-UNETR 的时空迁移学习的降水现在预报

    应用 Swin-UNETR 模型进行欧洲十个不同地区的降水预报研究，以提高应对极端天气事件的能力。

    Nov, 2023

  • ACC-UNet: 2020 年代的全卷积 UNet 模型

    我们提出了一个纯卷积 UNet 模型，将视觉转换器、医学影像和转换器模型相结合，实现了与最先进的模型相媲美的性能，在多个医学图像分割基准测试中始终优于卷积网络、转换器及其混合模型。

    Aug, 2023

  • 3D TransUNet：通过视觉 Transformer 提升医学图像分割

    通过在 2D TransUNet 体系结构的基础上建立在最先进 nnU-Net 体系结构的基础上，充分探索 Transformers 在编码器和解码器设计中的潜力，我们引入了两个关键组件：1）一个从卷积神经网络（CNN）特征图中令图像块标记化的 Transformer 编码器，从而实现全局上下文的提取；2）一个自适应地利用候选区域和 U-Net 特征之间的交叉注意力进行候选区域的精炼的 Transformer 解码器。我们的研究发现，不同的医学任务受益于不同的体系结构设计。Transformer 编码器在多器官分割中表现出色，其中器官之间的关系至关重要。另一方面，Transformer 解码器在处理小而具有挑战性的分割目标（如肿瘤分割）方面更有益处。大量实验证明了将基于 Transformer 的编码器和解码器集成到 U 型医学图像分割体系结构中的巨大潜力。TransUNet 在各种医学应用中超越竞争对手。

    Oct, 2023

  • UTNet：一种用于医学图像分割的混合 Transformer 架构

    本研究提出 UTNet，这是一种简单而强大的混合 Transformer 体系结构，它将 self-attention 集成到卷积神经网络中，以增强医学图像分割，通过在编码器和解码器中应用 self-attention 模块来捕捉不同尺度的长程依赖关系，并提出了一种有效的 self-attention 机制与相对位置编码，从而将 self-attention 操作的复杂度从 $O (n^2)$ 降低到约 $O (n)$。在多标签、多厂商的心脏磁共振成像队列上对 UTNet 进行了评估，所示分割性能优异，对抗最先进的方法表现出很好的鲁棒性，有望在其他医学图像分割中具有广泛的应用前景。

    Jul, 2021

  • NASNet：一种单幅图像去雨的神经注意力阶段网络

    本文提出了一种用于处理多种雨模型任务的新型端到端神经元注意力阶段网络（NASNet），包括轻量级神经元注意力（NA）架构机制和阶段性统一模式网络架构，能够在处理复杂雨天图像时有效地提高图像质量。

    Dec, 2019