Apr, 2024

GLIMS：注重注意力的轻量级多尺度混合网络用于体积语义分割

PDF
TL;DRGLIMS 是一种数据效率高、注意力引导的混合体积分割网络，利用了 Dilated Feature Aggregator Convolutional Blocks (DACB)，并结合了 Swin Transformer-based bottleneck，通过 Channel 和 Spatial-Wise Attention Blocks (CSAB) 实现了注意力引导分割方法，证明了其在复杂性和准确性方面的出色表现。
convolutional neural networksmedical image segmentationtransformer-based architecturesvolumetric segmentation networkdata-efficient attention-guided
发现论文，激发创造
  • 注意力增强的混合特征聚合网络用于三维脑肿瘤分割

    基于多尺度关注引导 U-Net 模型以及 Swin Transformer 的三维脑肿瘤分割方法的性能评估。

    Mar, 2024

  • 多窥视网络：基于循环下采样注意力的鲁棒高效分类架构

    提出一种基于多次感知和递归下采样注意机制的可训练多次感知网络，用于选择任务相关的图像区域进行预测，提高了对抗攻击和常见数据损坏的鲁棒性，具有更强的可解释性。

    Nov, 2021

  • RAMS-Trans: 基于循环注意力多尺度变换器进行细粒度图像识别

    通过使用注意力权重来测量原始图像对应的补丁符记的重要性，我们提出了递归注意力多尺度转换器 (RAMS-Trans)，它使用变压器的自我注意力以多尺度的方式递归地学习区分地区的注意力。

    Jul, 2021

  • ViG: 使用门控线性注意力进行线性复杂度的视觉序列学习

    在计算机视觉任务中，线性复杂度序列建模网络达到了与 Vision Transformers 相似的建模能力，同时使用更少的 FLOPs 和内存。然而，它们在实际运行时速度方面的优势并不显著。为了解决这个问题，我们引入了适用于视觉的门控线性注意力（GLA），利用它的硬件感知和高效性。我们提出了方向性门控，通过双向建模来捕捉一维全局上下文，并通过二维门控局部注入来自适应地将二维局部细节注入一维全局上下文。我们的硬件感知实现将正向扫描和反向扫描合并为单个核心，增强了并行性，减少了内存成本和延迟。所提出的模型 ViG 在 ImageNet 和下游任务中在准确性、参数和 FLOPs 上取得了有利的权衡，优于流行的 Transformer 和基于 CNN 的模型。值得注意的是，ViG-S 仅使用参数的 27% 和 FLOPs 的 20%，在 224x224 大小的图像上运行速度比 DeiT-B 快 2 倍。在 1024x1024 分辨率下，ViG-T 使用的 FLOPs 比 DeiT-T 少了 5.2 倍，节省了 90% 的 GPU 内存，运行速度快了 4.8 倍，并且相比 DeiT-T 的 top-1 准确率高出 20.7%。这些结果使 ViG 成为一种高效且可扩展的视觉表示学习解决方案。代码可在 https://github.com/hustvl/ViG 找到。

    May, 2024

  • 入侵检测的新方法：利用 GAN-MSCNN-BILSTM 和 LIME 预测

    通过生成对抗网络（GANs）、多尺度卷积神经网络（MSCNNs）和双向长短期记忆（BiLSTM）网络，以及与 Local Interpretable Model-Agnostic Explanations（LIME）进行解释性补充，引入、创新了一种入侵检测系统。该系统生成真实的包含正常和攻击模式的网络流量数据，通过 MSCNN-BiLSTM 架构进行入侵检测。MSCNN 层从不同尺度的网络流量数据中提取特征，而 BiLSTM 层捕获流量序列中的时间依赖关系。整合 LIME 可解释模型的决策。在 Hogzilla 数据集上的评估展示了多类分类和二分类的令人印象深刻的准确率，分别为 99.16％和 99.10％，同时通过 LIME 保证了可解释性。通过结合深度学习和可解释性，为提高入侵检测系统的透明度和决策支持提供了一个有前途的途径。

    Jun, 2024

  • CiT-Net: 卷积神经网络和视觉 Transformer 手牵手进行医学图像分割

    本文提出了一种新的医学图像分割混合架构，手持卷积神经网络和 Transformer，用于动态变形卷积和自适应互补注意模块改进卷积神经网络和 Transformer 的性能，以实现更好的医学图像分割结果。

    Jun, 2023

  • 空间门控多层感知器用于土地利用和土地覆盖地图制作

    通过引入 SGU-MLP 算法，本文在有限的训练数据情况下，实现了精确的土地利用地覆盖（LULC）映射，并在多个实验中实证了该算法优于基准 CNN 和 CNN-ViT 算法的性能。

    Aug, 2023

  • GLIMPSE: 使用 MLP 的广义本地图像

    GLIMPSE 是一种针对计算机断层扫描的局部处理神经网络，通过仅将与像素周围邻域相关的测量结果提供给简单的多层感知机（MLP）以重建像素值，在分布内测试数据上达到与成功的卷积神经网络（如 U-Net）相当或更好的性能，而在分布外的样本上明显优于它们，并且几乎独立于图像分辨率的内存占用，仅需 5GB 内存即可训练 1024x1024 的图像。

    Jan, 2024

  • 三维卷积神经网络用于胶质母细胞瘤分割

    本文提出了一种基于 3D 全卷积神经网络模型并利用预定义的高斯差分滤波器进行真正的 3D 卷积来学习 3D 肿瘤 MRI 数据的新方法，该方法能够识别 MRI 上的高级肿瘤结构，具有比现有方法更好的性能。

    Nov, 2016

  • MobileUtr: 重访轻量级 CNN 和 Transformer 之间的关系，用于高效的医学图像分割

    轻量级视觉转换 (ViT) 在高效医学图像分割中的应用挑战，本研究重新关注了 CNN 和 Transformer 在轻量级医学图像分割中的关系，并提出了一种融合两者优势的基础架构设计，实现了有效的医学图像分割模型 (MobileUtr)。在五个公开医学图像数据集上的广泛实验验证了 MobileUtr 的优越性，同时具备更轻的权重和更低的计算成本。

    Dec, 2023