Oct, 2023

稀疏编码解码器实现的医学图像分割

PDF
TL;DR基于卷积稀疏向量编码的解码器，名为 CASCSCDE，在医学图像分割中有效地提升了 Transformers 模型的性能。
发现论文，激发创造
  • G-CASCADE: 高效级联的图卷积解码用于 2D 医学图像分割

    近年来，医学图像分割已成为计算机辅助诊断领域的重要应用。本文首次提出了一种新的基于图卷积的解码器，即级联图卷积注意力解码器（G-CASCADE），用于 2D 医学图像分割。通过有效的图卷积块，G-CASCADE 逐渐改进由分层 Transformer 编码器生成的多阶段特征图。编码器利用自注意机制来捕捉长程依赖性，而解码器通过图卷积块的全局感受野来改进特征图以保留长程信息。在对五个医学图像分割任务（即腹部器官、心脏器官、息肉病变、皮肤病变和视网膜血管）进行了严格评估后，我们的解码器在性能方面优于其他最先进的方法。此外，我们还证明了我们的解码器在参数数量减少 80.8% 和浮点运算量减少 82.3% 的情况下实现了更好的 DICE 分数。我们的解码器可以与其他分层编码器轻松结合，用于通用的语义和医学图像分割任务。

    Oct, 2023

  • CATS v2：用于鲁棒医学分割的混合编码器

    我们进一步扩展了我们以前的工作，并提出了具有混合编码器的 CATS v2。具体来说，混合编码器由一个基于 CNN 的编码器路径和一个具有移位窗口的 transformer 路径组成，更好地利用了本地和全局信息来产生稳健的 3D 医学图像分割。我们在两个公共挑战数据集上评估了所提出的方法，并与最先进的方法进行了比较，在 Dice 分数方面表现出卓越的性能。

    Aug, 2023

  • 深度卷积稀疏编码网络用于图像融合

    这篇论文介绍了三种基于深度卷积稀疏编码网络的图像融合任务，并使用字典卷积单元将 CSC 模型和迭代收缩阈值算法泛化，从而从数据中学习所有超参数。广泛的实验和综合比较表明，与量化评估和视觉检查相关的所有性能指标中，所提出的网络优越性显著。

    May, 2020

  • TransUNet：使用 Transformers 强大编码器进行医学图像分割

    本文提出了一种新的医学图像分割框架 TransUNet，它将 Transformers 和 U-Net 结合起来，通过编码全局上下文和恢复本地细节信息来实现更精确的分割，针对不同的医学应用，TransUNet 优于其他竞争方法。

    Feb, 2021

  • UNETR: 用于 3D 医学图像分割的变压器

    本篇论文介绍了一种新的 UNETR 架构，通过使用 Transformer 作为编码器，可以捕捉更长程的空间依赖性，同时保持 “U 形” 的网络设计。实验证明，在多个数据集上，该方法在多器官分割任务上取得了最新的最优性能。

    Mar, 2021

  • SCSC：强化卷积神经网络和 Transformer 的空间跨尺度卷积模块

    本论文介绍了一个名为空间跨尺度卷积（SCSC）的模块，通过验证其在改善 CNN 和 Transformers 方面的有效性。SCSC 引入了一种高效的空间跨尺度编码器和空间嵌入模块，以在一个层次中捕捉各种特征。通过在人脸识别任务中使用 SCSC 的 FaceResNet，在 68% 的 FLOPs 和 79% 的参数减少情况下，提高了 2.7% 的性能；在 ImageNet 分类任务中，使用 SCSC 的 Swin Transformer 在 22% 的 FLOPs 减少情况下实现了更好的性能，并且使用 SCSC 嵌入的传统网络（如 ResNet）可以与 Swin Transformer 的性能匹敌。

    Aug, 2023

  • 深度稀疏编码的无监督特征学习

    本文提出了一种名为 Deep Sparse Coding 的新的无监督特征学习框架，扩展了稀疏编码到多层体系结构，用于视觉对象识别任务，在不同层次的稀疏编码之间连接一种稀疏到密集的模块，结合卷积神经网络（CNN）可达到最先进的性能表现。

    Dec, 2013

  • 3D TransUNet：通过视觉 Transformer 提升医学图像分割

    通过在 2D TransUNet 体系结构的基础上建立在最先进 nnU-Net 体系结构的基础上，充分探索 Transformers 在编码器和解码器设计中的潜力，我们引入了两个关键组件：1）一个从卷积神经网络（CNN）特征图中令图像块标记化的 Transformer 编码器，从而实现全局上下文的提取；2）一个自适应地利用候选区域和 U-Net 特征之间的交叉注意力进行候选区域的精炼的 Transformer 解码器。我们的研究发现，不同的医学任务受益于不同的体系结构设计。Transformer 编码器在多器官分割中表现出色，其中器官之间的关系至关重要。另一方面，Transformer 解码器在处理小而具有挑战性的分割目标（如肿瘤分割）方面更有益处。大量实验证明了将基于 Transformer 的编码器和解码器集成到 U 型医学图像分割体系结构中的巨大潜力。TransUNet 在各种医学应用中超越竞争对手。

    Oct, 2023

  • 采用空洞可分离卷积的编码器 - 解码器用于语义图像分割

    本文介绍了一种深度学习模型 DeepLabv3+，将网络的编码器和解码器模块相结合，采用空洞空间金字塔池化和深度可分离卷积技术，用于语义分割任务，实验表明该模型取得 89.0% 和 82.1% 的测试集性能，且附有 TensorFlow 参考实现。

    Feb, 2018

  • DS-TransUNet: 医学图像分割的双 Swin Transformer U-Net

    本研究提出了 Dual Swin Transformer U-Net (DS-TransUNet) 框架，它是第一次尝试将 Swin Transformer 的优势同时融入到标准 U 形架构的编码器和解码器中，以提高不同医学图像的语义分割质量。实验表明，DS-TransUNet 显著优于现有的医学图像分割方法。

    Jun, 2021