Sep, 2023

CINFormer: 多阶段 CNN 特征注入的 Transformer 网络用于表面缺陷分割

PDF
TL;DR通过使用多阶段 CNN 特征注入的 Transformer 网络，我们提出了一种名为 CINFormer 的 UNet 结构，以实现表面缺陷分割。CINFormer 在编码器中采用了简单而有效的特征整合机制，将输入图像的多层级 CNN 特征注入到 Transformer 网络的不同阶段，以保持 CNN 捕捉详细特征的优点和 Transformer 压制背景噪音的优点，从而实现准确的缺陷检测。此外，CINFormer 通过引入 Top-K 自注意力模块，可以聚焦于与缺陷相关的更重要信息的标记，以进一步减少冗余背景的影响。通过在 DAGM 2007、磁砖和 NEU 等表面缺陷数据集上进行的大量实验证明，CINFormer 在缺陷检测方面达到了最先进的性能。
surface defect inspectiondeep learningtransformer networkcnn feature injectiondefect detection
发现论文，激发创造
  • HiFormer: 使用 Transformer 实现的分层多尺度表示，用于医学图像分割

    本文提出了一种新的方法 HiFormer，它通过使用 Swin Transformer 模块和基于 CNN 的编码器设计了两种多尺度特征表示来有效地跨越 CNN 和 Transformer 进行医学图像分割。在编码器解码器结构的跳跃连接中，我们提出了 Double-Level Fusion（DLF）模块，以确保从两个上述表示中获得的全局和局部特征的细粒度融合。在各种医学图像分割数据集上的广泛实验表明，HiFormer 在计算复杂度、定量和定性结果方面优于其他基于 CNN、Transformer 和混合方法。

    Jul, 2022

  • ConvFormer: 提升医学图像分割的即插即用卷积神经网络模型

    通过构建 CNN 式 Transformer（ConvFormer）来提升更好的注意力收敛，从而获得更好的分割性能。

    Sep, 2023

  • CFPFormer：分割和检测的特征金字塔式 Transformer 解码器

    CFPFormer 是一种新的解码器块，它集成了特征金字塔和变压器，通过利用路径嵌入、跨层特征拼接和高斯注意机制，增强了特征提取能力，并促进了各种任务的泛化。在医学图像分割数据集和物体检测基准测试上，我们的模型取得了优越的性能，特别是在检测小物体方面表现出色。

    Apr, 2024

  • D-Former: 一种用于 3D 医学图像分割的 U 形扩张 Transformer

    本文提出了一种称为 Dilated Transformer 的方法，该方法在全球和局部范围内交替捕捉成对的补丁关系进行自我关注。我们基于 Dilated Transformer 的设计构建了一种名为 D-Former 的 U 型编码器 - 解码器分层结构，用于 3D 医学图像分割。实验表明，我们的 D-Former 模型在低计算成本下，从头开始训练，优于各种有竞争力的基于 CNN 或 Transformer 的分割模型。

    Jan, 2022

  • U-MixFormer：混合注意力的类 UNet Transformer 进行高效语义分割

    我们提出了一种新的变换器解码器 U-MixFormer，基于 U-Net 结构设计的，用于高效的语义分割。通过在编码器和解码器阶段之间利用侧连接作为特征查询，我们的方法与以前的变换器方法有所不同。此外，我们创新地混合来自各个编码器和解码器阶段的分层特征图，形成一个统一的键和值表示，从而产生我们独特的混合注意模块。大量实验证明，U-MixFormer 在各种配置上表现出色，并且在 ADE20K 上使用 MSCAN-T 编码器的 mIoU 比 SegFormer 和 FeedFormer 高出 3.3%。

    Dec, 2023

  • 利用卷积神经网络和迁移学习进行制造缺陷检测和分割

    提出了一种基于掩膜区域卷积神经网络（Mask Region-based CNN）的系统，用于在 X 射线图像中识别铸造缺陷。该系统同时执行输入图像的缺陷检测和分割，并采用转移学习来减少训练数据需求并提高训练模型的预测准确性。

    Aug, 2018

  • UNetFormer: 用于三维医学图像分割的统一视觉 Transformer 模型和预训练框架

    本文提出了一个统一的框架，它由两个体系结构组成，称为 UNetFormer，具有基于 3D Swin 变压器的编码器和卷积神经网络和变压器的解码器。该架构的设计允许在准确性和计算成本之间满足宽范围的权衡要求。使用 CT 图像进行自我监督预训练，使用 Medical Segmentation Decathlon（MSD）数据集进行肝和肝肿瘤分割任务的 Fine-tune 和测试，并使用 MRI 图像的 BraTS 21 数据集进行脑肿瘤分割，并在 Dice 评分方面优于其他方法。

    Apr, 2022

  • CiT-Net: 卷积神经网络和视觉 Transformer 手牵手进行医学图像分割

    本文提出了一种新的医学图像分割混合架构，手持卷积神经网络和 Transformer，用于动态变形卷积和自适应互补注意模块改进卷积神经网络和 Transformer 的性能，以实现更好的医学图像分割结果。

    Jun, 2023

  • T-former：一种高效的图像修复变形器

    本文中，我们设计了一种新的基于注意力的线性结构，称为 T-former，用于图像修复，实验表明该方法在保持较低的参数数量和计算复杂度的同时，实现了最先进的精度。

    May, 2023

  • nnFormer: 交错 Transformer 用于体积分割

    介绍了一种新的医学图像分割模型 ——nnFormer，利用了 3D Transformer 模型的自注意机制，相比之前的 Transformer 模型在三个公开数据集上都取得了更好的性能。

    Sep, 2021