Oct, 2023

FaultSeg Swin-UNETR：基于 Transformer 的自监督预训练模型用于故障识别

PDF
TL;DR通过自监督预训练方法来增强地震断层识别，在地球物理学和地质学领域具有重要意义。我们引入了自监督学习的概念，利用大量相对容易获得的无标签地震数据进行预训练，并在微调阶段对核心网络进行了改进，以实现更有效的断层检测。实验结果表明，我们提出的方法在 Thebe 数据集上达到了最先进性能。
seismic fault recognitionself-supervised pretrainingautomated fault recognition methodsswing transformer modelfine-tuning phase
发现论文，激发创造
  • Swin Transformer 的自监督跨模态预训练

    通过增强 Swin Transformer，我们的模型 SwinFUSE (Swin 多模态融合的无监督增强) 在医学影像领域从不同的影像模态中学习，提升了下游性能，并展现出了对领域变化的适应性以及显著的泛化能力。

    May, 2024

  • Swin Transformer 自监督预训练用于三维医学图像分析

    本文介绍了一种自我监督学习框架，使用适合医学图像分析的代理任务，成功地在各种人体器官的公开可用的 CT 图像上预训练模型，并在医学分割基准数据集上进行了微调，实现了最先进的匹配结果。

    Nov, 2021

  • 使用自监督预训练和定制微调的 Transformer 智能异常检测对车道渲染的应用

    该研究提出了一个四阶段的流程，在自主预训练和深度学习技术的基础上改善了车道渲染图像异常检测的准确性和效率，证实了该流程在数字导航系统中的优越性。

    Dec, 2023

  • 使用自监督预训练的十字形窗口变换器，在双参数磁共振成像中检测临床上显著的前列腺癌

    本研究通过引入自监督预训练框架，提出了一种全新的端到端 Cross-Shaped windows (CSwin) transformer UNet 模型，用于检测临床重要的前列腺癌症，通过在大量未标记的数据上进行学习，提高数据效率和网络的泛化能力，成功地提高了模型性能。

    Apr, 2023

  • 自监督图转换器用于深度伪造检测

    该研究介绍了一种深假检测框架，利用自监督预训练模型提供出色的泛化能力，能够应对常见的扭曲并解释模型的决策，实验证明该框架的有效性超过当前最先进方法。

    Jul, 2023

  • Swin UNETR: 基于 Swin Transformers 的 MRI 图像脑瘤语义分割

    利用 Swint UNEt TRansformers 模型和多模 MRI 数据对 3D 颅脑肿瘤进行语义分割，可以转换为序列预测问题，以 5 个不同分辨率提取特征，通过跳过连接连接到 FCNN 解码器，并在 BraTS 2021 分割挑战中表现出优越的性能。

    Jan, 2022

  • 利用自监督语音模型进行音素分割

    应用迁移学习到音素分割任务中，在自监督预训练中学习的表示对任务的效用得到证明。通过在 Transformer 风格编码器中增加有策略的卷积，操作预训练中学到的特征。在 TIMIT 和 Buckeye 语料库上训练和测试了该模型，分别在监督和非监督设置下达到了以前的最佳性能。在代码审查和尝试复现过去的分割结果中观察到，有必要明确广泛使用的评估指标的定义和实现。通过划分两种不同的评估方案并描述它们的细微差别来解决了这种不确定性。

    Nov, 2022

  • 食管癌与危及器官的自监督学习及其不确定性量化分割

    本研究旨在展示自我监督预训练模型在器官风险和肿瘤分割任务中相对于昂贵的全监督学习的影响，所提出的 MC-Swin-U 算法采用了蒙特卡罗变换器，与许多其他模型不同，其使用蒙特卡罗 Dropout 戳降低了不确定性，并在公共和私人数据集上进行了测试和验证， 相比大规模注释成本提供了附加收益，并且明显提高了分割评分。

    May, 2023

  • 自我监督学习提高深度学习对 CT 图像差异的肺肿瘤分割的鲁棒性

    自我监督学习（SSL）是一种从无标签数据中提取有用特征表示并在有限标记样本的下游任务中进行精细调整的方法。本论文比较了基于自然数据和自我预训练的转换器模型在医学图像分析中的鲁棒性，发现自然预训练模型对肺肿瘤分割的 CT 图像差异具有更高的适应性，同时 Swin 架构从这种预训练中受益更多。

    May, 2024

  • UNetFormer: 用于三维医学图像分割的统一视觉 Transformer 模型和预训练框架

    本文提出了一个统一的框架，它由两个体系结构组成，称为 UNetFormer，具有基于 3D Swin 变压器的编码器和卷积神经网络和变压器的解码器。该架构的设计允许在准确性和计算成本之间满足宽范围的权衡要求。使用 CT 图像进行自我监督预训练，使用 Medical Segmentation Decathlon（MSD）数据集进行肝和肝肿瘤分割任务的 Fine-tune 和测试，并使用 MRI 图像的 BraTS 21 数据集进行脑肿瘤分割，并在 Dice 评分方面优于其他方法。

    Apr, 2022