Jul, 2023

颠覆性的自编码器：利用低级特征进行三维医学图像预训练

PDF
TL;DR本文提出了一种针对 3D 医学放射图像的高效预训练框架，结合局部屏蔽和低层扰动，利用交叉模态对比损失实现多模态预训练，且在多个下游任务中取得了最先进的性能表现。
pre-trainingrepresentation learningmedical imageslocal maskingcross-modal contrastive loss
发现论文，激发创造
  • 处理医学图像深度学习中的小数据集：对卷积模型进行自监督预训练的 CT 扫描上对比对比度和遮码自编码器方法的评估

    深度学习在医学影像中具有潜力，可以减少诊断错误的风险，减轻放射科医生的工作负荷并加速诊断。为了解决医学影像领域注释数据集不足的挑战，我们通过预先训练大型无注释图像数据集上的深度学习模型来实现自我监督学习，并提出了 SparK 预训练方法，它在小型数据集上表现更为稳健。

    Aug, 2023

  • 医学影像的 3D 自监督方法

    本文提出了针对五种不同的自监督学习方法的三维版本，利用这些技术进行神经网络特征的学习，通过对三维图像的预处理，显著提高语义表示的精确性，从而在医学成像领域实现了数据效率、性能和收敛速度的提升，具有较高的竞争力和可扩展性。

    Jun, 2020

  • DrasCLR: 一种用于三维医学图像学习疾病相关和解剖学特定特征的自监督框架

    本文提出了一个名为 DrasCLR 的新型自监督学习（SSL）框架，采用基于实例鉴别的 SSL 方法，通过两种特定于领域的对比学习策略，在 3D 医学成像中提取具有解析解剖学特定功能的特征，可用于不需要冠军数据来完成许多下游任务，比如肺部图像的预测和分割任务，包括病人存活预测任务和广泛且密集预测的肺气肿子类型检测，这可以大大减少注释精力，并且证明了在自监督学习框架中引入解剖上下文的重要性。

    Feb, 2023

  • 具有重构预训练和异质性抗干扰调节的统一多模式诊断框架

    提出了一种统一的医学多模态诊断 (UMD) 框架，包括量身定制的预训练和下游调优策略，以解决医学多模态预训练面临的数据和模态异质性挑战，在五个公共医学数据集上的广泛实验表明我们的 UMD 框架在三种下游任务上显著优于现有方法。

    Apr, 2024

  • Med3D：三维医学影像分析的迁移学习

    本研究为培训深度学习算法所需数据量的问题提出了一种解决方案，通过建立医学图像分割数据集和使用 Med3D 进行多域协同训练，可以加速涉及 3D 医学图像的任务的训练收敛速度和提高准确度。

    Apr, 2019

  • 医用 Transformer：3D MRI 分析通用脑编码器

    本文提出了一种新的转移学习框架 —— 医学变压器，能够在充分利用三个平面信息的同时，有效地使用 2D 图像切片的序列建模三维体积图像。在大规模健康人脑磁共振成像数据集上进行自监督学习预训练后，评估结果表明，我们的做法优于现有 State-of-the-art 的转移学习方法，可将分类任务的参数数量有效减少近 92%。

    Apr, 2021

  • 医学视觉与语言预训练的多模态掩码自编码器

    提出了一种基于 M$^3$AE 的自监督学习模型，通过随机遮盖图像和文本中的像素和标记来学习跨模态领域知识的医学视觉语言模型，并在三个任务上实现了最先进水平的结果。

    Sep, 2022

  • 医学图像分割密集层级表示的自监督学习

    通过自监督框架学习适用于密集下游任务的体素级粗细粒度表示，通过平衡多尺度特征的贡献，确保学习到的表示捕捉到粗粒度和细粒度的细节，并在有限的注释数据下持续优于基准模型。

    Jan, 2024

  • 可解释的二维视觉模型用于三维医学数据

    本研究提出了一种简单的方法，使用 2D 网络和中间特征表示来处理 3D 数据，并使用特征减少模块进行分类，以解决在医学分类的基准测试和实际临床数据中训练成功受限的问题。

    Jul, 2023

  • 揭示不完整模态脑肿瘤分割：利用掩蔽预测自编码器和发散学习

    通过使用 masked predicted pre-training 和 knowledge distillation 技术，以及采用 Holder pseudo-divergence 代替 KLD 作为 distillation loss，该研究在多模式磁共振成像中对脑肿瘤进行分割，取得了显著的性能提升。

    Jun, 2024