Jul, 2024

基于器官对比的半遮罩自编码器在胸部CT分割预训练中的应用

HTML
PDF
TL;DR通过提出一种名为组织对比半掩蔽自编码器（TCS-MAE）的新的掩蔽图像建模（MIM）方法，本研究在胸部CT图像的建模中解决了现有MIM方法的两个限制，即由于CT图像中存在的复杂解剖细节导致的特征学习效率低下以及上游和下游模型之间输入不匹配导致的知识转移欠佳。经过对代表性对比、生成和混合自监督学习方法进行系统考察，结果表明，相比现有方法，我们的TCS-MAE更有效地学习了具有组织感知的表征，从而在所有任务中显著提高了分割性能。
发现论文，激发创造
  • 基于遮罩的图像建模技术在三维医学图像分析中的应用进展

    本文研究了遮蔽图像建模技术在医学三维图像分析中的应用，发现其相比基于对比学习的方法能够更快地进行监督学习并达到更高的精度，使用高遮蔽率和相对较小的块大小预测原始像素值是医学图像建模的一项重要自监督预训练任务，轻量级的解码器或投影头设计能够加快训练速度并降低成本，而MIM方法在不同的图像分辨率和标签数据比例下都具有良好的效果。

    Apr, 2022

  • 探究用于多标记胸部疾病分类的遮蔽自编码器

    本文介绍了一种基于自编码器预训练的视觉Transformer模型（ViT）在医学图像分类任务上的性能优化方法，并探讨了策略和技术详细研究。

    Oct, 2022

  • 医学监督下的自编码器：为医学图像分类制定更好的遮盖策略和高效的微调计划

    本文提出了一种 Medical Supervised Masked Autoencoder (MSMAE) 模型来解决传统 Masked Autoencoder (MAE) 模型在医学图像分类和分割中存在的问题，通过监督训练精确地遮蔽医学图像以及在微调阶段通过注意力机制指导遮蔽医学图像，显著提高了 MSMAE 模型的计算效率和医学诊断质量。

    May, 2023

  • 全局-局部蒙版自编码器在体积医学图像分割中的应用

    提出了一种名为全局局部遮挡自编码器 (GL-MAE) 的简单而有效的自监督预训练策略，它可以重构遮挡的全局和局部体积， 并通过全局引导一致性学习和局部到全局的对应加强和稳定掩蔽体积的表示学习。结果表明，在各种体积医学图像细分任务上，与其他自监督算法相比，该方法具有卓越的表现，即使注释很少也是如此。

    Jun, 2023

  • 颠覆性的自编码器：利用低级特征进行三维医学图像预训练

    本文提出了一种针对3D医学放射图像的高效预训练框架，结合局部屏蔽和低层扰动，利用交叉模态对比损失实现多模态预训练，且在多个下游任务中取得了最先进的性能表现。

    Jul, 2023

  • 遮蔽式LoGoNet：医学领域快速精确的三维图像分析

    本研究介绍了一种名为LoGoNet的新型神经网络架构，通过自监督学习方法解决了现有机器学习图像处理方法在医学应用中的挑战，提高了医学影像分割的性能。

    Feb, 2024

  • 多器官自监督对比学习用于乳腺病变分割

    利用自我监督学习和对比学习的方法，在医学成像等标注稀缺的领域中学习表征已被证明是一种有效的方式。本研究通过探索一种新的思路——使用多器官数据集来为特定器官相关目标任务预训练模型，旨在推进我们对对比学习框架的理解。具体而言，我们的目标任务是超声图像中的乳腺肿瘤分割。预训练数据集包括来自其他器官（如肺和心脏）的超声图像以及大量的自然图像。我们的结果表明，与监督基线方法相比，传统的对比学习预训练可以提高性能。此外，我们的预训练模型在只使用一半可用标记数据进行微调时也可以达到相当的性能。我们的发现还表明，预训练多器官数据可以提高下游任务的性能。

    Feb, 2024

  • MiM: 3D 医学图像分析的层叠掩模自监督预训练

    提出一种用于3D医学图像的新型预训练框架“Mask in Mask（MiM）”，通过学习来自不同尺度的分层视觉标记的辨别性表示，在器官/病变/肿瘤分割和疾病分类等任务中展现出MiM相对于其他自我监督学习方法的优越性能，此外，大规模预训练数据集的扩展进一步提升了MiM在下游任务中的表现。

    Apr, 2024

  • 基于拓扑和空间感知的遮蔽自编码器的自预训练用于3D医学图像分割

    我们提出了一种扩展的Masked Autoencoders (MAEs)方法，用于自我预训练3D医学图像分割任务，通过引入新的拓扑损失、预测3D裁剪区域的位置以及与Vision Transformers (ViTs)同时进行预训练，实现对几何形状和空间信息的捕捉，并且在五个公开的3D分割数据集上进行了大量实验证明了我们方法的有效性。

    Jun, 2024

  • AnatoMask：基于重建引导的自遮罩技术增强医学图像分割

    提出了AnatoMask方法，通过动态识别和屏蔽解剖学显著区域，改善预训练效果，从而在自我监督学习中在3D医学图像分割方面表现出卓越的性能和可伸缩性。

    Jul, 2024