Aug, 2021

自监督特征在医学图像分类任务中的可迁移性如何？

PDF
TL;DR本文评估了使用三种 Self-Supervised Pretraining 技术 (SimCLR、SwAV 和 DINO) 预训练的特征在医疗分类任务中的转移能力，并证明相对于监督预训练，自监督预训练模型产生了更丰富的嵌入，利于下游任务的线性评估和模型微调。此外，作者介绍了 Dynamic Visual Meta-Embedding (DVME) 作为一种端到端的迁移学习方法，并证明与单一预训练模型相比，使用 DVME 能显著提高所选任务的性能，并且可以推广到任何预训练模型的组合。
发现论文，激发创造
  • 大型自监督模型推进医学影像分类

    本研究探讨了自监督学习作为医学图像分类的预训练策略的有效性，使用领域特定的无标签医学图像进行自监督学习，并引入一种新颖的多实例对比学习 (MICLe) 方法，为医学图像分析中的皮肤病和胸部 X 光分类任务提供了更为准确的预测。

    Jan, 2021

  • 医学图像分析的迁移学习系统基准测试分析

    通过对比自然图像与医学图像，本论文通过大规模评估了不同图像预训练模型在医学图像分析领域的可迁移性，提出了将自然图像模型迁移到医学图像中的实用方法，并发现新的关键性能：针对医学分割任务 fine-grained 数据预训练模型具有独特的局部特征表示，自我监督的 ImageNet 模型比有监督的 ImageNet 更有效地学习整体特征，连续预训练可以缩小自然图像与医学图像领域之间的跨度，有望引导深度学习在医学图像领域的未来研究。

    Aug, 2021

  • 自监督模型的迁移表现如何？

    本文探讨了 13 种自监督学习模型对 40 个下游任务的传输性能，发现自监督学习在多数任务上的表现均优于监督学习，但仍需解决通用预训练的问题。探究特征表明，自监督学习方法在保留颜色信息方面不如监督学习方法，但分类器校准和过度拟合问题相对较少。

    Nov, 2020

  • 自我监督预训练对放射影像诊断任务影响的调查

    自监督预训练在医学图像诊断任务中通过改善特征表示进而提高了下游任务性能，尤其是在无标注样本数量远远超过有标注样本数量时。该综述总结了近期在 X 射线、计算机断层扫描、磁共振和超声成像领域中应用自监督预训练与全监督学习相比较的研究，最重要的发现是自监督预训练普遍提高了诊断任务的性能。基于综合证据，为考虑使用自监督学习的实践者提供了相关的建议，同时针对当前研究中存在的局限性，提出了未来研究的方向与实践，如将临床知识与理论基础的自监督学习方法结合、在公共数据集上进行评估、扩展对超声成像领域的研究证据，以及表征自监督预训练对泛化性能的影响。

    Sep, 2023

  • 有限训练数据下的自监督学习用于皮肤癌诊断

    在本文中，我们展示了使用一种称为 Barlow Twins 的自我监督学习算法进行预训练的模型可以胜过常规的监督转移学习流程，该模型在小型标记皮肤病变数据集上进行微调后，在大型测试集中取得了 70% 的平均测试准确率，相比于监督转移学习的 66%。这暗示在标记困难的环境中收集更多未标记图像可能是一条获取更多标记数据的替代途径。我们的框架适用于低标记数据情境下的癌症图像分类模型。

    Jan, 2024

  • 自监督预训练用于二维医学图像分割

    本文探讨了在医学图像分割中监督学习与自监督学习的预训练方法，发现在自监督学习方法中，使用自然图像和目标领域特定图像进行预训练可以实现最快和最稳定的收敛，在低数据场景下，将图像分类网络预训练在 ImageNet 上可以获得最佳精度。

    Sep, 2022

  • 自监督预训练改善多种肺部超声解读任务的性能和推理效率

    通过自监督预训练可以生成适用于多种 B 模式肺部超声分析分类任务的神经网络特征提取器，经预训练模型在三项肺部超声任务的微调后，平均跨任务下的受试者工作特性曲线（AUC）面积分别提高了 0.032 和 0.061， 紧凑非线性分类器在单个预训练模型输出的特征上训练并不能提高所有任务的性能，但比起独立微调模型的串行执行，推理时间缩短了 49%；在仅使用 1％的标签进行训练时，预训练模型始终优于全监督模型，对于视图分类任务，最大观察到的测试 AUC 提高了 0.396。总体而言，结果表明自监督预训练有助于生成用于肺部超声分类器的初始权重。

    Sep, 2023

  • 自监督预训练在皮肤病变分析中的评估

    本文比较了三种自监督预训练模型和一个有监督的基线模型，在五个数据集上进行了皮肤病变的诊断。结果表明，自监督预训练模型可以在提高准确性和降低结果的变异性方面与有监督的基线模型相媲美，尤其在数据量少的情况下表现更加稳定和优秀。

    Jun, 2021

  • 处理医学图像深度学习中的小数据集：对卷积模型进行自监督预训练的 CT 扫描上对比对比度和遮码自编码器方法的评估

    深度学习在医学影像中具有潜力，可以减少诊断错误的风险，减轻放射科医生的工作负荷并加速诊断。为了解决医学影像领域注释数据集不足的挑战，我们通过预先训练大型无注释图像数据集上的深度学习模型来实现自我监督学习，并提出了 SparK 预训练方法，它在小型数据集上表现更为稳健。

    Aug, 2023

  • DINOv2: 无监督学习强韧可靠的视觉特征

    本文提出了一种基于预训练和自监督方法的计算机视觉模型，该模型使用大量的数据自动构建一种多样的图像数据集，能够在各种任务和图像的情况下快速、高效地生成功能强大的视觉特征。

    Apr, 2023