Aug, 2023

仅使用自监督预训练提高医学图像分类中的噪声标签问题

PDF
TL;DR噪声标签对基于深度学习的监督图像分类性能有负面影响，而自监督预训练权重的模型初始化可以减少特征损坏并提高分类性能，但尚未探索其他自监督方法对噪声标签的影响以及医学图像中仅使用自监督预训练方法对噪声标签的影响。本研究探索了对两个医学数据集进行对比和预备任务的自监督预训练，用于初始化深度学习分类模型的权重，结果显示使用自监督学习获得的预训练权重可以有效学习更好的特征，并提高对噪声标签的鲁棒性。
noisy labelsdeep learningsupervised image classificationself-supervised pretrainingmedical images
发现论文，激发创造
  • 自监督预训练如何提升在不同医学图像分类数据集中对噪声标签的鲁棒性？

    医学图像分类中存在嘈杂标签会对深度学习产生重大影响，自监督预训练可以提高对嘈杂标签的鲁棒性，但这种鲁棒性受诸如类别数目、数据集复杂性和训练规模等因素的影响。本研究全面探讨了自监督学习与医学图像分类中嘈杂标签鲁棒性之间的相互作用，结果显示在五个数据集中（Fetal plane, DermNet, COVID-DU-Ex, MURA, NCT-CRC-HE-100K），DermNet 是最具挑战性的数据集，但对嘈杂标签表现出更强的鲁棒性，而对于嘈杂标签的鲁棒性增强方面，对比学习是最有效的自监督方法。

    Jan, 2024

  • 大型自监督模型推进医学影像分类

    本研究探讨了自监督学习作为医学图像分类的预训练策略的有效性，使用领域特定的无标签医学图像进行自监督学习，并引入一种新颖的多实例对比学习 (MICLe) 方法，为医学图像分析中的皮肤病和胸部 X 光分类任务提供了更为准确的预测。

    Jan, 2021

  • 具有噪声标签的遥感图像分割的任务特定预训练

    提出了利用噪声标签进行遥感图像分割任务特定预训练的方法，并研究其对饱和模型的影响和鲁棒性。实验证明了该方法在提高预训练策略准确性和多样性方面的潜力。

    Feb, 2024

  • 通过自注意力和自监督学习实现对标签噪音容忍的医学图像分类

    本文发明了一种噪声鲁棒训练方法，以应对医学图像分类中不可避免的标签噪声问题，其中包括对比学习和组内注意力 mixup 策略，并通过严格实验验证表明，该方法能够有效地处理标签噪声，并优于现有方法。

    Jun, 2023

  • 处理医学图像深度学习中的小数据集：对卷积模型进行自监督预训练的 CT 扫描上对比对比度和遮码自编码器方法的评估

    深度学习在医学影像中具有潜力，可以减少诊断错误的风险，减轻放射科医生的工作负荷并加速诊断。为了解决医学影像领域注释数据集不足的挑战，我们通过预先训练大型无注释图像数据集上的深度学习模型来实现自我监督学习，并提出了 SparK 预训练方法，它在小型数据集上表现更为稳健。

    Aug, 2023

  • 自监督预训练用于二维医学图像分割

    本文探讨了在医学图像分割中监督学习与自监督学习的预训练方法，发现在自监督学习方法中，使用自然图像和目标领域特定图像进行预训练可以实现最快和最稳定的收敛，在低数据场景下，将图像分类网络预训练在 ImageNet 上可以获得最佳精度。

    Sep, 2022

  • 半监督和自监督学习在医学图像上的准确率与时间前沿

    对医学图像分类应用进行的研究表明，使用未标记的数据可以提高分类器的性能，通过自监督学习和半监督学习的方法，本研究在医学图像领域设计了一个基准测试，发现 MixMatch、SimCLR 和 BYOL 方法是强有力的选择，并提供适用于新医学任务的设置以及进一步搜索的方法。

    Jul, 2023

  • 医学影像分析中的噪声标签深度学习技术探究与研究

    探讨了深度学习中标签噪声的影响，特别是在医疗应用中，给出了针对性的解决方案和建议，以提高深度模型在医疗图像分析中的准确程度。

    Dec, 2019

  • 有限数据注释的自监督 RCNN 用于医学图像分割

    本文提出一种基于自监督预训练的医学图像分析深度学习训练策略，通过将不同扭曲应用于图像的随机区域，预测扭曲的类型和信息的损失，并使用改进的 Mask-RCNN 体系结构定位扭曲位置和恢复原始图像像素，将该方法用于分割任务，能够提高 Dice 分数 20%。

    Jul, 2022

  • 自我监督预训练对放射影像诊断任务影响的调查

    自监督预训练在医学图像诊断任务中通过改善特征表示进而提高了下游任务性能，尤其是在无标注样本数量远远超过有标注样本数量时。该综述总结了近期在 X 射线、计算机断层扫描、磁共振和超声成像领域中应用自监督预训练与全监督学习相比较的研究，最重要的发现是自监督预训练普遍提高了诊断任务的性能。基于综合证据，为考虑使用自监督学习的实践者提供了相关的建议，同时针对当前研究中存在的局限性，提出了未来研究的方向与实践，如将临床知识与理论基础的自监督学习方法结合、在公共数据集上进行评估、扩展对超声成像领域的研究证据，以及表征自监督预训练对泛化性能的影响。

    Sep, 2023