是否进行预训练?组织病理学语义分割领域专用预训练的案例研究
该论文研究了域特定预训练模型对神经胶质母细胞瘤分类的影响和应用性,通过考虑目前最先进的多实例学习模型,CLAM 和 TransMIL,并评估模型的置信度和预测性能,表明域特定预训练有助于提高模型置信度并实现 WSI 基础的神经胶质母细胞瘤亚型分类的最新最佳性能。
Feb, 2023
本研究中,我们探讨了多任务学习作为预训练模型用于数字病理分类任务的方法,通过构建 22 个分类任务和近 900k 图像的资源池并使用简单结构和训练策略创建了可转移模型,并提出了一个稳健的模型选优协议,根据目标任务,我们展示了使用我们模型作为特征提取器时,其性能要么显著优于 ImageNet 预训练模型,要么提供相当的性能。Fine-tuning 技术可以恢复 ImageNet 特征的泛化性不足,提高性能。
May, 2020
提出一种新颖的基于细胞核感知的自监督预训练框架,通过组织病理图像与伪掩膜图像之间的无配对图像转换来捕获细胞核形态和分布信息,并采用条件和随机样式表示来调节生成过程,以实现预训练图像的真实性和多样性;同时,采用实例分割引导策略来捕获实例级信息。实验结果表明,该预训练方法在 Kather 分类、多实例学习和 5 个密集预测任务上优于有监督方法,并且在 8 个半监督任务上比其他自监督方法取得了更好的结果。
Sep, 2023
最近在自我监督学习方面的突破已经实现了使用大规模无标签数据集来训练视觉基础模型,该模型可以推广到各种下游任务。本项目的目标是训练最大的学术基础模型,并通过在大型临床病理数据集上的预训练和下游性能评估来对最重要的自我监督学习算法进行基准测试。结果表明,与自然图像的预训练相比,病理数据的预训练对下游性能是有益的。此外,DINO 算法在所有测试任务中实现了更好的泛化性能。这些结果标志着计算病理学研究的一个阶段性变化,为基于大规模、并行预训练的更高性能模型开辟了新时代。
Oct, 2023
利用基于多分辨率背景下组织病理全切片图像的潜在上下文线索的自我监督预训练任务,以及新型的师生半监督一致性模式,使用任务无关和任务特定无标签数据来学习强大的监督信号进行无监督表征学习,并在有限标签数据下表现出与其他现有最先进方案相近乃至优越的性能。
Feb, 2021
本文提出了一种自我监督的深度学习算法,采用 CNN 实现对病理图像的多任务分类,并结合具有内在标签的预处理任务来实现半监督学习和领域自适应。实验结果表明该算法在病理学图像分类任务中具有较高的性能表现,并能够适用于其他计算病理学应用领域中。
Aug, 2020
我们在本文中对用于成年型弥漫性胶质瘤的计算机辅助分类的各种迁移学习策略和深度学习架构进行了全面比较。我们评估了针对组织病理学图像目标领域的域外 ImageNet 表示的泛化能力,并研究了使用自监督和多任务学习方法进行预训练的在域适应的影响。此外,我们提出了一种半监督学习方法,其中利用微调模型来预测整张幻灯片图像的未标注区域的标签。在使用先前步骤中确定的真实标签和弱标签进行重新训练后,模型表现优异,平衡准确率为 96.91%,F1 分数为 97.07%,并最大程度地减轻了病理学家的注释工作量。最后,我们提供了一种工作在幻灯片图像级别的可视化工具,生成能突出肿瘤区域的热图,从而为病理学家提供幻灯片图像中最有信息的部分的见解。
Sep, 2023
利用 DenseNet-161 和 ResNet-50 预训练 CNN 模型,通过迁移学习的方法对数字组织病理学补丁进行分类,实验结果表明,这种方法可以自动检测和分类疾病,并在分类效果方面表现出色。
Mar, 2019