在多样病理数据集上进行自监督学习的基准测试
对自我监督学习算法在计算病理学中的适应性进行了研究,包括提出了针对病理图像特点的增强方法、正则化函数和位置编码,并通过多个基准测试评估了这些改进对算法性能的影响。
May, 2024
最近在自我监督学习方面的突破已经实现了使用大规模无标签数据集来训练视觉基础模型,该模型可以推广到各种下游任务。本项目的目标是训练最大的学术基础模型,并通过在大型临床病理数据集上的预训练和下游性能评估来对最重要的自我监督学习算法进行基准测试。结果表明,与自然图像的预训练相比,病理数据的预训练对下游性能是有益的。此外,DINO 算法在所有测试任务中实现了更好的泛化性能。这些结果标志着计算病理学研究的一个阶段性变化,为基于大规模、并行预训练的更高性能模型开辟了新时代。
Oct, 2023
本文提出了一种自我监督的深度学习算法,采用 CNN 实现对病理图像的多任务分类,并结合具有内在标签的预处理任务来实现半监督学习和领域自适应。实验结果表明该算法在病理学图像分类任务中具有较高的性能表现,并能够适用于其他计算病理学应用领域中。
Aug, 2020
通过自监督学习和迁移学习在治疗性视网膜病分类中评估了四个预训练的自监督学习模型和两个迁移学习模型,使用小规模的光学相干断层扫描(OCT)图像,结果表明自监督学习模型在平衡和不平衡的训练情景下表现出卓越性能,并显示 MoCo-v2 方案的自监督学习模型在不平衡情景下具有一致的出色表现。
Apr, 2024
本文提出了一个名为 DrasCLR 的新型自监督学习(SSL)框架,采用基于实例鉴别的 SSL 方法,通过两种特定于领域的对比学习策略,在 3D 医学成像中提取具有解析解剖学特定功能的特征,可用于不需要冠军数据来完成许多下游任务,比如肺部图像的预测和分割任务,包括病人存活预测任务和广泛且密集预测的肺气肿子类型检测,这可以大大减少注释精力,并且证明了在自监督学习框架中引入解剖上下文的重要性。
Feb, 2023
通过利用生成扩散模型,我们提出了一种自监督学习方法,用于分割组织病理学图像,并采用基于多损失函数的微调方法进行下游任务。
Sep, 2023
利用基于多分辨率背景下组织病理全切片图像的潜在上下文线索的自我监督预训练任务,以及新型的师生半监督一致性模式,使用任务无关和任务特定无标签数据来学习强大的监督信号进行无监督表征学习,并在有限标签数据下表现出与其他现有最先进方案相近乃至优越的性能。
Feb, 2021
在相对有限 / 受约束的数据集中,通过比较实验评估了现代视觉自监督学习方法的有效性,发现针对特定领域的下游任务,在领域内的低数据量自监督预训练优于在通用数据集上进行大规模预训练,为该领域中各类自监督学习方法的性能提供了有价值的见解,并提出了直接的未来研究方向。
Apr, 2024