组织病理学的领域特定优化和多样化自监督模型评估
本文介绍一种使用SimCLR方法进行自监督学习的无监督学习方法,该方法在数字病理学数据集上的预训练在多项下游任务中优于在ImageNet上预训练的网络,F1平均分提高了28%以上。
Nov, 2020
利用基于多分辨率背景下组织病理全切片图像的潜在上下文线索的自我监督预训练任务,以及新型的师生半监督一致性模式,使用任务无关和任务特定无标签数据来学习强大的监督信号进行无监督表征学习,并在有限标签数据下表现出与其他现有最先进方案相近乃至优越的性能。
Feb, 2021
使用不同领域预训练模型对组织学影像进行初始化可显著提高疾病分类和细胞分割的效果,尤其对于腺体分割任务有显著的改善,而细胞分割任务则无明显改善。
Jul, 2023
使用超过100万个组织样本预训练的自我监督模型UNI,在计算病理学中取得了巨大的突破,具有分辨率无关的组织分类、少样本类别原型的幻灯片分类以及疾病亚型分类等新的建模能力,为解决解剖病理学中各种具有挑战性的任务和临床工作流提供了数据高效、泛化和迁移能力的人工智能模型。
Aug, 2023
最近在自我监督学习方面的突破已经实现了使用大规模无标签数据集来训练视觉基础模型,该模型可以推广到各种下游任务。本项目的目标是训练最大的学术基础模型,并通过在大型临床病理数据集上的预训练和下游性能评估来对最重要的自我监督学习算法进行基准测试。结果表明,与自然图像的预训练相比,病理数据的预训练对下游性能是有益的。此外,DINO算法在所有测试任务中实现了更好的泛化性能。这些结果标志着计算病理学研究的一个阶段性变化,为基于大规模、并行预训练的更高性能模型开辟了新时代。
Oct, 2023
通过细化基础模型,仅经历两小时或三天的单个GPU训练,我们可以在计算病理学中的特征提取上相媲美或超越现有的方法,这表示即使资源有限,也可以针对特定下游任务和数据集训练一个定制的特征提取器。
Jan, 2024
我们提出了一种新颖的生成方法用于组织病理学图像的领域泛化,通过使用一种生成的自监督视觉转换器从图像片段中提取特征,并将它们无缝地融合到原始图像中,从而创建具有不同属性的新颖的合成图像,丰富数据集,从而提高深度学习模型在未见领域中的泛化能力。
Jul, 2024
利用自我监督学习(SSC)训练病理基础模型的应用在过去几年有了显著增长,公开提供了多个在大量临床数据上训练的模型,将极大地增强计算病理学的科研能力、弥合研究与临床应用的鸿沟。本研究提供了一个包含具有临床相关终点的病理学数据集合,其中包括与癌症诊断以及来自两个医疗中心标准医院运营期间生成的各种生物标记物相关的临床切片,利用这些数据集对公开的病理基础模型的性能进行系统评估,并提供培训新的基础模型和选择适当的预训练模型的最佳实践见解。
Jul, 2024
本研究解决了当前病理基础模型在外部队列和临床相关任务中独立评估不足的问题。我们基准测试了十种组织病理基础模型在多个癌症患者的样本上的表现,发现CONCH模型在42%的任务中表现最佳,而融合多个互补基础模型在66%的任务中优于单一模型。研究结果强调数据多样性在模型性能提升中的重要性。
Aug, 2024