一种面向计算病理学的通用自监督模型
本文通过训练多种自监督模型,发现采用基于 DINO 知识蒸馏的 Vision Transformers 模型能够实现对组织形态学特征进行有效解释,在多个弱监督和补丁级任务上进行了验证。
Mar, 2022
本文提出了一种自我监督的深度学习算法,采用 CNN 实现对病理图像的多任务分类,并结合具有内在标签的预处理任务来实现半监督学习和领域自适应。实验结果表明该算法在病理学图像分类任务中具有较高的性能表现,并能够适用于其他计算病理学应用领域中。
Aug, 2020
利用基于多分辨率背景下组织病理全切片图像的潜在上下文线索的自我监督预训练任务,以及新型的师生半监督一致性模式,使用任务无关和任务特定无标签数据来学习强大的监督信号进行无监督表征学习,并在有限标签数据下表现出与其他现有最先进方案相近乃至优越的性能。
Feb, 2021
最近在自我监督学习方面的突破已经实现了使用大规模无标签数据集来训练视觉基础模型,该模型可以推广到各种下游任务。本项目的目标是训练最大的学术基础模型,并通过在大型临床病理数据集上的预训练和下游性能评估来对最重要的自我监督学习算法进行基准测试。结果表明,与自然图像的预训练相比,病理数据的预训练对下游性能是有益的。此外,DINO 算法在所有测试任务中实现了更好的泛化性能。这些结果标志着计算病理学研究的一个阶段性变化,为基于大规模、并行预训练的更高性能模型开辟了新时代。
Oct, 2023
利用 PANTHER 方法从病理全切片图像中学习表征,在无监督的方式下利用组织中的形态冗余建立了一种无特定任务的滑片表征,通过评估在 13 个数据集上的亚型和生存任务,证明了 PANTHER 在性能和模型可解释性方面的优势。
May, 2024
提出一种新颖的基于细胞核感知的自监督预训练框架,通过组织病理图像与伪掩膜图像之间的无配对图像转换来捕获细胞核形态和分布信息,并采用条件和随机样式表示来调节生成过程,以实现预训练图像的真实性和多样性;同时,采用实例分割引导策略来捕获实例级信息。实验结果表明,该预训练方法在 Kather 分类、多实例学习和 5 个密集预测任务上优于有监督方法,并且在 8 个半监督任务上比其他自监督方法取得了更好的结果。
Sep, 2023
提出了一种适用于数字病理学领域的自监督方法,利用同构网络从全切片图像中提取特征来创建稳健和紧凑的图像描述符,其由长度为 128 的特征向量生成,并结合实验结果表明,相比于现有的 ImageNet 和通用的自监督特征提取方法,该方法在图像检索方面具有更好的表现。
May, 2019
使用自监督学习方法,创建了 Virchow 计算病理学的 632 百万参数深度神经网络基础模型,以解决病理学任务中缺乏数据的挑战,并在病理图像分类、癌症检测和亚型、生物标志物预测等多个任务中表现出色,显示了预训练在病理学图像数据集上的重要性和潜力。
Sep, 2023
本研究提出了一种无监督学习的方法,利用生成对抗网络(GAN)生成与真实组织学图像相似的组织学图像,以提高分类 CNN 的性能,该方法不仅能在缺少监督数据的情况下有效地进行癌症诊断,而且对于含有监督数据的情况仍能表现出色。
Dec, 2017
本文介绍一种使用 SimCLR 方法进行自监督学习的无监督学习方法,该方法在数字病理学数据集上的预训练在多项下游任务中优于在 ImageNet 上预训练的网络,F1 平均分提高了 28% 以上。
Nov, 2020