基础模型的低资源化微调在组织病理学中超越了现有技术水平
最近在自我监督学习方面的突破已经实现了使用大规模无标签数据集来训练视觉基础模型,该模型可以推广到各种下游任务。本项目的目标是训练最大的学术基础模型,并通过在大型临床病理数据集上的预训练和下游性能评估来对最重要的自我监督学习算法进行基准测试。结果表明,与自然图像的预训练相比,病理数据的预训练对下游性能是有益的。此外,DINO算法在所有测试任务中实现了更好的泛化性能。这些结果标志着计算病理学研究的一个阶段性变化,为基于大规模、并行预训练的更高性能模型开辟了新时代。
Oct, 2023
深度学习在病理学中的应用包括疾病预测和个体化治疗,研究表明,在计算机病理学中,传统的染色归一化处理在深度学习时代仍然存在争议,采用以自我监督学习训练的特征提取器可以在省内存和计算资源的同时不影响下游性能,同时对染色和图像扩增具有鲁棒性。
Nov, 2023
通过半自动化数据整理和引入病理学领域知识,我们扩展了数字病理学全幻灯片图像的基础模型的最新技术。我们的模型在公共和内部基准测试中表现良好,尽管使用的幻灯片数量比竞争模型少一个数量级。我们预计在更多数据和更大的模型规模下,我们的方法将进一步提高性能,并能够处理日益复杂的诊断和生物医学研究中的实际问题。
Jan, 2024
本文介绍了基于现代自监督学习算法的深度学习方法的最新进展,以及构建医学图像基础模型的相关工作。我们通过扩展性强的训练流程和综合分析不同超参数选择和训练技术,构建了一系列针对病理学图像的基础模型,并经过实验评估,在乳腺癌亚型分类和结肠癌核分割等不同任务上达到了最先进的性能水平。最后,为了统一领域内的评估方法并简化不同基础模型的比较,我们还提供了开源框架,用于在不同任务中一致评估病理学基础模型。
Mar, 2024
大型预训练transformers在基于任务的人工智能模型中发挥着重要作用,其中组织病理学基础模型在卵巢癌亚型分类中表现出良好的潜力,并通过多个评估指标显示出性能优势。
May, 2024
使用Virchow瓷砖嵌入和临床报告文本进行预训练的PRISM为H&E染色组织病理学提供了幻灯片级基础模型,能够生成临床报告,并通过线性分类器实现针对癌症检测、亚型识别和生物标志物预测等任务的高性能表现。
May, 2024
本研究解决了当前病理基础模型在外部队列和临床相关任务中独立评估不足的问题。我们基准测试了十种组织病理基础模型在多个癌症患者的样本上的表现,发现CONCH模型在42%的任务中表现最佳,而融合多个互补基础模型在66%的任务中优于单一模型。研究结果强调数据多样性在模型性能提升中的重要性。
Aug, 2024
本研究解决了计算病理学中基础模型面对真实病理图像数据的变异性和分布偏移的鲁棒性问题。通过评估两种基础模型(UNI和CONCH)在前列腺癌分级模型中的应用,本文揭示了尽管这两种模型相对基线表现良好,但在某些情况下,绝对表现仍然不令人满意。这一发现突显了大规模和多样化数据集训练的基础模型在实际应用中的局限性。
Oct, 2024
本研究解决了数字病理学领域模型适应性不足的问题,提出了利用基础模型在大规模领域特定数据集上进行训练的方法。研究发现,基础模型在皮肤癌六个亚型预测方面表现优于使用ImageNet预训练的模型,具有显著的临床应用潜力。
Oct, 2024