拥抱自然语言处理（NLP）基于数字病理学：对比基于 NLP 和卷积神经网络的深度学习管道

Feb, 2023

拥抱自然语言处理（NLP）基于数字病理学：对比基于 NLP 和卷积神经网络的深度学习管道

Time to Embrace Natural Language Processing (NLP)-based Digital Pathology: Benchmarking NLP- and Convolutional Neural Network-based Deep Learning Pipelines

PDF

Min Cen, Xingyu Li, Bangwei Guo, Jitendra Jonnagaddala, Hong Zhang...

TL;DR通过比对 NLP 模型与 CNN 模型预测九种大肠癌生物标志物的结果，本研究表明 NLP 模型在数字病理领域的优越性，并证明相比大数据集，较小数据集下 NLP 模型得到的预测结果不比大数据集下的数字病理模型差。因此，NLP 模型已经可以成为数字病理领域的新基础模型。

Abstract

nlp-based computer vision models, particularly vision transformers, have been shown to outperform cnn models in many imaging tasks. However, most digital pathology artificial-intelligence models are based on CNN

nlp-based computer vision digital pathology biomarker prediction cnn models nlp models

发现论文，激发创造

DPSeq: 基于序列器架构的预测癌症生物标志物的新型高效数字病理分类器

本研究开发了一种高效的数字病理分类器 DPSeq，通过微调附带水平和垂直双向长短期记忆 (BiLSTM) 网络的测序器结构，预测结肠直肠癌 (CRC) 的癌症生物标志物，在国际数据集 MCO 和 TCGA 上评估了 DPSeq 的预测性能表现优异，并在预测 MSI 状态、BRAF 突变和 CIMP 状态方面超过了 4 个 CNN 和 2 个 transformer 模型。

May, 2023

数字病理学中视觉 Transformer 和卷积神经网络的比较研究

本研究探索了视觉 Transformer 在数字病理学全幻灯片图像中，用于四种组织类型的肿瘤检测和组织类型识别。实验结果表明，在大量未标注全幻灯片图像的预训练下，视觉 Transformer 在肿瘤检测方面比 ResNet18 表现稍好。

Jun, 2022

Virchow：百万切片数字病理基础模型

使用自监督学习方法，创建了 Virchow 计算病理学的 632 百万参数深度神经网络基础模型，以解决病理学任务中缺乏数据的挑战，并在病理图像分类、癌症检测和亚型、生物标志物预测等多个任务中表现出色，显示了预训练在病理学图像数据集上的重要性和潜力。

Sep, 2023

对于患者表型，规则模型和深度学习模型的比较

本文研究了深度学习技术在自然语言处理中是否可以有效用于患者表型特征提取和预测，并与传统 NLP 方法进行比较。结果表明，卷积神经网络是一种性能优良且易解释的深度学习方法，可以有效提高患者表型预测的性能，降低注释复杂度，并自动学习与每个患者表型相关的短语。

Mar, 2017

PathologyBERT -- 面向病理领域的预训练与新 Transformer 语言模型比较研究

介绍了 PathologyBERT - 一个采用 347,173 个组织病理学报告进行预训练的蒙面语言模型，以支持病理学领域的文本挖掘，并与其他模型进行了性能比较，以提高肿瘤识别和自然语言理解等方面的性能。

May, 2022

基于深度学习和集成机器学习的结直肠癌组织学分解性能提升

利用混合深度学习和集成机器学习模型，该研究提出了一种超越以往解决方案的组合模型，对肠直肠癌的组织分类任务取得了 96.74％的准确率，在外部测试集上达到 99.89％的准确率。

Oct, 2023

基于深度学习的医学文本情感分析

本研究使用双向编码器表示来自转换器（BERT）的基本预训练模型，并在输出层使用卷积神经网络（CNN）、全连接网络（FCN）和图卷积网络（GCN）等模块进行实验和分析。结果表明，在与 BERT 等预训练模型结合使用较小的医学文本数据集进行训练时，CNN 模型优于其他网络。该研究强调了在医学领域实现有效情感分析中模型选择的重要性，并为未来研究开发更高效的模型架构提供了参考。

Apr, 2024

临床放射肿瘤学中的自然语言处理技术和框架简介

该研究回顾了现代自然语言处理模型的关键技术创新，并介绍了在放射肿瘤学研究中使用大型语言模型的最新应用，同时提出了一种全面的框架来评估 NLP 模型以便在临床应用前进行严格的评估和验证。

Nov, 2023

计算病理学的视觉 - 语言基础模型探索

CONCH 是一个基于多种来源的组织病理学图像、生物医学文本和 117 万图像标题对的视觉语言基础模型，可在涉及组织病理学图像和文本的各种下游任务中实现最先进的性能，为机器学习基于工作流程提供极少或无需进一步监督微调的可能性。

Jul, 2023

超越多实例学习：全分辨率全内存端到端病理切片建模

人工智能（AI）在大规模数字化临床数据集上训练系统以提高健康结果方面具有巨大潜力。计算病理学作为对诊断和生物标志物具有重大影响的大量显微镜图像数据，处于这一发展的前沿。百亿像素病理学切片由于其巨大的尺寸而面临独特挑战，通常被分成数万个较小的瓷砖进行分析。我们提出了一种新方法，通过在内存中全面高分辨率地同时训练瓷砖编码器和整个切片聚合器来解决这个问题，弥合了输入和切片级监督之间的差距。虽然计算成本更高，但详细的定量验证显示了病理基础模型的大规模预训练的前景。

Mar, 2024