Aug, 2023

大型语言模型用于细分 Barrett 食管诊断分类

PDF
TL;DR我们开发了一种通用的基于 Transformer 的方法来自动提取 Barrett 食管炎（BE）病理报告中的关键诊断表型，进行二元非典型增生分类和多类别 BE 相关诊断分类，通过使用临床预训练的大型语言模型，我们得到了与自定义规则系统相当的性能。
barrett's esophagusdiagnostic codesautomated data extractiondysplasia classificationmulti-class diagnosis classification
发现论文，激发创造
  • 采用带类别感知损失的知识蒸馏进行内窥镜疾病检测

    本文提出了一个利用深度学习来改善诊断失误率的框架，针对胃肠道癌症的诊断，利用端到端的师生学习方式，采用多类别学生网络来利用训练过的师范模型的类别概率，从而提高困难检测病变的定位并最小化漏检率，模型在两个数据集上都实现了更高的 mAP，并且具有泛化性。

    Jul, 2022

  • PathologyBERT -- 面向病理领域的预训练与新 Transformer 语言模型比较研究

    介绍了 PathologyBERT - 一个采用 347,173 个组织病理学报告进行预训练的蒙面语言模型，以支持病理学领域的文本挖掘，并与其他模型进行了性能比较，以提高肿瘤识别和自然语言理解等方面的性能。

    May, 2022

  • 应用自然语言处理技术自动提取接受放射治疗的患者病历中食管炎的存在和严重程度

    这篇论文使用自然语言处理技术从临床笔记中自动提取配合 CTCAE 指南的食管炎毒性严重程度，取得了让人满意的结果，为在扩展领域下基于 NLP 自动化详细毒性监测提供了切实可行的解决方案。

    Mar, 2023

  • 乳腺癌标本报告的分层分类系统（HCSBC）-- 一种用于评估严重程度和诊断的端到端模型

    癌症病理报告的自动分类可以从非结构化报告中提取信息，并将每个报告分类到结构化的诊断和严重程度类别中。我们开发了一种基于分层混合变压器的分类系统用于乳腺癌标本报告，并比较了我们的模型与其他几种最先进的机器学习和深度学习模型。

    Nov, 2023

  • 一种基于 Transformer 的胃肠道疾病检测方法

    本研究使用视觉转换器和迁移学习模型对内窥镜图像进行特征分类，从而协助医疗诊断，识别肠道疾病，准确率可达 95.63％。与预训练的卷积神经网络模型 DenseNet201 进行比较，并证明视觉转换器在各种数量化性能评估指标上均优于 DenseNet201。

    Oct, 2022

  • 利用大型语言和视觉模型从大规模图像 - 文本结肠镜记录中提取和浓缩知识

    使用大型语言和视觉模型的最新进展，我们提出了 EndoKED，一种用于深度知识提取和蒸馏的数据挖掘范式，可以自动将原始结肠镜记录转化为具有像素级注释的图像数据集。通过验证 EndoKED 使用的多中心原始结肠镜记录数据集（约 100 万张图像），我们证明其在训练息肉检测和分割模型方面具有卓越的性能。此外，EndoKED 预训练的视觉骨干为光学活检提供了数据高效和可推广的学习，实现了回顾性和前瞻性验证中的专家级表现。

    Oct, 2023

  • 电子病历上乳腺癌表型 NLP 算法跨院评估

    本研究通过乳腺癌表型提取任务，评估了基于 BERT 的临床自然语言处理模型在不同临床设置下的普适性。结果表明，CancerBERT 模型具有最佳的学习能力和普适性，并且模型的普适性与样本之间的相似度有关。

    Mar, 2023

  • ExBEHRT：基于扩展 Transformer 的电子健康记录预测疾病亚型与进展

    本研究引入了 ExBEHRT，这是对 BEHRT（应用于电子健康记录的 BERT）进行扩展的一种算法，通过应用不同算法来解释其结果，将特征空间扩展到多个多模态记录，并在不同疾病的各种下游任务中表明附加功能显著提高了模型性能，同时通过对肿瘤患者的模型表示进行聚类，显示了该模型对疾病具有一种隐式理解能力，能够将同一癌症类型的患者分类为不同的风险组。

    Mar, 2023

  • 通过生物医学 - 语言知识增强的多标签分类预测基因突变从全切片图像中

    从全幻灯图像中预测基因突变对于癌症诊断至关重要。本研究设计了一种生物知识增强的 PathGenomic 多标签 Transformer，通过构建基因优先级和基因突变预测模块，提高了预测性能，实验证明该方法优于现有最先进技术。

    Jun, 2024

  • 基于 Transformer 的口腔上皮异型增生分割模型

    我们开发了一种基于 Transformer 的新管线，以改善血红素和伊红染色全切片图像中口腔上皮畸形（OED）的检测和分割。我们的模型在从英国和巴西三个外部中心收集的测试数据上验证后，表现良好，并取得了最先进的结果。这是第一项在癌前组织病理学图像中使用 Transformer 进行分割的外部验证研究，我们公开提供的模型显示出巨大的潜力，可成为完全集成管线的第一步，实现更早和更有效的 OED 诊断，最终使患者受益。

    Nov, 2023