Nov, 2023

通过统一和定制指令调整，学习一种多任务变压器用于胸片解读

PDF
TL;DR基于多模态深度学习模型的临床应用中的多任务程序，我们提出了一个统一的变压器模型，通过整合定制化指令调整，将不同的视觉密集型任务统一在一个训练框架中，以增加临床解释性和在不同胸部 X 光基准测试中表现出的优越性能。
multi-modal deep learning modelsclinical applicationsmulti-task procedureunified transformer modelchest x-ray benchmarks
发现论文，激发创造
  • 一种基于 Transformer 的表征学习模型，用于临床诊断的多模态输入统一处理

    我们提出了一个基于 Transformer 的诊断辅助模型，可以以统一的方式处理多模态输入，该模型在辨别肺部疾病方面表现出了比仅使用图像模型和非统一多模态诊断模型更高的识别率，并在 COVID-19 患者的不良临床预后方面表现出了更高的预测能力。

    Jun, 2023

  • 修改 Transformer 结构理解用于胸部放射诊断报告生成的迁移学习

    本论文提出了通过域特定预训练和提出改进的 transformer 架构从胸部放射状图像输入生成临床报告的方法，该方法具有标准化、减少错误、节省时间和便于医学访问的优点，同时还使用验证数据集的指标验证了其性能。

    May, 2022

  • 超越图像：胸部 X 光片报告生成的综合多模态方法

    通过结合结构化患者数据和非结构化临床记录，我们提出了一种新颖的多模态深度神经网络框架，用于生成描述医学图像结果的胸部 X 射线检查报告，并通过引入条件交叉多头注意力模块来融合这些异构数据模态，弥合视觉和文字数据之间的语义差距。与仅依赖图像的模型相比，实验证明通过使用附加模态可以显著改善结果，在 ROUGE-L 指标上达到了文献相关最高的性能。此外，我们采用了人工评估和临床语义相似度测量以及词重叠度指标来提高定量分析的深度。由经过认证的放射科医师进行的人工评估确认了该模型在识别高级结果方面的准确性，但也强调需要更多的改进以捕捉细微的细节和临床背景。

    Nov, 2023

  • 利用大规模多模态 Transformer 进行医学诊断：利用不同的数据进行更准确的诊断

    提出了新的可学习的协同学习方法，用以解决多模态深度学习模型中所存在的模型复杂性升级问题，以及其应用于医学临床数据处理中所面临的扩展性难题，并在三个多模态数据集上展现了其卓越的表现。

    Dec, 2022

  • StudyFormer：基于注意力和动态多视角分类器的 X 光图像研究

    该文提出了一种利用卷积神经网络和视觉变压器结合的方法，用于从多视角合并信息以提高 X 射线图像分类性能，实验表明该方法超越了单视角模型以及传统的多视角分类架构。

    Feb, 2023

  • 利用 Transformer 改进多模态和纵向数据的乳腺癌分类和风险评估

    通过多模态变压器（MMT）神经网络，综合使用乳腺 X 光摄影和超声波，针对目前患癌患者和目前无癌患者，识别患者及估计未来胸部癌症风险的研究表明，MMT 在检测现有癌症方面取得了 AUROC 值为 0.943 的成绩，并超过了单模态基线，对于 5 年风险预测，MMT 实现了 AUROC 值为 0.826，胜过以往基于乳腺 X 光摄影的风险模型。本研究凸显了多模态和纵向成像在癌症诊断和风险分层中的价值。

    Nov, 2023

  • 多任务学习在颈椎放射学报告中高效提取病理信息

    本文验证了多任务学习是强大的分类器，可优于或等于多个基于 BERT 的模型和各种任务特定的适配器增强的 BERT 模型的性能，同时也开拓了我们的方法在各种身体部位的放射科医生报告中的应用范围。

    Apr, 2022

  • 多任务学习对脊柱磁共振 (IMR) 报告知识提取的有效性解释

    本文研究了基于预训练的 Transformer 模型在领域特定语料库上微调后对 NLP 领域的影响，强调使用将任务分组的多任务学习，同时提出了使用单一多任务模型可以使多个任务的性能与使用特定任务模型相当并展现了其有效性的验证方法。

    May, 2022

  • 使用非影像数据为条件的 Transformers 生成放射学报告

    该研究提出了一种新颖的多模态变压器网络，将胸部 X 光片（CXR）图像与相关的患者人口统计信息相结合，合成特定患者的放射学报告，并通过综合得出的语义文本嵌入和医学图像 - derived 视觉特征的变压器编码器 - 解码器网络，以提高报告生成的质量。

    Nov, 2023

  • 基于多模态数据的深度学习辅助放射学报告生成调研

    通过深度学习方法，欧州央行会公布最新的 Automatic radiology report generation 的方法，并且总结了该领域内多模态数据获取、数据融合等关键技术的发展，并为进一步研究提供了详尽的信息。

    May, 2024