Jun, 2023

复杂任务的基石：领域转移下放射学报告的鲁棒性生成事件抽取

PDF
TL;DR本文介绍了一种从放射学报告中提取信息以降低标注数据需求的方法，并比较了基于 BERT 的任务特定分类层和基于 T5 的多通道文本生成模型在应用领域中的泛化能力。另外，该文提出了创新的模型推理技术，将复杂任务分解为更小的子任务块，通过多任务联合训练实现了模型单次扫描时的高效率。同时，该文所述方法利用目标领域的上下文信息，增强了模型的领域自适应能力，进而使得在临床应用中更加便捷。
radiology reportsmulti-pass t5-based text-to-text generative modelsinference costsubtask blocksdomain adaptation
发现论文，激发创造
  • 多任务学习在颈椎放射学报告中高效提取病理信息

    本文验证了多任务学习是强大的分类器，可优于或等于多个基于 BERT 的模型和各种任务特定的适配器增强的 BERT 模型的性能，同时也开拓了我们的方法在各种身体部位的放射科医生报告中的应用范围。

    Apr, 2022

  • 用生成变换器将自由文本放射学记录重塑为结构化报告

    自由文本放射学报告中提取信息的流程，以及使用自然语言处理和基于 Transformer 的模型填充结构化报告注册表的性能评估和比较。

    Mar, 2024

  • 提高图像到文本放射学报告生成的事实完整性和一致性

    通过引入新的激励机制，结合现有语义等效性指标和强化学习方法，我们的放射学报告生成系统成功地在临床信息提取性能 F1 得分上取得了 22.1 的改进，并且相较于基线，能更加准确地生成完整一致的报告。

    Oct, 2020

  • 医学语义辅助变压器模型用于放射学报告生成

    本文提出了一种利用稀疏注意力块和双线性池化捕捉细粒度图像特征之间高阶交互的记忆增强型稀疏注意力块，并引入新颖的医学概念生成网络来预测细粒度语义概念，并将其作为指导结合到自动生成医学报告的过程中，最终在 MIMIC-CXR 及图像字幕生成和医学报告生成多个领域的基准测试中，表现出了优异的性能。

    Aug, 2022

  • 基于渐进式 Transformer 的放射学报告生成

    提出一个基于课程学习的顺序（即，图像 - 文本 - 文本）生成框架，从而将放射学报告的生成问题分为两步。使用变压器体系结构，将图像以步骤一为全局概念生成，然后进行二次生成，提高了两个基准数据集的最新技术水平。

    Feb, 2021

  • 基于多模态数据的深度学习辅助放射学报告生成调研

    通过深度学习方法，欧州央行会公布最新的 Automatic radiology report generation 的方法，并且总结了该领域内多模态数据获取、数据融合等关键技术的发展，并为进一步研究提供了详尽的信息。

    May, 2024

  • 基于多视图影像融合和医学概念增强的自动放射学报告生成

    提出了一种基于深度学习技术的生成式编码解码模型，通过对大量胸部 X 光图像进行预先训练并提取医疗概念，结合词级别的注意力机制，成功生成精准较为自然的放射学报告。

    Jul, 2019

  • 关于医学影像报告的自动生成

    研究了医学影像的自动生成报告问题，提出了多任务学习框架、注意力机制和递归神经网络以解决标签预测、异常区域定位和长段落生成等难点问题，并在两个公共数据集上进行了验证。

    Nov, 2017

  • 有效微调以提升大型多模态放射学报告生成模型

    利用生成性人工智能进行医学图像的放射学报告撰写可极大地减少了时间成本和错误率。本研究中，我们提出了一个简单而有效的两阶段微调方案，通过软性视觉提示将视觉特征与大型语言模型的文本嵌入空间对齐。我们的框架在没有领域特定预训练的情况下取得了最先进的性能，并对软性视觉提示和注意力机制进行了详细分析，为未来的研究方向提供了启示。

    Dec, 2023

  • 通用与领域适应的大型语言模型在胸部放射学报告数据提取中的应用

    无结构数据的放射科医生可能对临床护理有价值，但风格的变化限制了使用。本研究比较了使用领域适应的语言模型（RadLing）和通用大型语言模型（GPT-4）从胸部放射学报告中提取常见数据元素（CDE）的系统性能。

    Nov, 2023