May, 2024

利用提示学习从较低资源语言的 Crohn 病放射学报告中提取结构化信息

PDF
TL;DR自然语言处理在将自由文本放射学报告自动转换为结构化数据方面是至关重要的，但对于较少使用的语言而言，大型语言模型（LLM）在效果和潜在患者隐私风险上往往表现不佳。为了克服这些挑战，我们引入了 SMP-BERT，一种新的提示学习方法，利用报告的结构化特性。在涉及包括 8,000 名患者和 10,000 个以希伯来语编写的 Crohn's 病放射学报告的研究中，SMP-BERT 在性能方面大大超过了传统的微调方法，尤其能够检测到罕见疾病（AUC：0.99 vs 0.94，F1：0.84 vs 0.34）。SMP-BERT 提供了更准确的低资源语言的 AI 诊断能力。
automatic conversionfree-text radiology reportsnatural language processingsmp-bertlow-resource languages
发现论文，激发创造
  • 用生成变换器将自由文本放射学记录重塑为结构化报告

    自由文本放射学报告中提取信息的流程，以及使用自然语言处理和基于 Transformer 的模型填充结构化报告注册表的性能评估和比较。

    Mar, 2024

  • 基于 Transformer 的深度学习在生成结构化放射学报告中的应用

    本研究提出一种以 transformers 为基础的细粒度命名实体识别体系结构，用于临床信息提取，通过 fine-tuning 在 ROUGE-1、ROUGE-2、ROUGE-L 和 BLEU 度量指标上的表现优于之前使用的人工神经网络和卷积神经网络模型。

    Sep, 2022

  • 提高临床试验的患者招募效率：基于提示的学习模型应用

    应用基于提示的大型语言模型在临床试验中基于资格标准对患者进行分类的研究提供了有希望的分数，并提出了一种利用 SNOMED CT 本体论进行提取式摘要的方法，该方法也可以应用于其他医学文本。

    Apr, 2024

  • 多语言结构化放射学报告的知识图谱嵌入

    我们引入了一种新颖的轻量级基于图的嵌入方法，特别适用于放射学报告，通过多语言 SNOMED 临床术语知识库连接报告中的医学术语，揭示了临床术语之间的潜在关系，实现了更好地理解和临床准确性的表示，而不依赖于大规模预训练数据集。我们展示了这种嵌入方法在 X 光报告的疾病分类和图像分类两个任务上的应用，并且相较于基于 BERT 的模型，在体积和训练数据需求方面要小得多。同时，我们展示了图嵌入方法如何利用跨模态知识传递，在不同语言之间具有可用性。

    Sep, 2023

  • 自然语言处理在放射学报告中的应用的系统性综述

    该研究系统评估了最近 NLP 应用于放射学报告方面的文献，并将其归类为 6 个临床应用类别，结果表明，深度学习的使用在增加，但传统的机器学习方法仍然普遍存在。

    Feb, 2021

  • 零轉化臨床自然語言處理中大型語言模型的提示策略實證評估

    本文综合系统地对五个临床自然语言处理任务（临床意义消除、生物医学证据提取、共指消解、药物状态提取和药物属性提取）的提示工程进行了实验研究，评估了多种提示类型在三种先进的大型语言模型（GPT-3.5、BARD 和 LLAMA2）上的性能，并提出了对临床 NLP 领域提示工程的新见解和指南。

    Sep, 2023

  • 自监督上下文语言表征用于放射学报告，以提高通信紧急性识别

    本文利用 BERT 模型在无标注大语料库中预训练生成上下文表示，进而构建医学无标注文本的自监督学习模型提高判别医学报告的信息提示等级，并取得了显著性能优于 Word2vec 模型的效果。

    Dec, 2019

  • 使用预训练语言模型和提示的小样本学习，为低资源语言提取临床信息

    使用轻量级蒙特卡洛语言模型，自动生成医疗信息，以及进行临床文件，低资源环境下的可解释性研究。

    Mar, 2024

  • 通过基于 Transformer 的提示工程提升自动医疗报告的摘要性能

    通过使用两种不同的提示策略（即 shot 提示和 pattern 提示），该研究通过结合范围和领域上下文，改善了自动医学报告的性能，并且获得了最高分数，超过了一般执业医生的参考文献。然而，由于报告中添加了冗余和相关陈述，自动报告的长度大约是人工参考的两倍。

    Nov, 2023

  • 使用预训练的 LLM 生成结构化胸部 X 射线报告的提示引导方法

    用预训练的大型语言模型进行指导的方法可以生成基于解剖学和临床提示的结构化胸部 X 射线报告，以实现医疗报告的自动化生成和临床的交互性。

    Apr, 2024