Mar, 2024

使用预训练语言模型和提示的小样本学习，为低资源语言提取临床信息

PDF
TL;DR使用轻量级蒙特卡洛语言模型，自动生成医疗信息，以及进行临床文件，低资源环境下的可解释性研究。
automatic extractionmedical informationclinical documentsinterpretabilitylow-resource setting
发现论文，激发创造
  • 弱监督提示学习下的低资源医学图像分类探索

    通过弱监督的提示学习方法 MedPrompt，自动生成医学提示并利用预训练的视觉 - 语言模型，在低资源情况下提升医学图像识别的性能和准确率。

    Feb, 2024

  • 三种语言下的少样本临床实体识别：掩码语言模型优于 LLM 提示

    对于临床实体识别任务，大型语言模型的少样本能力在低资源环境下取得高性能，但在临床领域，轻量级的监督标注模型结合掩蔽语言模型的表现更好，并且二者的 CO2 排放量相对较低。

    Feb, 2024

  • 大型语言模型是少样本临床信息提取器

    本文研究了如何使用大型语言模型在缺乏公共医疗语料库和注释的情况下，零和少样本学习从临床文本中提取信息，包括跨度识别、令牌级序列分类和关系提取。通过引入新的 CAS 数据集并进行手动再注释，GPT-3 系统在这些任务上明显优于现有的零和少样本基线。

    May, 2022

  • 基于 Few-Shot 的跨语言迁移方法用于混合代码临床文本的粗粒度去识别化

    本文实证展示了预训练语言模型在多语言跨领域少样本学习任务中的交叉语言迁移特性，并将其应用于解决缺乏数据和真实世界挑战的混合代码（西班牙语 - 加泰罗尼亚语）临床笔记：保护个人隐私信息的命名实体识别。

    Apr, 2022

  • 零轉化臨床自然語言處理中大型語言模型的提示策略實證評估

    本文综合系统地对五个临床自然语言处理任务（临床意义消除、生物医学证据提取、共指消解、药物状态提取和药物属性提取）的提示工程进行了实验研究，评估了多种提示类型在三种先进的大型语言模型（GPT-3.5、BARD 和 LLAMA2）上的性能，并提出了对临床 NLP 领域提示工程的新见解和指南。

    Sep, 2023

  • 提高临床试验的患者招募效率：基于提示的学习模型应用

    应用基于提示的大型语言模型在临床试验中基于资格标准对患者进行分类的研究提供了有希望的分数，并提出了一种利用 SNOMED CT 本体论进行提取式摘要的方法，该方法也可以应用于其他医学文本。

    Apr, 2024

  • 知识注入引导：基于大型语言模型的临床文本数据生成评估与推进

    通过结合临床领域特定知识图谱和大语言模型，在临床自然语言处理中提出了一种创新、资源高效的方法 ClinGen，通过临床知识提取和上下文信息化的大语言模型指导数据生成，持续提升性能，对生成训练实例的多样性和真实数据分布进行有效调整。

    Nov, 2023

  • 利用预训练语言模型和电子健康记录背景提取生物医学事实知识

    通过在 EHR 笔记上下文中添加提示，我们设计了并验证了一系列实验，用于实现动态上下文下的生物医学语言模型内置知识库的任务。我们的实验表明，这些语言模型所具有的知识可以从 EHR 笔记的噪声知识中区分出正确的知识，这种区分能力也可以作为一个新的度量来评估模型所具有的知识量。

    Aug, 2022

  • 使用预训练视觉语言模型的医学图像理解：一项全面研究

    本文通过研究预训练视觉语言模型在医学图像领域的知识传递能力，发现合理设计的医学提示语是调用预训练模型知识的关键。通过使用在领域间共享的表达属性提示，可实现知识跨越领域，改进泛化能力，对新对象的识别有所优化。此外，通过自动化生成医学提示的三种方法，可以将专家级的医学知识和图像特定信息注入提示语中，进行细粒度的信息定位，试验表明，与默认提示相比，巧妙设计的医学提示显著提高了零样本性能，且微调模型超过了受监督的模型。

    Sep, 2022

  • 跨语言德语生物医学信息提取：从零样本到人机协作

    本文介绍了一项项目，旨在从德语临床叙述中提取生物医学信息，使用少量注释的策略，包括迁移学习和主动学习。接下来，我们探讨了用户界面的设计，旨在提供模型检查和在交互环境中获得用户注释。

    Jan, 2023