Jan, 2024

利用大型语言模型在电子健康记录中进行主诉自动完成

PDF
TL;DR利用 LSTM 模型和三种不同的 Biomedical Generative Pretrained Transformers (BioGPT) 变体 (microsoft/biogpt, microsoft/BioGPT-Large 和 microsoft/BioGPT-Large-PubMedQA)，结合 GPT-4 的 OpenAI API，我们开发了一种有效的自动完成工具，用于生成医疗保健领域的主诉文档。BioGPT-Large 模型表现出卓越的性能。
chief complaintmedical recordautocompletion toollstm modelbiogpt
发现论文，激发创造
  • 电子健康档案的自然语言生成

    使用编码器 - 解码器模型，可以从电子健康记录中生成实际数据的一些病人的主诉文本，而且能够去除数据中的个人信息和不常见的缩写和拼写错误，这种模型的算法可以与生成敌对网络（GANs）等算法结合使用，生成完全合成的电子健康记录，这有助于医疗保健提供者和研究人员之间的数据共享，也有助于我们开发出更适合于医疗数据中信息的机器学习方法。

    Jun, 2018

  • 提高临床试验的患者招募效率：基于提示的学习模型应用

    应用基于提示的大型语言模型在临床试验中基于资格标准对患者进行分类的研究提供了有希望的分数，并提出了一种利用 SNOMED CT 本体论进行提取式摘要的方法，该方法也可以应用于其他医学文本。

    Apr, 2024

  • 使用结构化纵向电子健康记录数据激励大规模语言模型进行零样本临床预测

    针对结构化长期电子健康记录 (EHR) 数据与大型语言模型 (LLMs) 集成时的固有复杂性，本研究调查了像 GPT-4 这样的 LLMs 对 EHR 数据的适应性。特别关注其零样本能力，使其能够在并未明确训练的情况下进行预测。通过考虑特定的 EHR 特征 (如单位和参考范围)，采用与临床环境相一致的上下文学习策略，我们的寻求方法能够应对 EHR 数据的纵向、稀疏和知识注入的特性。通过对 MIMIC-IV 和 TJH 数据集进行综合实验，证明了我们精心设计的提示框架下，LLMs 在关键任务 (如死亡率、住院天数和 30 天再入院率) 的预测性能可以提高约 35％，在少样本情景中超越了机器学习模型。我们的研究强调了 LLMs 在提高临床决策能力方面的潜力，尤其是在没有标签数据的紧急医疗情况下，如新发疾病的爆发。可通过此 https URL 获得代码，以便能重现研究结果。

    Jan, 2024

  • 基于领域适应的大型语言模型性能评估 —— 生成医院病程简介的基准测试

    利用临床备注合成摘要（BHC synthesis）的大型语言模型（LLMs）在临床研究中表现出良好的性能，本研究提出了一个新的评估标准和数据集，用于评估临床备注合成中 LLMs 的性能，并通过定量和定性评估展示了高质量的摘要表现。

    Mar, 2024

  • 使用大型语言模型从医生 - 患者对话中生成临床笔记：来自 MEDIQA-Chat 的见解

    本文介绍了我们在 MEDIQA-Chat 2023 共享任务中对于从医生 - 患者对话自动生成临床笔记的提交。我们报道了两种方法的结果：第一种微调共享任务数据上的预训练语言模型（PLM），第二种使用大型语言模型（LLM）进行少量样本的上下文学习（ICL）。两种方法在自动指标（如 ROUGE，BERTScore）上均实现了高性能，并分别排名共享任务的二和一位。专业人士的审查表明，通过基于 ICL 的方法和 GPT-4 生成的笔记与人工书写的笔记一样受欢迎，这使其成为从医生 - 患者对话自动生成笔记的有前途的途径。

    May, 2023

  • 大型通用语言模型在评估从成人重症监护电子病历记录中提取的语义概念上的应用评估

    通过医生评注和认定的方法，我们研究了三种通用大型语言模型（LLMs）在理解和处理真实世界临床笔记中的性能，并发现 GPT-4 整体表现优于其他 LLMs。此外，我们开发了一个全面的定性性能评估框架，旨在验证 LLMs 在处理复杂医学数据方面的能力，并为将来在专门领域的 LLM 评估建立基准。

    Jan, 2024

  • LongHealth：具有长医疗文件的问答基准

    LLMs 在处理医疗保健领域的大量患者记录方面具有潜在的优势，但现有的基准测试不能充分评估 LLMs 在处理真实世界中的冗长临床数据方面的能力。通过提供包含 20 个详细虚构病例的 LongHealth 基准测试，每个案例包含 5090 至 6754 个单词，我们评估了九个开源 LLMs，并将 OpenAI 的专有成本效益高的 GPT-3.5 Turbo 作为比较。结果显示，Mixtral-8x7B-Instruct-v0.1 在从单个和多个患者文档中检索信息的任务上表现最好，但所有模型在需要识别缺失信息的任务中遇到了很大困难，强调了临床数据解释中需要改进的关键领域。然而，当前 LLMs 的准确性水平对于可靠的临床使用是不足的，尤其是在需要识别缺失信息的情景中。LongHealth 基准测试提供了在医疗保健环境中更真实的 LLMs 评估，并强调了进一步改进模型以实现安全有效的临床应用的需要。我们公开提供基准测试和评估代码。

    Jan, 2024

  • 利用电子病历数据进行 5 年慢性病队列预测的大型多模态语言模型

    通过收集来自台湾医院数据库的五年电子健康记录，该研究提出了一个新颖的大型语言多模型（LLMMs）框架，将临床笔记和实验室检测结果的多模态数据结合起来预测慢性疾病风险，观察到将 clinicalBERT 和 PubMed-BERT 与注意力融合相结合可以在多类慢性疾病和糖尿病预测中达到 73% 的准确率，将实验室检测值转化为文本描述后，利用 Flan T-5 模型可以达到 76% 的 ROC 曲线下面积（AUROC），从而显著提高了糖尿病早期预测的准确性。

    Mar, 2024

  • 基于检索增强生成的大型语言模型在零样本疾病表型分类中的应用

    通过使用零射击的基于大型语言模型的方法，结合检索增强生成和 MapReduce 技术，我们在肺动脉高压领域展示了一种有效识别疾病的方法，该方法在诊断中明显优于医生逻辑规则（F1 分数为 0.62 比 0.75），从而有望增强罕见疾病群体的识别和推动临床研究以及关注空缺的发现。

    Dec, 2023

  • 生成型大型语言模型是循证医学的自主实践者

    通过使用人工智能的生成式大型语言模型，可以使其作为自主的循证医学的从业者，通过工具的使用与真实世界的医疗系统进行交互，并以符合指南的方式执行患者管理任务，这有可能通过进一步的改进来推动医疗的转型。

    Jan, 2024