EMNLPOct, 2022

PromptEHR: 基于 Prompt 学习的条件式电子健康记录生成

PDF
TL;DR本文提出了一种基于语言模型将电子医疗记录 (EHRs) 的生成形式转化为文本翻译任务的方法，使得事件插入更加灵活。该方法实现了根据数值和分类人口特征来控制生成的提示学习方式，其评估了两个迷惑度度量，考虑了纵向和跨模态插值的关系，同时利用了隐私保护评估的两个对手，展现了其在 MIMIC-III 数据上生成现实 EHRs 的优越性 (平均 longitudinal imputation perplexity 降低 53.1% 和平均 cross-modality imputation perplexity 降低 45.3% 与最佳基线相比)。
electronic healthcare recordssynthetic ehrs generationlanguage modelsevent imputationprivacy-preserving
发现论文，激发创造
  • 使用结构化纵向电子健康记录数据激励大规模语言模型进行零样本临床预测

    针对结构化长期电子健康记录 (EHR) 数据与大型语言模型 (LLMs) 集成时的固有复杂性，本研究调查了像 GPT-4 这样的 LLMs 对 EHR 数据的适应性。特别关注其零样本能力，使其能够在并未明确训练的情况下进行预测。通过考虑特定的 EHR 特征 (如单位和参考范围)，采用与临床环境相一致的上下文学习策略，我们的寻求方法能够应对 EHR 数据的纵向、稀疏和知识注入的特性。通过对 MIMIC-IV 和 TJH 数据集进行综合实验，证明了我们精心设计的提示框架下，LLMs 在关键任务 (如死亡率、住院天数和 30 天再入院率) 的预测性能可以提高约 35％，在少样本情景中超越了机器学习模型。我们的研究强调了 LLMs 在提高临床决策能力方面的潜力，尤其是在没有标签数据的紧急医疗情况下，如新发疾病的爆发。可通过此 https URL 获得代码，以便能重现研究结果。

    Jan, 2024

  • 通过分层自回归语言模型合成极高维长期电子医疗记录

    通过提出一种分层自回归语言模型（HALO），我们可以生成长期的高维电子病历，这些病历既保留了真实病历的统计特性，又不会泄露隐私；同时可以用于训练准确的机器学习模型，而无需进行可变量的选择或聚合，从而提高 ML 模型的准确性，并能通过将真实和人造数据进行结合来增强 ML 模型的准确性。

    Apr, 2023

  • 全球对比训练与语言监督下的多模态电子健康记录

    现代电子健康记录（EHRs）通过顺序深度学习在个性化患者健康轨迹的跟踪方面拥有巨大的潜力，然而如何有效利用 EHRs 中的多个模态面临重大挑战，因为其复杂特性（如高维度、多模式、稀疏性、不同的记录频率和时间的不规则性）。为了应对医学时间序列中的稀疏性和时间间隔的不规则性，本文引入了一种新的多模态对比学习框架，重点关注医学时间序列和临床笔记。为了利用医学时间序列和临床笔记之间的相互关系，该框架配备了全局对比损失，将患者的多模态特征表示与相应的出院小结进行对齐。通过全局对比来学习区分性的多模态特征。在真实世界的 EHR 数据集上进行了大量实验，证明我们的框架在使用 UF 健康系统的多模态数据（来自 UF Health Gainesville、UF Health Jacksonville 和 UF Health Jacksonville-North 三家医院的 12 万多次大型住院手术）预测九种术后并发症发生的示例任务上优于现有方法。

    Apr, 2024

  • CEHR-GPT：生成具有时间轴的电子健康记录

    通过使用从 CEHR-BERT 导出的特定患者表征，我们展示了使用 GPT 模型来生成患者序列，并能够无缝转换为 OMOP 数据格式的能力。

    Feb, 2024

  • 电子健康档案的自然语言生成

    使用编码器 - 解码器模型，可以从电子健康记录中生成实际数据的一些病人的主诉文本，而且能够去除数据中的个人信息和不常见的缩写和拼写错误，这种模型的算法可以与生成敌对网络（GANs）等算法结合使用，生成完全合成的电子健康记录，这有助于医疗保健提供者和研究人员之间的数据共享，也有助于我们开发出更适合于医疗数据中信息的机器学习方法。

    Jun, 2018

  • 多模态数据的重要性：基于结构化和非结构化电子健康记录的语言模型预训练

    本文提出了一种名为 MedM-PLM 的医学多模态预训练语言模型，能够增强电子健康记录的表示能力，探索结构化和非结构化数据之间的相互作用，用于药物推荐、30 天再入院预测和 ICD 编码等三项临床任务，显示出比其他现有方法更好的性能和更全面的解释能力。

    Jan, 2022

  • 合成电子病历文本生成

    该研究提出了一种基于机器学习和自然语言处理的方法，叫做 mtGAN，用于生成电子病历文本数据，以解决医疗数据难以获得、保密性高的问题，并在中文电子病历文本数据集上进行了评估，取得了一定的成果。

    Dec, 2018

  • 预测扩散模型综合多模态电子健康记录

    通过引入基于扩散的 EHR 数据生成模型 EHRPD 来解决电子健康记录数据生成中存在的局限性，并从真实性、隐私性和实用性的角度对其进行实验验证。

    Jun, 2024

  • 人工临床记录的零样本和少样本生成策略

    使用零样本和少样本提示策略，本研究评估了 Llama 2 LLM 创建合成医疗记录的能力，将其与需要敏感患者数据进行训练的精调方法进行比较，结果显示这种连贯思维提示方法允许零样本模型在 Rouge 评估指标上达到与精调模型相当的结果。

    Mar, 2024

  • 电子健康记录的多模态分析上的对比学习

    该研究提出了一种新颖的多模态特征嵌入生成模型，并设计了一种多模态对比损失函数，通过联合分析结构化和非结构化数据的两种重要模态来捕获患者的完整病历，从而实现多模态电子健康记录特征表示学习并保护隐私。模拟研究结果表明，所提出的算法适用于多种配置，并且进一步验证了该算法在真实世界电子健康记录数据中的临床应用。

    Mar, 2024