我们提出了基于机器学习的 TrialDura 方法，利用多模态数据（包括疾病名称、药物分子、试验阶段和符合条件）估计临床试验的持续时间，使用针对生物医学语境进行特定调整的 Bio-BERT 嵌入来提供对临床试验数据的更深入和相关的语义理解，模型的分层注意机制连接了所有嵌入以捕捉它们的相互作用并预测临床试验的持续时间，与其他模型相比，我们提出的模型表现出更准确的临床试验持续时间预测，平均绝对误差（MAE）为 1.04 年，均方根误差（RMSE）为 1.39 年。

Apr, 2024

针对结构化长期电子健康记录 (EHR) 数据与大型语言模型 (LLMs) 集成时的固有复杂性，本研究调查了像 GPT-4 这样的 LLMs 对 EHR 数据的适应性。特别关注其零样本能力，使其能够在并未明确训练的情况下进行预测。通过考虑特定的 EHR 特征 (如单位和参考范围)，采用与临床环境相一致的上下文学习策略，我们的寻求方法能够应对 EHR 数据的纵向、稀疏和知识注入的特性。通过对 MIMIC-IV 和 TJH 数据集进行综合实验，证明了我们精心设计的提示框架下，LLMs 在关键任务 (如死亡率、住院天数和 30 天再入院率) 的预测性能可以提高约 35％，在少样本情景中超越了机器学习模型。我们的研究强调了 LLMs 在提高临床决策能力方面的潜力，尤其是在没有标签数据的紧急医疗情况下，如新发疾病的爆发。可通过此 https URL 获得代码，以便能重现研究结果。

Jan, 2024

应用基于提示的大型语言模型在临床试验中基于资格标准对患者进行分类的研究提供了有希望的分数，并提出了一种利用 SNOMED CT 本体论进行提取式摘要的方法，该方法也可以应用于其他医学文本。

Apr, 2024

本论文提出一个新型的多模态变压器，用于融合医疗记录数据和医生的述职记录来预测住院死亡率，并使用可视化方法展示关键的医疗记录和医疗数据特征，进而提高了诊断的可解释性和预测的精度。

Aug, 2022

利用电子健康记录数据和机器学习指导未来决策需要解决长 / 短期依赖和疾病与干预措施之间的交互等挑战，而双向变压器已经有效地应对了前者，通过对一个来源（例如 ICD10 代码）进行掩码处理，并训练变压器使用其他来源（例如 ATC 代码）进行预测来解决后者。

Feb, 2024

通过使用两种不同的提示策略（即 shot 提示和 pattern 提示），该研究通过结合范围和领域上下文，改善了自动医学报告的性能，并且获得了最高分数，超过了一般执业医生的参考文献。然而，由于报告中添加了冗余和相关陈述，自动报告的长度大约是人工参考的两倍。

Nov, 2023

我们提出了一个动态嵌入和分词框架，通过学习多模态临床时间序列的时间感知表示，并结合时间交叉注意力，将其整合到滑动窗口关注的多任务 Transformer 分类器中，在预测超过 120,000 例住院手术的九种术后并发症的示例任务中，使用来自美国三家医院和两个学术医疗中心的多模态数据，我们的嵌入和分词框架优于基线方法。

Mar, 2024

应用 Transformer 网络和 BERT 语言模型，将包含多种数据模式的电子病历编入一个统一矢量表示，从而实现了病人就诊数据的高效表示，这种方法在 MIMIC-III ICU 数据集上得到了出色的性能和可泛化性。

Aug, 2019

本文提出了一种名为 MedM-PLM 的医学多模态预训练语言模型，能够增强电子健康记录的表示能力，探索结构化和非结构化数据之间的相互作用，用于药物推荐、30 天再入院预测和 ICD 编码等三项临床任务，显示出比其他现有方法更好的性能和更全面的解释能力。

Jan, 2022

本文提出了一种基于语言模型将电子医疗记录 (EHRs) 的生成形式转化为文本翻译任务的方法，使得事件插入更加灵活。该方法实现了根据数值和分类人口特征来控制生成的提示学习方式，其评估了两个迷惑度度量，考虑了纵向和跨模态插值的关系，同时利用了隐私保护评估的两个对手，展现了其在 MIMIC-III 数据上生成现实 EHRs 的优越性 (平均 longitudinal imputation perplexity 降低 53.1% 和平均 cross-modality imputation perplexity 降低 45.3% 与最佳基线相比)。

Oct, 2022