从基础到额外特征：超图变换器在电子病历上的预训练 - 微调平衡的临床预测

Jun, 2024

从基础到额外特征：超图变换器在电子病历上的预训练 - 微调平衡的临床预测

From Basic to Extra Features: Hypergraph Transformer Pretrain-then-Finetuning for Balanced Clinical Predictions on EHR

Ran Xu, Yiwen Lu, Chang Liu, Yong Chen, Yan Sun...

TL;DR我们提出了 HTP-Star，它利用超图结构和预训练再微调的框架来模拟电子健康记录数据，实现了额外特征的无缝集成，并设计了两种技术来增强模型的鲁棒性。通过在两个真实电子健康记录数据集上进行实验，我们证明了 HTP-Star 在基础特征和额外特征的病人之间取得了平衡，并一直优于各种基准模型。

Abstract

electronic health records (EHRs) contain rich patient information and are crucial for clinical research and practice. In recent years, deep learning models have been applied to EHRs, but they often rely on massive features, which may not be readily available for all patients. We propos

electronic health records deep learning models htp-star hypergraph structures smoothness-inducing regularization

发现论文，激发创造

医学术语嵌入的分层预训练

这篇论文介绍了利用自然语言处理和表示学习生成医学术语的嵌入，以更好的预测临床决策和患者轨迹，提出了一个新的医学术语表示模型 HiPrBERT，并使用层次结构数据来训练和提高嵌入效果。

Jul, 2023

基于时间感知的异构图变换器与自适应注意力合并的健康事件预测

通过利用电子健康记录 (EHR) 数据在医学领域的广泛应用，使用深度学习方法在疾病风险预测方面取得了早期成功。然而，现有研究对 EHR 数据的潜力未能充分利用，存在着许多关键问题，如融入疾病领域知识、异构学习疾病表示以及捕捉疾病进展的时间动态等。为了克服这些限制，本研究引入了一种新型的异构图学习模型，旨在融合疾病领域知识，阐明药物和疾病之间错综复杂的关系。该模型创新性地将时间数据融入到访问级嵌入中，并利用一个考虑时间的 Transformer 和自适应注意机制来生成患者表示。经过两个医疗数据集的评估，我们的方法在预测准确性和可解释性方面表现出显著提升，为个性化和主动式的医疗管理迈出了实质性的进展。

Apr, 2024

利用图卷积转换器学习电子健康记录的图形结构

本文研究如何在缺少信息的情况下，利用 Transformer 模型来学习电子健康记录的隐含结构，并提出了一种使用数据统计来指导结构学习过程的图卷积 Transformer 模型。实验表明，该模型在预测任务中比以往方法表现更好，可作为一种有效的 EHR 数据表示学习算法。

Jun, 2019

多模态电子健康记录的分层预训练

介绍了一种适用于层次多模式电子健康记录数据的新型、通用的预训练框架 MEDHMP，通过在八个涵盖三个级别的下游任务上的实验结果以及与 18 个基线的比较，证明了该框架的有效性。

Oct, 2023

可扩展和准确的电子健康记录深度学习

使用电子健康记录进行循证医学和准确预测，通过 Fast Healthcare Interoperability Resources (FHIR) 格式表示病人的原始病历记录，并使用深度学习方法进行多中心的多个医疗事件预测，包括住院死亡率、未经计划的 30 天再入院率、医院停留时间延长、所有患者的最终出院诊断等。

Jan, 2018

多模态转换器：将临床记录与结构化电子病历数据融合，可解释的住院死亡率预测

本论文提出一个新型的多模态变压器，用于融合医疗记录数据和医生的述职记录来预测住院死亡率，并使用可视化方法展示关键的医疗记录和医疗数据特征，进而提高了诊断的可解释性和预测的精度。

Aug, 2022

使用时间图形表示对电子健康记录进行预测建模

利用深度学习的预测模型，基于电子病历（EHR），在医疗保健领域备受关注。我们提出了一种新颖的时间异构图模型，将病人的 EHR 建模成历史访问节点和医疗事件节点，并利用时间感知访问节点来捕捉患者健康状况的变化，同时通过将时间边特征、全局位置编码和局部结构编码整合到异构图卷积中，捕捉了时间和结构信息。通过对三个真实数据集进行广泛实验，我们证实了 TRANS 的有效性，结果表明我们提出的方法达到了最先进的性能。

May, 2024

BEHRT: 面向电子健康记录的 Transformer 模型

本研究介绍了 BEHRT：一种深度神经序列转导模型，可用于 EHR（电子病历）的多任务预测和疾病轨迹映射，提供高精度的个性化疾病预测，并可通过其注意力机制提供疾病轨迹的个性化视角。

Jul, 2019

药物推荐的图增强 Transformer 预训练

提出了 G-BERT，结合图神经网络和 BERT 进行医疗代码表示和药物推荐，在利用 EHR 数据预训练的就诊编码器中整合了 GNN 表示，并在单次就诊的患者的 EHR 数据上进行预训练，然后将预训练的访问编码器和表示进行下游预测任务的微调，实现了对药物推荐任务的最新成果。

Jun, 2019

HTPS: 健康数据异构传输预测系统

本文提出的 Heterogeneous Transferring Prediction System（HTPS）采用特征工程机制将医疗数据转化成稀疏和密集特征矩阵，并应用自编码器网络实现特征嵌入和来自异构数据集的知识移植，能在各种预测任务和数据集上优于基准系统，实验结果显示异构数据对系统的负面影响以及 HTPS 的高可转移性。

May, 2023