Feb, 2024

TEE4EHR：电子健康记录中更好的表示学习的 Transformer 事件编码器

PDF
TL;DRTEE4EHR 是一个具有点过程损失的 Transformer 事件编码器模型，用于分析电子健康记录中实验室检验模式，通过在各种基准的事件序列数据集上验证其实用性，并在两个真实的电子健康记录数据库上进行实验证明了其能够改善电子健康记录中的表示学习并在临床预测任务中提供帮助。
irregular samplingelectronic health recordsmachine learning modelspoint processtransformer event encoder
发现论文，激发创造
  • 神经时序点过程模型用于电子健康记录建模

    研究了医疗资源分配的效率和定制化医疗的发展，使用 Temporal Point Process（TPP）来建模 EHRs，提出了神经网络参数化的 TPPs，经过对合成 EHRs 和基准数据的评估，表明 TPPs 在 EHRs 上明显优于非 TPP 同行，提出了注意力机制神经 TPP，优于现有模型，符合现实世界的可解释性要求，是临床决策支持系统的重要组成部分。

    Jul, 2020

  • 模拟电子病历的可解释神经时空点过程建模

    基于 word2vec 和 Hawkes 过程，提出了一个可解释的事件序列建模框架 inf2vec，其中事件影响直接参数化并可进行端到端学习，实验证明了我们模型在事件预测和类型影响学习方面的优越性。

    Apr, 2024

  • Transformer 霍克斯过程

    提出了一种基于 Transformer 和 Hawkes 过程的模型（THP），能够更好地捕捉事件序列数据中的短期和长期时间依赖关系，并能够通过集成结构性知识来改善预测表现。

    Feb, 2020

  • DuETT: 用于电子健康记录的双事件时间变换器

    本文介绍了一种 DuETT 架构，它是 Transformer 模型的一个扩展，为医疗电子病历中的时间序列数据提供了鲁棒的表示。通过对 DuETT 模型的自我监督的预测任务进行训练，该模型在 MIMIC-IV 和 PhysioNet-2012 EHR 数据集的多项下游任务中优于现有的深度学习模型。

    Apr, 2023

  • 自我监督对比预训练多元点过程

    使用 Transformer 编码器的自监督学习方法来处理多元事件流数据，在预训练阶段引入了新的策略，通过随机遮盖事件时刻和插入不存在事件的时刻来扩展遮盖的效果，通过对比真实事件和模拟的不存在事件来提高下游任务的性能，实验证明相较于现有模型，该方法在下一个事件预测任务上能够提升高达 20% 的性能。

    Feb, 2024

  • 基于神经网络的时间点过程的元学习

    提出了一种用于周期性感知预测短序列未来事件的元学习方法，通过点过程建模和时间周期模式考虑来提高事件预测性能。

    Jan, 2024

  • 动态潜在图引导的神经时态点过程

    提出了一种新颖的变分自编码器来捕捉时间动态的混合，通过使用学习到的依赖图来预测未来事件时间和事件类型，在预测真实世界事件序列中表现出更高的准确性，相较于现有先进的神经点过程。

    Dec, 2023

  • TimEHR：基于图像的电子健康档案时间序列生成

    提出了一种基于生成对抗网络的新颖生成模型 TimEHR，该模型将时间序列数据视为图像，并基于两个条件生成对抗网络，第一个生成对抗网络生成缺失模式，第二个生成对抗网络生成基于缺失模式的时间序列值。三个真实世界的电子健康记录数据集上的实验结果表明，TimEHR 在保真度、实用性和隐私指标方面优于现有方法。

    Feb, 2024

  • 无强度学习时空点过程

    研究如何通过直接建模条件插值时间的条件分布来克服强制使参数化强度函数的局限性，并提出了一个简单的混合模型，其匹配了基于流的模型的灵活性，但也允许闭式采样和计算矩，该模型在标准预测任务中表现出最先进的性能，适用于学习序列嵌入和填补缺失数据等新领域。

    Sep, 2019

  • TAPER：基于时间的病人电子病历表示

    应用 Transformer 网络和 BERT 语言模型，将包含多种数据模式的电子病历编入一个统一矢量表示，从而实现了病人就诊数据的高效表示，这种方法在 MIMIC-III ICU 数据集上得到了出色的性能和可泛化性。

    Aug, 2019