Dec, 2023

医学时间序列和笔记的多模态预训练

PDF
TL;DR在重症监护室内，包括临床测量和临床笔记在内的丰富患者数据可供利用，但其分析也面临许多挑战。本研究提出了一种新颖的方法，利用自我监督预训练来解决深度学习模型在重症监护中的标注数据不足问题，并在数据有限的情况下，在院内死亡预测和表型预测等下游任务中优于基线模型，突显其提升重症监护室数据分析能力。
intensive care unitdeep learningself-supervised pretrainingin-hospital mortality predictionphenotyping
发现论文，激发创造
  • 在线临床时间序列多模态对比学习

    利用先进的自监督多模式对比学习技术， 注重临床笔记和时间序列，我们引入了一种损失函数：多模式邻域对比损失 (MM-NCL)，展示了我们方法在线预测任务中出色的线性验证和零样本表现。

    Mar, 2024

  • 常规收集的多变量 ICU 生理信号中的共同潜在表示的协作学习

    在重症监护室（ICU）中，多元时间序列的丰富性为机器学习提供了改进患者表型刻画的机会。与以往主要关注电子健康记录（EHR）的研究不同，本文提出了一种使用常规收集的生理时间序列数据进行表型刻画的机器学习方法。我们的新算法将长短期记忆（LSTM）网络与协同过滤的概念相结合，识别出患者之间共同的生理状态。在实际世界的 ICU 临床数据中测试，我们的方法在脑损伤患者颅内高压（IH）检测方面取得了 0.889 的曲线下面积（AUC）和 0.725 的平均精度（AP）。此外，我们的算法在学习生理信号的结构化潜在表示方面优于自编码器。这些发现突显了我们方法在利用常规多元时间序列改善临床护理实践的患者表型刻画方面的巨大潜力。

    Feb, 2024

  • 使用临床记录和时间序列数据进行重症监护室管理

    通过将临床记录作为另一种数据形式添加到机器学习模型中，可以在 ICU 管理的几项基准任务中实现显著的改进，包括住院死亡率预测、恶化建模和住院时间预测。

    Sep, 2019

  • 利用语言模型预训练改进临床病历的层级病人分类

    提出了一种预先训练的层级循环神经网络模型，通过解析最小处理的临床记录，比传统方法更好地处理了医疗信息技术中的出院诊断分类任务，并应用归因技术来确定模型用于进行预测的单词以及其重要性。

    Sep, 2019

  • 深度学习关注 ICU 中的风险

    利用长短期记忆和层次注意力机制，建立深度学习模型解决 ICU 中生理时间序列数据的不规则和缺失问题，实现对 ICU 死亡风险的预测，并在 PhysioNet 2012 数据集上取得了竞争力和可解释性的结果。

    Jul, 2017

  • 基于自监督表示学习和多图像预测的 COVID-19 预后

    本文使用 self-supervised 学习方法（即 MoCo 方法）实现了以胸部 X 光为基础的 COVID-19 患者恶化预测模型，包括不良事件恶化和氧需求增加两种类型，并提出了可处理多图像序列的新型 Transformer-based 架构，在 96 小时内，模型准确预测了患者的恶化和死亡情况。

    Jan, 2021

  • 处理医学图像深度学习中的小数据集：对卷积模型进行自监督预训练的 CT 扫描上对比对比度和遮码自编码器方法的评估

    深度学习在医学影像中具有潜力，可以减少诊断错误的风险，减轻放射科医生的工作负荷并加速诊断。为了解决医学影像领域注释数据集不足的挑战，我们通过预先训练大型无注释图像数据集上的深度学习模型来实现自我监督学习，并提出了 SparK 预训练方法，它在小型数据集上表现更为稳健。

    Aug, 2023

  • 多模态转换器：将临床记录与结构化电子病历数据融合，可解释的住院死亡率预测

    本论文提出一个新型的多模态变压器，用于融合医疗记录数据和医生的述职记录来预测住院死亡率，并使用可视化方法展示关键的医疗记录和医疗数据特征，进而提高了诊断的可解释性和预测的精度。

    Aug, 2022

  • 使用自我监督知识融合从入院记录中预测临床结果

    该研究旨在通过临床文本的预测，预防医生忽略潜在风险并帮助医院规划能力。使用语言模型分析预测诊断结果、手术、住院死亡率和住院时间。提出了临床结局预训练来整合多个公共来源的患者结局知识，并提出了一种将 ICD 编码层次结构纳入模型的简单方法，以提高模型的性能和可迁移性，同时也揭示了模型的一些缺陷。

    Feb, 2021

  • 基于多模态融合的自监督预测编码模型，在细粒度时间尺度下进行患者恶化预测

    本研究提出了一种基于自我监督预测编码和多模态融合的按小时预测死亡率和升压药需要的方法，并通过广泛的实验证明了该方法在远期预测方面的显着性能提高。

    Oct, 2022