Apr, 2022

使用残差专家混合模型学习调整临床序列

PDF
TL;DR本文提出了一种基于 Mixture-of-Experts 结构的神经网络模型来提升基于电子病历的多变量临床事件预测任务中的预测性能。该模型通过用多个 (experts) RNN 模型覆盖患者亚群来建模患者序列数据的异质性，并通过预定义在基于 GRU 的基本模型上建立残差信号来适应单一基本 RNN 模型的有限预测能力，从而实现对局部事件序列的灵活建模。
electronic health recordsmachine learningrnnlstmmixture-of-experts
发现论文，激发创造
  • 电子健康记录的个性化事件预测

    通过对 MIMIC-III 数据库中的患者临床事件序列进行分析和测试，我们提出并研究了多种新的事件序列预测模型和方法，旨在更好地调整个体患者和其特定状况的预测。

    Aug, 2023

  • 电子健康记录中的医疗事件检测的双向循环神经网络

    本文研究了使用循环神经网络框架在电子病历中提取医疗事件和属性的序列标注任务，实验结果表明其优于传统的有监督机器学习模型，可应用于药物监管等医疗信息学领域。

    Jun, 2016

  • 使用 LSTM 循环神经网络进行诊断学习

    本文探讨采用长短期记忆（LSTM）深度神经网络来挖掘多元时间序列的临床医疗数据，特别是在重症监护病房（ICU）中的应用，通过将 128 个诊断结果与 13 个临床测试指标进行分类建模，获得了优于其他多层感知机的分类效果。

    Nov, 2015

  • 混合专家中改进专家专业化能力

    本文提出一种新的 MoE 的门控网络结构，类似于注意力机制，可以在任务分解方面提高性能并导致更低的熵，同时介绍了一种新的数据驱动正则化方法，可以提高专家的专业化。

    Feb, 2023

  • 利用循环神经网络结合静态与动态信息进行临床事件预测

    文章介绍了基于门控循环神经网络的预测模型，在临床数据中结合静态信息和动态信息用于预测肾移植病人的未来事件，结果表明该模型在该任务中表现最佳。

    Feb, 2016

  • 一个动态深度神经网络用于多模态临床数据分析

    本文介绍了 AdaptiveNet 重复神经网络的体系结构，以处理电子病历的多个事件列表，并应用于风湿性关节炎的疾病进展预测，优于传统基线方法。

    Aug, 2020

  • 图混合专家：使用显式多样性建模在大规模图上学习

    该论文引入了 Mixture-of-Expert（MoE）思想到图神经网络中，提出了一种新的 Graph Mixture of Expert（GMoE）模型，用于同时建模多样的训练图结构，通过在 OGB 基准测试中表现的提升来验证 GMoE 的有效性。

    Apr, 2023

  • 电子健康记录的基于概念的模型解释

    本研究扩展了 Concept Activation Vectors（TCAV）方法应用于时序数据，以实现在电子医疗记录中进行序列预测，并通过临床应用开放数据和合成数据进行了评估。

    Dec, 2020

  • 重新审视单门限专家混合模型

    本文提出了一种基于单门 MoE 的简单且高效的异步训练方法，并通过基于聚类的初始化策略等技术手段实现了高效率与高准确率的权衡，与其他复杂的 MoE 相比表现优异，为单门 MoE 的应用提供了新的思路。

    Apr, 2023

  • 神经网络训练与不确定数据的专家混合方法

    该研究提出了 “不确定性感知的专家混合”（uMoE）方法，该方法通过将不确定性直接集成到训练过程中来解决基于神经网络的预测模型中的 aleatoric 不确定性问题。结果表明，uMoE 在处理数据不确定性方面显著优于基线方法，并展示了其适应不同不确定性水平并提供最佳阈值参数的能力。该创新方法可在包括生物医学信号处理、自动驾驶和生产质量控制在内的各种数据驱动领域广泛应用。

    Dec, 2023