Dec, 2023

基于多模态 ICU 数据的住院死亡风险预测的可解释人工智能

PDF
TL;DR通过多模态 ICU 数据，本文提出了一种可解释的多模态死亡预测器（X-MMP）作为一种高效的、可解释的 AI 解决方案，用于预测住院死亡率。我们的框架采用多模态学习，可接收来自临床数据的异构输入并做出决策，同时引入一种可解释的方法，即层级传递至 Transformer，作为对 Transformer 的 LRP 方法的适当扩展，在多模态输入上产生解释并揭示与预测相关的显著特征。此外，可以可视化每种模式对临床结果的贡献，帮助临床医生理解决策背后的推理过程。基于 MIMIC-III 和 MIMIC-III 波形数据库匹配子集构建了多模态数据集。在基准数据集上进行的综合实验表明，我们提出的框架能够实现合理的解释，并具有竞争力的预测准确性。特别地，我们的框架可以轻松转移到其他临床任务中，促进了对医疗研究中关键因素的发现。
predicting in-hospital mortalityexplainable aimultimodal icu datalayer-wise propagation to transformerclinical outcomes
发现论文，激发创造
  • XMI-ICU: ICU 中心特定心脏病患者假动态死亡率可解释的机器学习预测模型

    本研究利用回溯检验提取的两个队列，发展了一种新的伪动态机器学习框架，用于重症监护病房的死亡预测，实现了可解释性和临床风险分析，并成功地结合了时间序列生理测量技术，从而能够提供时间分辨率的解释结果。

    May, 2023

  • 多模态转换器：将临床记录与结构化电子病历数据融合，可解释的住院死亡率预测

    本论文提出一个新型的多模态变压器，用于融合医疗记录数据和医生的述职记录来预测住院死亡率，并使用可视化方法展示关键的医疗记录和医疗数据特征，进而提高了诊断的可解释性和预测的精度。

    Aug, 2022

  • 基于概率的自解释神经网络用于重症监护室死亡预测

    本研究提出了一种基于专家知识的临床概念或中间特征作为解释单元的自我解释深度学习框架，并在公开的电子健康记录数据集上进行了实验。实验结果表明，该模型的解释性组件不会影响预测性能，并且模型生成的解释可以为医生提供了解病人死亡原因的洞见。

    Oct, 2021

  • 多模型预测模型解释的特征重要性：临床应用案例

    通过使用预手术和术中数据，我们开发了一个多模态深度学习模型，用于预测老年髋关节骨折患者术后死亡率，并通过计算 Shapley 值解释了我们的模型预测结果。

    Apr, 2024

  • 利用医学命名实体和多模态学习提高医院死亡率预测

    本研究旨在探究如何利用医疗自然语言处理技术，将临床文本与结构化临床数据相结合，建立多模态神经网络模型，实现对重症监护室患者住院死亡风险的预测。研究结果显示，相较于基准模型，本模型的 AUC 值提高了 2%。

    Nov, 2018

  • 利用可解释性人工智能交叉验证 COVID-19 患者死亡率中的社会经济差异

    本文使用可解释人工智能（XAI）方法分析 COVID 患者死亡率的社会经济差异，建立了一个基于匿名的奥斯汀地区医院数据集的 XGBoost 预测模型，应用了两种 XAI 方法（Shapley 可加性解释和局部可解释模型无关解释）比较特征重要性的全局与局部解释，发现特别关注医疗保险、年龄和性别等特征对死亡预测影响较大。本研究表明了使用 XAI 方法进行特征归因交叉验证的重要性。

    Feb, 2023

  • 多模态可解释人工智能：方法学进展及未来研究方向综述

    本文系统分析了多模态可解释人工智能的最新进展，主要聚焦于相关的主要预测任务、公开可用的数据集、各类 MXAI 方法、评价指标以及未来研究方向和当前挑战。

    Jun, 2023

  • 部署一个可靠且可解释的死亡预测模型：COVID-19 疫情与未来

    本研究探讨了在 COVID-19 疫情期间以及疫情过去后，使用人工智能模型预测死亡率的性能、可解释性和鲁棒性。作为首个这样的研究，我们发现贝叶斯神经网络（BNNs）和智能训练技术使我们的模型能够在数据变动明显的情况下保持性能。我们的结果强调了开发能够在具有挑战性条件下与临床医生预测相匹配或超越的鲁棒人工智能模型的重要性。我们对模型可解释性的探索表明，随机数模型生成了更多样化和个性化的解释，从而突显出在实际临床环境中提供详细和个性化见解的人工智能模型的需求。此外，我们强调了量化人工智能模型的不确定性的重要性，这使得临床医生能够基于可靠的预测做出更加明智的决策。我们的研究倡导将实施科学优先纳入医疗人工智能研究，并确保人工智能解决方案在实际临床环境中具有实用性、益处和可持续性。通过解决医疗环境中的独特挑战和复杂性，研究人员能够开发有效改进临床实践和患者预后的人工智能模型。

    Nov, 2023

  • MultiFIX：一种从多模态数据建立模型的友好的可解释人工智能特征引导方法

    基于多模态融合、解释能力及深度学习的 MultiFIX 方法用于预测模型，提取不同数据类型的特征，并应用于恶性皮肤病变的检测。

    Feb, 2024

  • 透明人工智能：为预测术后并发症开发可解释界面

    鉴于手术操作的规模庞大和术后死亡率的显著高位，评估和管理手术并发症已成为一个重要的公共卫生问题。为了解决现有人工智能工具在风险监测和诊断方面缺乏适当的可解释性、公平性和可复现性的问题，我们提出了一个解释性人工智能（XAI）框架，旨在回答为什么、为何不、如何、如果以及其他问题，目标是提高人工智能模型的可解释性和透明度。我们融合了各种技术，如局部可解释的模型无关解释（LIME）、SHapley Additive Explanation（SHAP）、反事实解释、模型卡片、交互式特征操作界面以及相似患者的识别来解决这些问题。我们展示了一个遵循这一框架用于预测术后重大并发症的 XAI 界面原型。这个初始实现为我们的 XAI 框架的广阔解释潜力提供了有价值的见解，并代表了朝着其临床应用迈出的初步一步。

    Apr, 2024