ICMLOct, 2021

基于概率的自解释神经网络用于重症监护室死亡预测

PDF
TL;DR本研究提出了一种基于专家知识的临床概念或中间特征作为解释单元的自我解释深度学习框架，并在公开的电子健康记录数据集上进行了实验。实验结果表明，该模型的解释性组件不会影响预测性能，并且模型生成的解释可以为医生提供了解病人死亡原因的洞见。
deep learningexplainabilityhealthcareexpert-knowledgemortality prediction
发现论文，激发创造
  • 部署一个可靠且可解释的死亡预测模型：COVID-19 疫情与未来

    本研究探讨了在 COVID-19 疫情期间以及疫情过去后，使用人工智能模型预测死亡率的性能、可解释性和鲁棒性。作为首个这样的研究，我们发现贝叶斯神经网络（BNNs）和智能训练技术使我们的模型能够在数据变动明显的情况下保持性能。我们的结果强调了开发能够在具有挑战性条件下与临床医生预测相匹配或超越的鲁棒人工智能模型的重要性。我们对模型可解释性的探索表明，随机数模型生成了更多样化和个性化的解释，从而突显出在实际临床环境中提供详细和个性化见解的人工智能模型的需求。此外，我们强调了量化人工智能模型的不确定性的重要性，这使得临床医生能够基于可靠的预测做出更加明智的决策。我们的研究倡导将实施科学优先纳入医疗人工智能研究，并确保人工智能解决方案在实际临床环境中具有实用性、益处和可持续性。通过解决医疗环境中的独特挑战和复杂性，研究人员能够开发有效改进临床实践和患者预后的人工智能模型。

    Nov, 2023

  • 通过概念学习先验可解释模型的框架

    本文提出一种将解释生成模块附加在基础网络之上、共同训练整个模块的自我解释深度学习模型，适用于无监督概念学习，能够生成有关概念的有意义的解释，并且在概念监督方面有一定的可塑性，具有更好的性能表现。通过在多个数据集上的实验，证明该模型比最近提出的基于概念解释的模型表现更好。

    Aug, 2021

  • 基于医学概念的图神经网络的认知解释器

    本研究提出一种基于医学概念的可解释卷积神经网络框架，可用于识别超声标准平面，并构建关键医学概念之间的关系，从医生的认知角度解释，并在实验中取得了实质性的解释性能提升。

    Jan, 2022

  • 基于多模态 ICU 数据的住院死亡风险预测的可解释人工智能

    通过多模态 ICU 数据，本文提出了一种可解释的多模态死亡预测器（X-MMP）作为一种高效的、可解释的 AI 解决方案，用于预测住院死亡率。我们的框架采用多模态学习，可接收来自临床数据的异构输入并做出决策，同时引入一种可解释的方法，即层级传递至 Transformer，作为对 Transformer 的 LRP 方法的适当扩展，在多模态输入上产生解释并揭示与预测相关的显著特征。此外，可以可视化每种模式对临床结果的贡献，帮助临床医生理解决策背后的推理过程。基于 MIMIC-III 和 MIMIC-III 波形数据库匹配子集构建了多模态数据集。在基准数据集上进行的综合实验表明，我们提出的框架能够实现合理的解释，并具有竞争力的预测准确性。特别地，我们的框架可以轻松转移到其他临床任务中，促进了对医疗研究中关键因素的发现。

    Dec, 2023

  • 医学图像分析中的可解释深度学习模型

    本文回顾了可解释的深度学习在医学影像任务中的应用，讨论了这种方法的不同途径，临床应用挑战以及需要进一步研究的领域。

    May, 2020

  • XMI-ICU: ICU 中心特定心脏病患者假动态死亡率可解释的机器学习预测模型

    本研究利用回溯检验提取的两个队列，发展了一种新的伪动态机器学习框架，用于重症监护病房的死亡预测，实现了可解释性和临床风险分析，并成功地结合了时间序列生理测量技术，从而能够提供时间分辨率的解释结果。

    May, 2023

  • 可解释的临床风险预测人工智能：概念、方法和形式调查

    AI 在医疗应用中的最新进展显示出在诊断和疾病预测方面超越人类表现的巨大潜力。然而，随着 AI 模型的复杂性日益增加，人们对其不透明性、潜在偏见和解释性的需求也越来越担忧。为了确保 AI 系统的信任和可靠性，特别是在临床风险预测模型中，解释性变得至关重要。这篇综述中，我们讨论了这些概念之间的关系，因为它们经常一起或可互换使用。该综述还讨论了最近在发展用于临床风险预测的可解释模型方面的进展，强调了定量和临床评估和验证在临床实践中的多个常见模态上的重要性。它强调了外部验证和多种解释性方法的结合以增强信任和公平性的必要性。采用严格的测试，例如使用具有已知生成因素的合成数据集，可以进一步提高解释性方法的可靠性。开放访问和代码共享资源对于透明性和可重现性至关重要，以促进可解释性研究的增长和可信度。尽管存在挑战，但将解释性纳入临床风险预测的端到端方法，包括从临床医生到开发人员的利益相关者，对于取得成功至关重要。

    Aug, 2023

  • 电子健康记录的基于概念的模型解释

    本研究扩展了 Concept Activation Vectors（TCAV）方法应用于时序数据，以实现在电子医疗记录中进行序列预测，并通过临床应用开放数据和合成数据进行了评估。

    Dec, 2020

  • 深度神经网络解释

    研究了两种深度神经网络解释说明的主流方向，一种是基于特征的事后解释方法，另一种是自解释的神经网络模型，并生成自然语言解释。

    Oct, 2020

  • 可解释方法中的婴儿大脑注意力方式

    该文提出了一种名为 “可解释的几何深度网络” 的端到端学习方法，用于在高维数据中实现精细的可解释性，例如神经成像和神经科学研究。该方法采用学习解释性因素来增强鉴别性表示提取，以实现可解释的预测和分类结果。

    Jan, 2023