Nov, 2022

传统和深度学习模型对纵向医疗记录的可解释性

PDF
TL;DR该研究评估了传统（XGBoost）和深度学习（LSTM with Attention）模型在全局和个别预测水平上的可解释性表现，并比较了三种流行的解释性方法：SHapley Additive exPlanations（SHAP）、Layer-Wise Relevance Propagation（LRP）和 Attention。该研究发现，总体而言，使用 SHAP 或 LRP 的 LSTM 提供了优于 XGBoost 的可解释性表现，而带有点积 Attention 的 LSTM 则未能产生合理的结果。
发现论文，激发创造
  • 自然语言处理的可解释性评估及性能和可解释性之间的算法分析

    探讨了在医疗保健领域中机器学习的应用。通过在 MIMIC-III 临床笔记中预测死亡率的任务中，我们展示了各种可完全解释的方法和模型不可知后续属性的可视化技术，同时提供了评估解释质量的通用方法。

    Jul, 2021

  • Deep EHR Spotlight：一种突显电子健康记录中事件的框架和机制，用于可解释的预测

    本研究提出了一种基于深度学习的框架，通过将病人路径从电子健康记录中编码成影像，突出显示路径影像中的重要事件，实现更复杂的预测并提高可解释性，其中使用了深度注意机制，并允许预测多个连续结果。

    Mar, 2021

  • 在医疗记录中实现监督级可解释性的无监督方法

    在这项研究中，我们提出了一种无需人工注释的方法来生成可信和忠实的解释。我们展示了对自动医学编码任务的对抗鲁棒性训练如何提高解释的可信度，并引入了一种比现有方法更好的新解释方法 AttInGrad。通过在完全无监督的设置中结合这两个贡献，我们生成了与有监督方法相当甚至更好的解释。我们发布了我们的代码和模型权重。

    Jun, 2024

  • 基于概率的自解释神经网络用于重症监护室死亡预测

    本研究提出了一种基于专家知识的临床概念或中间特征作为解释单元的自我解释深度学习框架，并在公开的电子健康记录数据集上进行了实验。实验结果表明，该模型的解释性组件不会影响预测性能，并且模型生成的解释可以为医生提供了解病人死亡原因的洞见。

    Oct, 2021

  • 临床数据可解释人工智能方法的实证比较：以创伤性脑损伤为例的案例研究

    利用结构化表格和时间序列生理数据实现了创伤性脑损伤 (TBI) 的短期和长期预测模型，使用六种不同的解释技术分析了局部和全局的预测模型，并对每种方法的优缺点进行了比较，发现 SHAP 是最稳定的，且保真度最高，但理解度低。

    Aug, 2022

  • 从可解释到可解读的深度学习在医疗自然语言处理中的应用：离现实有多远？

    深度学习在医疗保健研究中通过解决各种自然语言处理（NLP）任务得到了极大的增强。本文对可解释和可解释的医疗 NLP 中的深度学习进行了彻底的综述。发现注意力机制是最主要的新兴 IAI，同时也提出了重要的机会，如利用注意力提升个性化医学的多模态 XIAI 并将 DL 与因果推理相结合。

    Mar, 2024

  • LSTM 神经网络与传统机器学习模型在预测糖尿病患者再入院方面的比较分析

    该研究使用了 Diabetes 130-US Hospitals 数据集，利用各种传统机器学习模型（如 XGBoost、LightGBM、CatBoost、决策树和随机森林）进行分析和预测了糖尿病患者的再入院情况，并通过自主开发的 LSTM 神经网络进行对比。研究结果显示，LightGBM 是最佳的传统模型，而 XGBoost 位居第二，LSTM 模型在训练准确性较高的情况下存在过拟合问题。研究还使用了 SHAP 值提高了模型的解释性，并指出了实验结果中影响再入院预测的重要因素，如实验室过程数量和出院安排。该研究表明，在预测性医疗模型中，模型选择、验证和解释性是关键步骤，有助于医疗服务提供者设计干预措施，提高糖尿病患者的随访遵从性和管理效果。

    Jun, 2024

  • 医疗保险可解释成本预测的机器学习

    本文研究了在医疗保健领域中应用预测建模以提高保险公司生产力和效率的潜力，通过使用三种基于回归的集成机器学习模型（Extreme Gradient Boosting、梯度提升机和随机森林）对医疗保险费用进行预测，并采用可解释的人工智能方法来发现和解释影响医疗保险费用的关键因素。研究结果表明这些模型在预测上取得了可观的成果，其中 XGBoost 模型表现最佳，但计算资源消耗更高，而 RF 模型则在预测误差较小的同时消耗较少的计算资源。同时比较了两种可解释人工智能方法在识别影响保险费用的关键特征上的结果，发现 ICE 图能更详细地展示变量之间的相互作用，而 SHAP 分析则更具概览性。希望本研究的贡献能够帮助决策者、保险公司和潜在医疗保险购买者在选择适合其需求的政策时作出正确决策。

    Nov, 2023

  • 医学图像分析中的可解释深度学习模型

    本文回顾了可解释的深度学习在医学影像任务中的应用，讨论了这种方法的不同途径，临床应用挑战以及需要进一步研究的领域。

    May, 2020

  • 拓展与解释：解读超长语言模型

    介绍了一种基于掩码采样过程（MSP）的方法，以解决长文本医疗领域的诊断预测问题。该方法可以识别出较多的临床信息文本块，并且比之前最先进的方法运行速度更快，可用于任何文本分类器。

    Sep, 2022