Nov, 2023

部署一个可靠且可解释的死亡预测模型：COVID-19 疫情与未来

PDF
TL;DR本研究探讨了在 COVID-19 疫情期间以及疫情过去后，使用人工智能模型预测死亡率的性能、可解释性和鲁棒性。作为首个这样的研究，我们发现贝叶斯神经网络（BNNs）和智能训练技术使我们的模型能够在数据变动明显的情况下保持性能。我们的结果强调了开发能够在具有挑战性条件下与临床医生预测相匹配或超越的鲁棒人工智能模型的重要性。我们对模型可解释性的探索表明，随机数模型生成了更多样化和个性化的解释，从而突显出在实际临床环境中提供详细和个性化见解的人工智能模型的需求。此外，我们强调了量化人工智能模型的不确定性的重要性，这使得临床医生能够基于可靠的预测做出更加明智的决策。我们的研究倡导将实施科学优先纳入医疗人工智能研究，并确保人工智能解决方案在实际临床环境中具有实用性、益处和可持续性。通过解决医疗环境中的独特挑战和复杂性，研究人员能够开发有效改进临床实践和患者预后的人工智能模型。
artificial intelligence modelsmortality predictionexplainabilityrobustnessimplementation science
发现论文，激发创造
  • 基于概率的自解释神经网络用于重症监护室死亡预测

    本研究提出了一种基于专家知识的临床概念或中间特征作为解释单元的自我解释深度学习框架，并在公开的电子健康记录数据集上进行了实验。实验结果表明，该模型的解释性组件不会影响预测性能，并且模型生成的解释可以为医生提供了解病人死亡原因的洞见。

    Oct, 2021

  • 公平教育 AI 用于解释性创伤性脓毒症死亡预测模型

    本研究针对医疗领域中人工智能应用的公平性和可解释性的关键需求，提出了一种通过预测模型来改善公平性的方法，并介绍了一种新型特征重要性算法，用于解释各个特征对公平性的贡献。该方法不仅有助于识别和减轻预测模型中的偏见，也增加了模型预测的透明度和公平性，从而为提供更公平可信赖的医疗服务做出了贡献。

    Apr, 2024

  • 可解释的临床风险预测人工智能：概念、方法和形式调查

    AI 在医疗应用中的最新进展显示出在诊断和疾病预测方面超越人类表现的巨大潜力。然而，随着 AI 模型的复杂性日益增加，人们对其不透明性、潜在偏见和解释性的需求也越来越担忧。为了确保 AI 系统的信任和可靠性，特别是在临床风险预测模型中，解释性变得至关重要。这篇综述中，我们讨论了这些概念之间的关系，因为它们经常一起或可互换使用。该综述还讨论了最近在发展用于临床风险预测的可解释模型方面的进展，强调了定量和临床评估和验证在临床实践中的多个常见模态上的重要性。它强调了外部验证和多种解释性方法的结合以增强信任和公平性的必要性。采用严格的测试，例如使用具有已知生成因素的合成数据集，可以进一步提高解释性方法的可靠性。开放访问和代码共享资源对于透明性和可重现性至关重要，以促进可解释性研究的增长和可信度。尽管存在挑战，但将解释性纳入临床风险预测的端到端方法，包括从临床医生到开发人员的利益相关者，对于取得成功至关重要。

    Aug, 2023

  • 面向诊所可信人工智能的情境依赖性可解释性与可争辩性：早产儿患病识别模型中的误分辨识别

    该研究通过解释 AI 推荐来支持临床医生识别 ML 模型训练中的失误，并提出了一种基于临床背景潜在空间、全局解释和基于潜在空间相似性的本地解释的方法来支持医生鉴定基于表格数据的 ML 模型的失误，在早产儿并发症的风险评估中取得了成功应用，并提供临床实用的支持建议。

    Dec, 2022

  • 利用可解释性人工智能交叉验证 COVID-19 患者死亡率中的社会经济差异

    本文使用可解释人工智能（XAI）方法分析 COVID 患者死亡率的社会经济差异，建立了一个基于匿名的奥斯汀地区医院数据集的 XGBoost 预测模型，应用了两种 XAI 方法（Shapley 可加性解释和局部可解释模型无关解释）比较特征重要性的全局与局部解释，发现特别关注医疗保险、年龄和性别等特征对死亡预测影响较大。本研究表明了使用 XAI 方法进行特征归因交叉验证的重要性。

    Feb, 2023

  • 基于多模态 ICU 数据的住院死亡风险预测的可解释人工智能

    通过多模态 ICU 数据，本文提出了一种可解释的多模态死亡预测器（X-MMP）作为一种高效的、可解释的 AI 解决方案，用于预测住院死亡率。我们的框架采用多模态学习，可接收来自临床数据的异构输入并做出决策，同时引入一种可解释的方法，即层级传递至 Transformer，作为对 Transformer 的 LRP 方法的适当扩展，在多模态输入上产生解释并揭示与预测相关的显著特征。此外，可以可视化每种模式对临床结果的贡献，帮助临床医生理解决策背后的推理过程。基于 MIMIC-III 和 MIMIC-III 波形数据库匹配子集构建了多模态数据集。在基准数据集上进行的综合实验表明，我们提出的框架能够实现合理的解释，并具有竞争力的预测准确性。特别地，我们的框架可以轻松转移到其他临床任务中，促进了对医疗研究中关键因素的发现。

    Dec, 2023

  • 评估流行的可解释人工智能在临床预测模型中的应用：能否信赖？

    本研究旨在评估两种流行的可解释人工智能方法在医疗保健背景下解释预测模型的精确度，重点考虑是否产生与应用任务相一致的域适当表示，如何影响临床工作流程以及是否一致性，结果表明目前的技术还有改进的空间。

    Jun, 2023

  • 基于人工智能 (AI) 的新冠肺炎患者死亡预测

    针对 COVID-19 严重患者，本研究利用九种机器学习算法和两种特征选择方法进行预测模型建立，发现重症肾脏损伤是最重要的特征。在预测死亡、ICU 需求和通气天数方面，LSTM 算法表现最佳，准确率达到 90%，敏感性为 92%，特异性为 86%，AUC 为 95%。针对通气天数的预测，DNN 算法准确率达到 88%。综合各因素和局限性，选取合适的特征和数据平衡的机器学习算法可准确预测死亡、ICU 需求和通气支持，在紧急和疫情爆发情况下非常有用。

    Mar, 2024

  • 透明人工智能：为预测术后并发症开发可解释界面

    鉴于手术操作的规模庞大和术后死亡率的显著高位，评估和管理手术并发症已成为一个重要的公共卫生问题。为了解决现有人工智能工具在风险监测和诊断方面缺乏适当的可解释性、公平性和可复现性的问题，我们提出了一个解释性人工智能（XAI）框架，旨在回答为什么、为何不、如何、如果以及其他问题，目标是提高人工智能模型的可解释性和透明度。我们融合了各种技术，如局部可解释的模型无关解释（LIME）、SHapley Additive Explanation（SHAP）、反事实解释、模型卡片、交互式特征操作界面以及相似患者的识别来解决这些问题。我们展示了一个遵循这一框架用于预测术后重大并发症的 XAI 界面原型。这个初始实现为我们的 XAI 框架的广阔解释潜力提供了有价值的见解，并代表了朝着其临床应用迈出的初步一步。

    Apr, 2024

  • 利用人工智能预测 COVID-19 传播并分析其影响，以进行可持续的全球健康评估

    本篇文章尝试使用人工智能和深度学习来预测新冠病毒传播，并测试了该方法对识别病毒对胸部 X 光片的感染的效果。通过此研究，我们得出了结论：人工智能有助于识别疾病爆发的关键特征，这对保护人类免受这种致命疾病的影响具有重要意义。

    Apr, 2023