Apr, 2024

透明人工智能：为预测术后并发症开发可解释界面

PDF
TL;DR鉴于手术操作的规模庞大和术后死亡率的显著高位，评估和管理手术并发症已成为一个重要的公共卫生问题。为了解决现有人工智能工具在风险监测和诊断方面缺乏适当的可解释性、公平性和可复现性的问题，我们提出了一个解释性人工智能（XAI）框架，旨在回答为什么、为何不、如何、如果以及其他问题，目标是提高人工智能模型的可解释性和透明度。我们融合了各种技术，如局部可解释的模型无关解释（LIME）、SHapley Additive Explanation（SHAP）、反事实解释、模型卡片、交互式特征操作界面以及相似患者的识别来解决这些问题。我们展示了一个遵循这一框架用于预测术后重大并发症的 XAI 界面原型。这个初始实现为我们的 XAI 框架的广阔解释潜力提供了有价值的见解，并代表了朝着其临床应用迈出的初步一步。
surgical complicationsartificial intelligenceexplainable aiinterpretabilitytransparency
发现论文，激发创造
  • 临床数据可解释人工智能方法的实证比较：以创伤性脑损伤为例的案例研究

    利用结构化表格和时间序列生理数据实现了创伤性脑损伤 (TBI) 的短期和长期预测模型，使用六种不同的解释技术分析了局部和全局的预测模型，并对每种方法的优缺点进行了比较，发现 SHAP 是最稳定的，且保真度最高，但理解度低。

    Aug, 2022

  • 医疗物联网的可解释人工智能框架

    通过结合医学人工智能和可解释人工智能技术，提出了一种自定义的可解释人工智能框架，应用于人工智能医疗物联网领域，以提高医疗系统的效果，并具备透明和可理解的决策能力。将该框架应用于脑肿瘤检测用例中，得出了准确透明的诊断结果，并且评估结果表明了其出色的性能，实现了高精确度、召回率和 F1 分数，训练准确率达到 99%，验证准确率达到 98%。这种结合高级可解释人工智能技术和基于集成的深度学习方法的框架能够实现精确可靠的脑肿瘤诊断作为医学物联网应用的一种。

    Mar, 2024

  • 面向诊所可信人工智能的情境依赖性可解释性与可争辩性：早产儿患病识别模型中的误分辨识别

    该研究通过解释 AI 推荐来支持临床医生识别 ML 模型训练中的失误，并提出了一种基于临床背景潜在空间、全局解释和基于潜在空间相似性的本地解释的方法来支持医生鉴定基于表格数据的 ML 模型的失误，在早产儿并发症的风险评估中取得了成功应用，并提供临床实用的支持建议。

    Dec, 2022

  • 可解释人工智能（XAI）综述：面向医疗 XAI

    这篇论文概述了解释机器学习算法决策的不同方法，并将它们应用到医学研究中，以提高医生对这些算法的信任度。

    Jul, 2019

  • 可解释的人工智能在医疗保健中的简要回顾

    本文系统地评估了透明度和可解释性在医疗保健领域中的重要性和相关的机器学习模型。通过六种不同的方法探讨了 XAI 的各个方面和挑战，并探明了其在解决医疗保健领域中存在的问题方面所起到的重要作用。

    Apr, 2023

  • 可解释人工智能方法评论：SHAP 和 LIME

    这篇论文探讨解释的可解释人工智能（XAI）方法，特别是 SHapley 加性解释和局部可解释模型无关解释等两种使用广泛的方法，提出一个框架来解释它们的输出，强调它们的优缺点。

    May, 2023

  • 基于随机森林分类器、LIME 和 SHAP 的可解释人工智能在医疗应用中的应用

    通过解释性更详细的说明，理解在黑匣子人工智能技术中隐藏的计算细节对于我们日常生活中计算效率高的人工智能技术及其各种应用至关重要。该论文分析了几种解释性人工智能框架和方法，包括 LIME（局部可解释的模型无关解释）和 SHAP（Shapley 附加解释），并使用随机森林分类器作为黑匣子人工智能在公开的糖尿病症状数据集上进行更好的解释和透明度进行糖尿病疾病预测。

    Nov, 2023

  • 基于深度学习的医学图像分析中的可解释人工智能（XAI）

    本文调查了可解释人工智能 (XAI) 在基于深度学习的医学图像分析中的应用，提出了一个 XAI 标准框架来分类这些基于深度学习的方法，根据解释方法和解释结构将应用于医学图像分析中的 XAI 技术进行了分类，并按解剖位置进行了整理，并给出了未来在医学图像分析中 XAI 的机会的展望。

    Jul, 2021

  • 医学图像中的可解释人工智能：一项调查

    本研究旨在分析 XAI 在医学诊断研究中应用的最新研究，对多种不同疾病（如癌症和 COVID-19）的机器学习结果进行解释，以实现想要的评估。

    May, 2023

  • 可解释的人工智能在临床和远程健康应用中的应用：关于表格和时间序列数据的调查

    本文综述了过去 5 年来的文献，阐述了对于健康领域中最适合在表格和时间序列数据中使用的 XAI 方法，旨在提供有效的解释方案给终端用户，强调临床验证、一致性评估、客观和标准化质量评估以及以人为中心的质量评估，同时指出现有方法的局限性以及领域的主要研究挑战。

    Sep, 2022