ICMLJan, 2024

可解释的人工智能在生存分析中的应用：一种中位数 - SHAP 方法

PDF
TL;DR采用机器学习进入常规临床实践需要可解释的人工智能方法，Shapley 值已引起广泛关注，但其解释在很大程度上取决于摘要统计量和估计方法，这进而决定了我们所确定的 “锚点”，我们发现使用平均锚点的传统方法可能对生存分析产生误导性的解释，因此引入了中值 - SHAP 方法，用于解释预测个体存活时间的黑盒模型。
machine learningexplainable aishapley valuesinterpretationsurvival analysis
发现论文，激发创造
  • SurvSHAP (t): 机器学习生存模型的时间依赖性解释

    本文介绍一种基于 SHapley 加性解释的 SurvSHAP (t) 方法，使用其可以对时间相关的生存黑盒模型进行解释，提高精度诊断，支持领域专家决策。实验结果表明，SurvSHAP (t) 对时间相关变量的影响检测更准确，其聚合也比 SurvLIME 更好地确定了预测的变量重要性。

    Aug, 2022

  • 可解释人工智能方法评论：SHAP 和 LIME

    这篇论文探讨解释的可解释人工智能（XAI）方法，特别是 SHapley 加性解释和局部可解释模型无关解释等两种使用广泛的方法，提出一个框架来解释它们的输出，强调它们的优缺点。

    May, 2023

  • 可解释的机器学习用于生存分析

    通过对现有的解释性机器学习方法的综述，我们详细介绍了如何将常用的解释性机器学习方法应用于生存分析，以实现对模型决策或预测的理解。并且通过对加纳儿童 5 岁以下死亡率的实际数据的应用，展示了如何在实践中使用这些技术来促进对模型决策或预测的理解。

    Mar, 2024

  • 临床数据可解释人工智能方法的实证比较：以创伤性脑损伤为例的案例研究

    利用结构化表格和时间序列生理数据实现了创伤性脑损伤 (TBI) 的短期和长期预测模型，使用六种不同的解释技术分析了局部和全局的预测模型，并对每种方法的优缺点进行了比较，发现 SHAP 是最稳定的，且保真度最高，但理解度低。

    Aug, 2022

  • SHAP 对 Alert 处理的人类基础评估

    在本研究中，我们对一种名为 SHAP 的解释方法进行人本评估，该方法已在可解释人工智能和相关社区中广受欢迎。我们研究了这种局部规范无关解释方法是否对实际的人类领域专家有用，以评估分类器产生的正面预测的正确性。结果表明，SHAP 解释确实影响决策过程，尽管该方法得分的置信度仍然是主要的证据来源。但在我们的实验中，当提示信息可用时，与不提供提示信息相比，在警报处理性能方面并没有明显差异。

    Jul, 2019

  • 机器学习模型的本地可解释模型无关 Shap 解释

    提出了一种称为 LIMASE 的局部可解释模型无关 Shap 说明法，该方法使用 Shapley 值来解释任何模型的预测，提供局部和全局可解释的解释，解决子模块优化问题，为地区解释带来见解，并在与内核解释器相比计算更快。

    Oct, 2022

  • 通过可解释的数据协作实现分布式机器学习的透明度

    为确保机器学习模型的伦理使用，该论文提出了一种基于模型不可知的可加特征归因算法（KernelSHAP）和数据协作方法的可解释数据协作框架，以应对难以解释的黑盒子模型。

    Dec, 2022

  • 个体 Shapley 值解释的精确性

    Shapley value explanations are less precise for observations on the outer region of the training data distribution, which has not been systematically addressed in the Shapley value literature.

    Dec, 2023

  • 利用可解释的人工智能来提高神经网络的性能

    本研究提出了一种重新训练流程，使用 SHapley Additive explanations 值，从 XAI 入手并利用最先进的技术来增加模型的透明度和可信度，在人数统计场景和图像分类数据集上进行了实验验证，结果表明使用 SHAP-based 重新训练方法比使用相等加权训练方法更有效，分别提高了 4% 和 3% 的准确率。

    Oct, 2022

  • 利用可解释性人工智能交叉验证 COVID-19 患者死亡率中的社会经济差异

    本文使用可解释人工智能（XAI）方法分析 COVID 患者死亡率的社会经济差异，建立了一个基于匿名的奥斯汀地区医院数据集的 XGBoost 预测模型，应用了两种 XAI 方法（Shapley 可加性解释和局部可解释模型无关解释）比较特征重要性的全局与局部解释，发现特别关注医疗保险、年龄和性别等特征对死亡预测影响较大。本研究表明了使用 XAI 方法进行特征归因交叉验证的重要性。

    Feb, 2023