Aug, 2022

SurvSHAP (t): 机器学习生存模型的时间依赖性解释

PDF
TL;DR本文介绍一种基于 SHapley 加性解释的 SurvSHAP (t) 方法，使用其可以对时间相关的生存黑盒模型进行解释，提高精度诊断，支持领域专家决策。实验结果表明，SurvSHAP (t) 对时间相关变量的影响检测更准确，其聚合也比 SurvLIME 更好地确定了预测的变量重要性。
machine learningsurvival modelsshapley additive explanationstime-dependent explanationprecision diagnostics
发现论文，激发创造
  • 可解释的人工智能在生存分析中的应用：一种中位数 - SHAP 方法

    采用机器学习进入常规临床实践需要可解释的人工智能方法，Shapley 值已引起广泛关注，但其解释在很大程度上取决于摘要统计量和估计方法，这进而决定了我们所确定的 “锚点”，我们发现使用平均锚点的传统方法可能对生存分析产生误导性的解释，因此引入了中值 - SHAP 方法，用于解释预测个体存活时间的黑盒模型。

    Jan, 2024

  • WindowSHAP: 基于 Shapley Values 的时间序列分类器解释的高效框架

    本文提出了 WindowSHAP 框架，一个用于解释时间序列分类器的模型无关框架，使用 Shapley 值来降低计算复杂度并提高解释质量，提供三个不同的算法，分别对应静态、滑动和动态时间窗口，应用于医学领域的数据，获得了较好的实验结果。

    Nov, 2022

  • TimeSHAP: 通过序列扰动解释循环模型

    本研究提出了一种模型无关的循环网络解释器 TimeSHAP，它能计算特征、时间步和单元层面的归因，可用于解释银行账户接管欺诈检测的预测结果，并发现一些关键洞察。

    Nov, 2020

  • timeXplain -- 时间序列分类器预测解释框架

    该研究提出了一种名为 timeXplain 的框架，旨在将解释性人工智能应用于时间序列分类和价值预测中，并在该框架下对几种最先进的时间序列分类器进行了大规模实验比较，发现了似乎不同的分类概念之间的相似性。

    Jul, 2020

  • 简洁的互动感知解释

    我们提出了一种将特征分割为显著相互作用的部分，并利用这些部分形成简明易解的加性解释的方法。实验证明，我们的解释比 SHAP 和 NSHAP 的解释更准确、更易理解。

    Feb, 2024

  • 利用模型结构信息高效计算 SHAP

    本文提出了多种方法，可以在多项式时间内准确计算 SHAP 值，适用于不同类型的模型结构信息，包括已知功能分解、已知模型顺序和未知模型顺序，其中的方法在实际应用中计算效率高且准确性较高。

    Sep, 2023

  • 解释模型预测的统一方法

    研究为什么一个模型做出某个特定的预测与预测准确性一样重要，然而对于像集成或深度学习模型这样的复杂模型，即使是专家也难以解释其高精度，因此需要各种方法来帮助解释预测，其中一个新方法，SHAP（Shapley Additive Explanations），通过为每个特征指定一个重要性值来解释预测。

    May, 2017

  • SHAP 对 Alert 处理的人类基础评估

    在本研究中，我们对一种名为 SHAP 的解释方法进行人本评估，该方法已在可解释人工智能和相关社区中广受欢迎。我们研究了这种局部规范无关解释方法是否对实际的人类领域专家有用，以评估分类器产生的正面预测的正确性。结果表明，SHAP 解释确实影响决策过程，尽管该方法得分的置信度仍然是主要的证据来源。但在我们的实验中，当提示信息可用时，与不提供提示信息相比，在警报处理性能方面并没有明显差异。

    Jul, 2019

  • 可解释的心力衰竭风险预测的生存分析

    我们提出了一种新颖的生存分析流程，既能解释模型预测结果，又能与最先进的生存模型竞争。通过改进的生存堆叠模型将生存分析问题转化为分类问题，使用 ControlBurn 进行特征选择，并使用可解释的增强学习机器生成可解释的预测结果。我们使用大型电子健康记录数据库预测心力衰竭的风险，该流程实现了最先进的性能并提供了关于心力衰竭风险因素的有趣且新颖的见解。

    Oct, 2023

  • 使用整合回归逼近基于分数的解释技术

    我们提出并研究了使用计算成本较低的回归模型来逼近诸如 SHAP 之类的基于分数解释技术的输出，通过采用归纳符合预测框架提供了对逼近值的有效性保证。我们提出了几种非一致性度量方法，旨在考虑到解释逼近的困难程度同时保持计算成本的低廉。通过大规模实证研究的结果表明，我们提出的模型生成的近似解释在效率（区间大小）方面得到了评估。结果表明，与快速版本的 SHAP TreeSHAP 相比，所提出的方法可以显著提高执行时间。结果还表明，所提出的方法可以产生紧密的区间，同时提供有效性保证。此外，所提出的方法允许比较不同逼近方法的解释，并根据预测区间的信息量（紧密程度）选择一种方法。

    Aug, 2023