KDDApr, 2018

黑盒模型特征重要性可视化

PDF
TL;DR本文介绍了一种基于局部特征重要性的机器学习可解释性方法，提出了两个可视化工具：partial importance (PI) 和 individual conditional importance (ICI) plots，并引入了 Shapley feature importance，可以公平地分配模型性能，比较不同模型上的特征重要性。
发现论文，激发创造
  • 将尺子带入黑匣子：从个体条件期望图中揭示特征影响

    本研究提出一种新的基于 ICE 图的特征影响度量，可解释为类似于线性回归系数的模型无关，性能无关的特征影响度量，并介绍了 ICF 特征影响力的多样性，最后我们展示了这种实用性工具在几个现实世界的数据任务中的效用。

    Sep, 2021

  • 非参数特征影响与重要性

    该论文提出了特征重要性和特征影响的数学定义，并通过局部依赖曲线直接在数据上对其进行评估，证明其在预测任务中与现有特征选择技术具有竞争力。

    Jun, 2020

  • 黑盒子内部探究：以个体条件期望作图可视化统计学习

    本文提出了个体条件期望（ICE）图形，这是一种可视化任何监督学习算法估计模型的工具，通过绘制每个观测值在特征的范围上的预测响应和特征之间的函数关系，突出了拟合值在协变量范围内的变化，提供了探索性分析的绘图工具和数据生成模型的可加结构的可视化检验。

    Sep, 2013

  • 计算与可视化反事实特征重要性值

    本文提出了 Counterfactual Feature Importance (CFI) 方法，并介绍了其计算过程和三种可视化方法，从而使解释和解释性口径机器学习更加透明。

    Jun, 2023

  • 特征重要性的固有不一致性

    本文提出一种新的特征重要性得分框架，通过将特征空间重新划分成可分离集合，从而统一了现有研究所存在的不一致性，实现了对机器学习算法的可解释性。

    Jun, 2022

  • 预测不确定性的模型无关变量重要性：一种基于熵的方法

    这篇论文介绍了如何将解释性方法扩展到具有不确定性意识的模型中，并演示了如何通过这些方法深入理解模型行为、特征对预测分布熵和真实标签对数似然的影响，以及不确定性来源对模型性能的影响。

    Oct, 2023

  • 特征重要性与特征影响：对可解释人工智能的意义

    这篇论文提供了一种统一的定义，可以应用于后续解释，评估不同方法的忠实度和稳定性，并且展示了使用上下文重要性和效用可以提供比只使用影响力时更富表达力和灵活性的解释。

    Aug, 2023

  • 使用加性重要性度量了解全局特征贡献

    本研究探索了通过特征的预测能力定义特征重要性的视角，提出了两种预测能力的概念（模型基础和通用），并通过添加重要性度量的框架来规范化该方法。我们提出了一个模型不可知的方法 SAGE，量化预测能力同时考虑特征交互，并发现它比其他方法分配更准确的重要性值。

    Apr, 2020

  • 通用框架：关于对算法无关变量重要性的推断

    本文提出了关于变量重要性的非参数推断的一般框架，定义了变量重要性作为所有可用特征与除考虑特征外的所有特征之间的神谕可预测性的总体对比，并提出了有效的估计程序和策略。

    Apr, 2020

  • 科学推理的特征重要性方法指南

    该论文是一项关于解释性方法在机器学习中的应用的综合指南，通过对特征重要性方法进行广泛的回顾和对其解释的新证明，为我们提供了对这些方法的深入理解，并为科学推理提供具体的建议。此外，该论文还讨论了特征重要性不确定性估计的选项，并指出了从黑盒机器学习模型获得全面统计推理的未来研究方向。

    Apr, 2024