MMNov, 2019

单样本特征重要性：一种可解释算法用于低层特征分析

PDF
TL;DR本文介绍了一种解释性特征重要性算法 SSFI，可以识别对于单个样本预测最重要的特征，并通过随机森林分类器 / 回归器的预测路径计算低级特征重要性，从而得出特征的相对重要性排序，同时在四个不同数据集上提出了数值和可视化结果。
single sample feature importanceinterpretable feature importance algorithmrandom forest classifierfeature rankingprediction path
发现论文，激发创造
  • 增量置换特征重要性（iPFI）：面向数据流的在线解释

    提出了一种名为 iPFI 的有效的、模型无关的算法，用于在动态建模条件下估计特征边际化的增量特征重要性评估方法，包括概念漂移。实验证明，相比传统的批处理 PFI 方法，该方法具有良好的效果。

    Sep, 2022

  • 基于树模型和替代模型的公平特征重要性评分

    我们提出了一种公平特征重要性评分，用于解释决策树等可解释的黑盒机器学习模型对公平性或偏见的贡献。通过模拟和真实示例，我们证明了该方法对树形集成和其他机器学习系统的树形替代物提供了有效的解释性。

    Oct, 2023

  • 非线性学习算法特征重要性度量

    本文提出了一种可以用于任意机器学习方法 (包括核机器和深度学习) 的 feature importance（特征重要性）的度量方法，可以用于不同层面的算法解释，因此可以提供更好的机器学习预测结果。

    Nov, 2016

  • 特征重要性排名度量

    本文介绍了一种名为 Feature Importance Ranking Measure（FIRM）的方法，通过回顾性分析任意学习机器，该方法能够达到优秀的预测性能和优越的解释性。与标准的原始特征加权不同，FIRM 考虑了特征之间的相关性结构。因此，它能够发现最相关的特征，即使它们在训练数据中的出现完全被噪声阻止。

    Jun, 2009

  • 基于深度孤立森林特征重要性的可解释异常检测

    本文提出了高效而省时的方法，在隔离森林的全局和局部层面上定义特征重要性得分，并定义了一种在无监督异常检测中执行特征选择的过程。在多个合成和实际数据集上评估了性能，并与现有技术进行比较。

    Jul, 2020

  • 一种简单有效的基于模型的变量重要性度量方法

    本文提出了一种标准化的、基于模型的方法来测量监督学习算法中预测器的重要性，该方法适用于各种现代算法，如随机森林、梯度提升决策树等。

    May, 2018

  • 监督式特征排名算法的新型评估方法

    本文提出了一种新的评估方法，使用合成数据集评估特征重要性得分，并构建了一个名为 fseval 的 Python 基准测试框架，该框架允许在 HPC 系统上并行和分布式地执行实验。通过与在线平台 Weights and Biases 集成，可以在实时仪表板上交互地探索图表。研究结论通过探索一种大规模实验来找出参与算法的优点和缺点。

    Jul, 2022

  • 基于决策树抽样的特征重要性测量

    我们提出了一种用于树模型的特征重要性测量的基于 SAT 的 DT-Sampler 方法，该方法在真实世界的问题中具有较少的参数，提供了更高的可解释性和稳定性。

    Jul, 2023

  • 通用框架：关于对算法无关变量重要性的推断

    本文提出了关于变量重要性的非参数推断的一般框架，定义了变量重要性作为所有可用特征与除考虑特征外的所有特征之间的神谕可预测性的总体对比，并提出了有效的估计程序和策略。

    Apr, 2020

  • 科学推理的特征重要性方法指南

    该论文是一项关于解释性方法在机器学习中的应用的综合指南，通过对特征重要性方法进行广泛的回顾和对其解释的新证明，为我们提供了对这些方法的深入理解，并为科学推理提供具体的建议。此外，该论文还讨论了特征重要性不确定性估计的选项，并指出了从黑盒机器学习模型获得全面统计推理的未来研究方向。

    Apr, 2024