Sep, 2022

增量置换特征重要性（iPFI）：面向数据流的在线解释

PDF
TL;DR提出了一种名为 iPFI 的有效的、模型无关的算法，用于在动态建模条件下估计特征边际化的增量特征重要性评估方法，包括概念漂移。实验证明，相比传统的批处理 PFI 方法，该方法具有良好的效果。
explainable artificial intelligencedynamic scenariosincremental algorithmsfeature importance measuresconcept drift
发现论文，激发创造
  • 特征重要性解释的可解释性与搜索方法中的越界问题

    本篇研究提出了多维特征重要性（FI）解释的新方法，包括改进训练过程、比较不同特征移除方法、引入四种基于搜索的方法来识别 FI 解释。在六个文本分类数据集上的实验表明，引入的平行本地搜索（PLS）方法是唯一能够持续优于随机搜索的方法，FI 解释的改进也大幅提升了分类性能。

    Jun, 2021

  • 非线性学习算法特征重要性度量

    本文提出了一种可以用于任意机器学习方法 (包括核机器和深度学习) 的 feature importance（特征重要性）的度量方法，可以用于不同层面的算法解释，因此可以提供更好的机器学习预测结果。

    Nov, 2016

  • 任意时刻的近似正式特征归因

    人工智能和机器学习模型的广泛应用与一系列相关问题需要可解释的人工智能。形式特征归属是一种新的方法，定义了特征重要性作为包含给定特征的正式反演解释的比例。本文提出了一种高效的启发式算法以适应性地近似形式特征归属，在多个常用数据集上的实验结果表明了所提方法的有效性。

    Dec, 2023

  • 从 SHAP 得分到特征重要性得分

    本文介绍了可解释人工智能（XAI）的核心目标，即根据预测结果赋予机器学习模型特征的相对重要性。通过对功能归属的精确计算，研究表明该任务是非常重要的，并且之前提出的一些公理化聚合代表了过去研究中探讨的多个权力指数示例。此外，本文探讨了如何将一些广泛使用的权力指数用作特征重要性评分，并提出了满足可解释人工智能的新颖特征重要性评分。最后，文章对最知名的权力指数在提出的指标方面进行了深入分析。

    May, 2024

  • 动态建模场景下的部分依赖图解析 (iPDP)

    提出了一种模型无关的可解释人工智能框架，称为增量 PDP (iPDP)，扩展了 PDP 来提取非平稳学习环境下的时间依赖特征效果，并展示了在漂移检测上的应用和在真实世界和合成数据集和数据流上进行多次实验。

    Jun, 2023

  • 科学推理的特征重要性方法指南

    该论文是一项关于解释性方法在机器学习中的应用的综合指南，通过对特征重要性方法进行广泛的回顾和对其解释的新证明，为我们提供了对这些方法的深入理解，并为科学推理提供具体的建议。此外，该论文还讨论了特征重要性不确定性估计的选项，并指出了从黑盒机器学习模型获得全面统计推理的未来研究方向。

    Apr, 2024

  • 单样本特征重要性：一种可解释算法用于低层特征分析

    本文介绍了一种解释性特征重要性算法 SSFI，可以识别对于单个样本预测最重要的特征，并通过随机森林分类器 / 回归器的预测路径计算低级特征重要性，从而得出特征的相对重要性排序，同时在四个不同数据集上提出了数值和可视化结果。

    Nov, 2019

  • 基于点云网络的快速简单可解释性

    我们提出了一种快速简单的解释型 AI (XAI) 方法，用于点云数据。通过计算针对训练网络的点级重要性，可以更好地理解网络属性，这对于安全关键应用至关重要。除了调试和可视化外，我们的低计算复杂性还有助于在线反馈网络推断。这可以用于减少不确定性并增强鲁棒性。我们的方法在分类解释性方面取得了 SOTA 结果，同时还展示了所提措施如何有助于分析和表征 3D 学习的各个方面，例如旋转不变性、对分布外离群值或领域转移和数据集偏差的鲁棒性。

    Mar, 2024

  • 提高移动数据科学中的可解释性：方法结合

    在移动数据科学领域中，本文综合了关键的可解释性技术，如 LIME、SHAP、saliency maps、attention mechanisms、direct trajectory visualization 和 PFI，来揭示轨迹数据模型的空间 - 时间运动，并调查了用户偏好。

    Dec, 2023

  • 黑盒模型特征重要性可视化

    本文介绍了一种基于局部特征重要性的机器学习可解释性方法，提出了两个可视化工具：partial importance (PI) 和 individual conditional importance (ICI) plots，并引入了 Shapley feature importance，可以公平地分配模型性能，比较不同模型上的特征重要性。

    Apr, 2018