Mar, 2020

何时出错？基于实例特征重要性的时间序列模型解释

PDF
TL;DR我们提出了 FIT 框架来评估多元时间序列黑匣子模型中观察值的重要性，并且与现有的基线方法比较，在模拟和真实世界的临床数据上证明我们的方法在确定时间序列中的重要时间点和观察值方面更具优越性。
发现论文，激发创造
  • 特征重要性解释的可解释性与搜索方法中的越界问题

    本篇研究提出了多维特征重要性（FI）解释的新方法，包括改进训练过程、比较不同特征移除方法、引入四种基于搜索的方法来识别 FI 解释。在六个文本分类数据集上的实验表明，引入的平行本地搜索（PLS）方法是唯一能够持续优于随机搜索的方法，FI 解释的改进也大幅提升了分类性能。

    Jun, 2021

  • 时间序列预测特征重要性的时间依赖关系

    本研究提出双重解释方法，旨在解决时间序列数据中不同观测对同一特征的相关性以及特征重要性的变化，经过对合成和实际数据的实证研究，与目前领先的解释方法相比，具有更高的一致性和更好的性能表现

    Jul, 2021

  • 拉肖蒙重要度分布：摆脱不稳定、基于单一模型的变量重要度

    量化变量的重要性对于回答遗传学、公共政策和医学等领域的重要问题至关重要。我们提出了一个新的变量重要性框架，可以跨越所有好模型的集合，稳定地衡量变量的重要性，并在数据分布上准确估计变量的真实重要性。

    Sep, 2023

  • 黑盒模型特征重要性可视化

    本文介绍了一种基于局部特征重要性的机器学习可解释性方法，提出了两个可视化工具：partial importance (PI) 和 individual conditional importance (ICI) plots，并引入了 Shapley feature importance，可以公平地分配模型性能，比较不同模型上的特征重要性。

    Apr, 2018

  • 一种简单有效的基于模型的变量重要性度量方法

    本文提出了一种标准化的、基于模型的方法来测量监督学习算法中预测器的重要性，该方法适用于各种现代算法，如随机森林、梯度提升决策树等。

    May, 2018

  • 自主驱动的重要性权重理论分析 —— 基于协变量偏移广义化的研究

    本文证明了独立驱动的重要性权重算法的有效性，并将其解释为特征选择过程，指定了最小稳定变量集，在理想条件下，该算法可以识别此集合中的变量，并提供了渐近性质分析，结果在多个合成实验中得到证明。

    Nov, 2021

  • 特征重要性的固有不一致性

    本文提出一种新的特征重要性得分框架，通过将特征空间重新划分成可分离集合，从而统一了现有研究所存在的不一致性，实现了对机器学习算法的可解释性。

    Jun, 2022

  • 通过解释空间检测基于表格数据的分布转移

    本研究探讨在数据分布漂移时，机器学习模型的预测性能和模型解释特征如何受影响，以及这些关键指标如何相互关联，发现模型解释任务的建模是检测预测性能变化的更好指标。

    Oct, 2022

  • 通用框架：关于对算法无关变量重要性的推断

    本文提出了关于变量重要性的非参数推断的一般框架，定义了变量重要性作为所有可用特征与除考虑特征外的所有特征之间的神谕可预测性的总体对比，并提出了有效的估计程序和策略。

    Apr, 2020

  • 改进协变量偏移中的重要性估计以提供准确的预测误差

    传统机器学习算法假设训练数据集和测试数据集遵循相同的分布，但现实数据不满足这一条件，因此提出了针对协变量转移问题的重要性估计方法 KLIEP。本文通过引入目标信息改进了 KLIEP 的性能，并在测量协变量转移对误差估计的影响时表明通过引入目标信息可以获得更准确的估计。

    Feb, 2024