Jun, 2021

特征重要性解释的可解释性与搜索方法中的越界问题

PDF
TL;DR本篇研究提出了多维特征重要性（FI）解释的新方法，包括改进训练过程、比较不同特征移除方法、引入四种基于搜索的方法来识别 FI 解释。在六个文本分类数据集上的实验表明，引入的平行本地搜索（PLS）方法是唯一能够持续优于随机搜索的方法，FI 解释的改进也大幅提升了分类性能。
feature importanceexplanationsmodel trainingcounterfactualstext classification
发现论文，激发创造
  • 统一特征归属和反事实说明：不同的手段达成了相同的目的

    通过真实因果关系框架提供一种将特征归因和反事实解释统一的解释方法，通过在 Adult-Income，LendingClub 和 German-Credit 三个基准数据集上的实验，发现 Feature attribution 方法和 counterfactual explanation 方法并不总是一致的，也表明了他们之间的互补性。

    Nov, 2020

  • 增量置换特征重要性（iPFI）：面向数据流的在线解释

    提出了一种名为 iPFI 的有效的、模型无关的算法，用于在动态建模条件下估计特征边际化的增量特征重要性评估方法，包括概念漂移。实验证明，相比传统的批处理 PFI 方法，该方法具有良好的效果。

    Sep, 2022

  • 传统机器学习模型解释方法比较 Part 2：量化模型解释可信度及通过降维改善

    本研究评估了多种特征排序方法的忠实度，并量化了限制相关特征对解释能力提高的影响，发现促进特征解释的方法在特征相关性降低后最具忠实度。

    Nov, 2022

  • 特征去除是模型解释方法的统一原则

    本研究着眼于解释模型，提出一种基于特征删除的解释框架，包括 26 种方法（如 SHAP 和 LIME 等），揭示这些方法间的相似性，为选择和使用工具提供了有力支持，并且为进一步的可解释 AI 研究提供有益方向。

    Nov, 2020

  • 特征重要性和反事实解释的鲁棒性调查

    研究了金融领域中两类常用的局部解释方法的健壮性，给出了健壮性分析的分类方法和结果，并探讨了如何扩展分析方法以确定可靠的解释方法。

    Oct, 2021

  • 去除来解释：模型解释的统一框架

    本文提出一类新的模型解释方法 - 基于删除的解释，并提出一个三个方面的框架来描述和统一 26 种已有的模型解释方法。通过这个分析，我们发展了一个统一的框架，帮助实践者更好地理解模型解释工具，并为未来的可解释性研究提供了坚实的理论基础。

    Nov, 2020

  • 何时出错？基于实例特征重要性的时间序列模型解释

    我们提出了 FIT 框架来评估多元时间序列黑匣子模型中观察值的重要性，并且与现有的基线方法比较，在模拟和真实世界的临床数据上证明我们的方法在确定时间序列中的重要时间点和观察值方面更具优越性。

    Mar, 2020

  • 计算与可视化反事实特征重要性值

    本文提出了 Counterfactual Feature Importance (CFI) 方法，并介绍了其计算过程和三种可视化方法，从而使解释和解释性口径机器学习更加透明。

    Jun, 2023

  • 科学推理的特征重要性方法指南

    该论文是一项关于解释性方法在机器学习中的应用的综合指南，通过对特征重要性方法进行广泛的回顾和对其解释的新证明，为我们提供了对这些方法的深入理解，并为科学推理提供具体的建议。此外，该论文还讨论了特征重要性不确定性估计的选项，并指出了从黑盒机器学习模型获得全面统计推理的未来研究方向。

    Apr, 2024

  • 关于解释在域外环境中的实证研究

    该论文探索了自然语言处理中有关如何在不同领域中提取精准的解释的方法，其中侧重于后续解释和固有的忠诚度模型，并且发现后续解释的忠诚度在许多情况下比在领域内更高，而在跨域设置中，选择后预测模型的预测性能与完整训练模型相当。

    Feb, 2022