Apr, 2024

基于散乱数据逼近的观测特定解释

PDF
TL;DR本研究介绍了观测特定解释的定义，通过为每个数据点分配与其在预测过程中的重要性成比例的分数。这种解释涉及对感兴趣的黑匣子模型中最具影响力的观测的识别。通过利用正交匹配追踪算法构建散乱数据逼近的代理模型来估计这些解释的建议方法。该方法在模拟和真实世界数据集上得到验证。
发现论文，激发创造
  • 概念解释估计应该具备不确定性意识

    用可理解的人类概念来解释模型的全局解释的不稳定性问题以及提出了一种基于不确定性的贝叶斯估计方法，可以提高概念解释的可靠性。

    Dec, 2023

  • 通过有意义的扰动提供黑匣子的可解释性解释

    该研究提出了一种适用于任何黑盒机器学习算法的通用解释框架，并将其特化以找到对分类器决策最负责的图像部分。该方法是模型无关且可测试的，因为它基于明确且可解释的图像扰动。

    Apr, 2017

  • 选择性解释

    我们提出了一种选择性解释的特征归因方法，它检测出深度学习模型产生低质量解释的情况，并使用初始猜测解释技术改善这些解释，从而使实践者能够在提供初始猜测的解释之间进行选择，从而弥补了深度学习模型及其高质量对应物之间的差距。

    May, 2024

  • 黑盒异常归因

    介绍了一种基于可能性补偿的异常归属框架，用于黑匣子机器学习模型下对异常进行归属。通过对比现有的模型无关解释方法的局限性，利用独立梯度家族函数来辨别异常，证明了该方法的实用性和有效性。

    May, 2023

  • 针对信用风险评分的全球性解释

    本文提出了一种方法，通过对黑匣子分类器的决策函数进行抽样来学习可解释的替代模型，从而获得全局解释。该方法提供了一种统一解决方案，以简单的分类器逼近非线性决策边界，同时保持原来的分类准确性。我们使用私人住宅抵押违约数据集作为示例，说明了这种方法确保预处理期间属性的可分解性的可行性。

    Nov, 2018

  • 强健稳定的黑盒解释

    通过敌对训练的方法，我们提出了一个生成稳健且高保真黑盒模型解释的新框架，尝试解决现有算法在受到分布偏移时缺乏稳定性和鲁棒性的问题，本文是首次尝试生成对一类有实际意义的敌对扰动具有鲁棒性的后续解释，实验发现我们的方法显著提高了解释的鲁棒性，而不会在原始数据分布上牺牲解释的保真度。

    Nov, 2020

  • 基于绑架的机器学习模型解释

    本论文提出了一种无约束解决方案，利用归纳推理计算任何机器学习模型的解释，验证了所提出方法的可伸缩性和计算出的解释的质量。

    Nov, 2018

  • 可解释的、可探究的黑匣子模型近似

    提出了 BETA 框架，通过透明的逼近来解释任何黑盒分类器的行为，允许用户交互式地探索用户感兴趣的不同子空间中黑盒模型的行为。实验评估表明，与现有基线相比，该方法可以生成高度紧凑，易于理解，但准确的各种预测模型的逼近。

    Jul, 2017

  • 使用整合回归逼近基于分数的解释技术

    我们提出并研究了使用计算成本较低的回归模型来逼近诸如 SHAP 之类的基于分数解释技术的输出，通过采用归纳符合预测框架提供了对逼近值的有效性保证。我们提出了几种非一致性度量方法，旨在考虑到解释逼近的困难程度同时保持计算成本的低廉。通过大规模实证研究的结果表明，我们提出的模型生成的近似解释在效率（区间大小）方面得到了评估。结果表明，与快速版本的 SHAP TreeSHAP 相比，所提出的方法可以显著提高执行时间。结果还表明，所提出的方法可以产生紧密的区间，同时提供有效性保证。此外，所提出的方法允许比较不同逼近方法的解释，并根据预测区间的信息量（紧密程度）选择一种方法。

    Aug, 2023

  • 后解释性中代理器的可识别性定义

    本研究针对黑盒分类器的应用，提出了一种基于本地替代模型的解释生成方法，强调了定义正确的邻域对于准确逼近本地黑盒决策边界的重要性。该方法通过在决策边界上的特定区域进行采样，生成了一个新型的替换方法，并在四个 UCI 数据集上进行了评估，证实了其有效性。

    Jun, 2018