ICMLJun, 2018

后解释性中代理器的可识别性定义

PDF
TL;DR本研究针对黑盒分类器的应用，提出了一种基于本地替代模型的解释生成方法，强调了定义正确的邻域对于准确逼近本地黑盒决策边界的重要性。该方法通过在决策边界上的特定区域进行采样，生成了一个新型的替换方法，并在四个 UCI 数据集上进行了评估，证实了其有效性。
发现论文，激发创造
  • 基于自然图像统计的采样改进了本地代理解释器

    本文提出了对生成解释性数据的 surrogate explainers 的限制进行修正的方法，基于深度神经网络中的解释性模型，通过使用感知度量并将采样的局部邻域与原始培训数据分布对齐，训练一个局部可解释的模型，以了解模型是如何得出特定预测结果的。

    Aug, 2022

  • 保证解释的区域

    我们提出了一种基于锚点的算法，用于确定那些可以保证局部解释正确性的区域，通过明确描述输入特征可信赖的区间来生成可解释的特征对齐框，保证局部代理模型的预测与预测模型相匹配；我们展示了相比现有基线方法，我们的算法能够找到更大的保证区域的解释，更好地涵盖数据流形，并展示了我们的方法如何识别具有较差保证区域的误导性局部解释。

    Feb, 2024

  • 借助真实样本的渐进邻域逼近解释文本分类器

    针对文本分类器的局部模型无关解释，提出了一种渐进逼近方法，它通过两阶段插值使用反事实来完善待解释决策的领域，从而提高了邻域质量。通过试验，证明了该方法的有效性。

    Feb, 2023

  • 基于散乱数据逼近的观测特定解释

    本研究介绍了观测特定解释的定义，通过为每个数据点分配与其在预测过程中的重要性成比例的分数。这种解释涉及对感兴趣的黑匣子模型中最具影响力的观测的识别。通过利用正交匹配追踪算法构建散乱数据逼近的代理模型来估计这些解释的建议方法。该方法在模拟和真实世界数据集上得到验证。

    Apr, 2024

  • 可靠的事后解释：解释性中的不确定性建模

    本文提出了基于贝叶斯框架的黑盒模型解释方法，能够生成可靠的局部解释和其关联的不确定性，并且具有稳定性和高度一致性，可以快速地解决几个重要问题。通过实证研究，证明了该方法的有效性，并提高了解释的可靠性。

    Aug, 2020

  • 无需获取模型的本地模型解释和不确定性

    我们提出了一个针对机器学习模型的模型无关算法，用于在仅可得到模型的输入输出样本而非对模型本身直接访问时生成事后解释和不确定性区间。

    Jan, 2023

  • BELLA：基于本地线性近似的黑盒模型解释

    该研究介绍了 BELLA，一种模型无关的后置方法，用于解释回归黑盒模型的个体预测，其以特征空间中的线性模型形式提供解释，并最大化线性模型适用的邻域大小，因此其解释准确，简单，一般且稳健。

    May, 2023

  • 黑盒决策系统的本地基于规则的解释

    本文提出了一种名为 LORE 的黑匣子探明方法，能够从逻辑和反事实规则两个层面解释黑匣子机器学习模型的决策原因，从而提高其在社会敏感和安全关键环境中的可用性和透明度。

    May, 2018

  • 带区间估计的一致预测

    提出了一种名为局部一致性预测的新方法，它可以仅使用新测试样本周围的局部区域来构建置信区间，旨在将数据互换性打破为测试样本赋予特殊角色的情况下，推广了一致性预测方法，并证明了其假设无关与有限样本覆盖保证，并在模拟中比较了局部一致性预测和一致性预测的行为。

    Aug, 2019

  • 局部解释模型的局部性

    研究表明，Shapley 值可提供模型不可知的特征归因，通过在全局人口分布下模拟特征缺失，来描述特定情况下模型结果；但是当局部模型行为受关注时，使用全局人口可能导致潜在的误导结果。因此，我们考虑制定邻域参考分布，以改善 Shapley 值的本地可解释性，通过这样做，发现经典的 Nadaraya-Watson 估计器可以被表达为自标准化重要性采样估计器，其中邻域 Shapley 值识别有意义的稀疏特征相关性归因，为了研究常规的 Shapley 值分析进行补充，增加了对构建对抗分类器的流形可解释性和鲁棒性。

    Jun, 2021