Feb, 2016

为什么我应该信任你？": 解释任何分类器的预测

PDF
TL;DR本文提出了一种可解释性的机器学习算法解释技术 ——LIME，基于该技术可以在一个可解释且可靠的小规模模型内对任何分类器的预测进行解释，从而提高了可信度和可理解性，实现了对于信任度的估计及诸多信任场景的适用性。
machine learningexplanation techniqueinterpretabilitytrustclassifier
发现论文，激发创造
  • 解释解释器：LIME 的首个理论分析

    该文提供了 LIME 算法的首个理论分析，当函数为线性函数时，我们为可解释模型的系数导出了闭式表达式，其中这些系数与被解释函数的梯度成正比，但分析也揭示了 LIME 在选择参数不当时可能会错过重要的特征。

    Jan, 2020

  • 超越 LIME 的替代预测解释

    本文提出一种算法框架 bLIMEy，用于构建定制的本地替代解释器，其中包括 LIME，该框架独立且可互操作，并讨论了组件选择对结果解释器功能能力的影响。

    Oct, 2019

  • 基于 Kullback-Leibler 投影的贝叶斯预测模型的本地可解释性模型无关解释

    该研究提出了一种名为 KL-LIME 的新方法，将 Bayesian 预测模型的信息局部投影到一个简单的解释模型中，以解释 MNIST 手写数字分类结果。该方法结合了 LIME 和贝叶斯预测变量选择方法的思想，并在解释的保真度和复杂度之间找到了平衡。

    Oct, 2018

  • 无论何种模型：通过识别预测不变性的方式实现模型无关解释

    在这项工作中，我们提出了一种名为 anchor-LIME（aLIME）的与模型无关的技术，该技术能够生成高精度、基于规则的解释，其覆盖边界非常清晰，并通过模拟实验比较了 aLIME 和线性 LIME，并从各种领域和任务的定性示例中展示了 aLIME 的灵活性。

    Nov, 2016

  • 黑匣子 NLP 模型的解释：一项调查

    本文提出了一种基于中心极限定理的假设检验框架以确定所需扰动点的数量，从而保障解释稳定性的方法 S-LIME，以解决黑箱模型的可解释性问题。对模拟数据集和实际数据集进行的实验表明了该方法的有效性。

    Mar, 2022

  • 机器学习模型的本地可解释模型无关 Shap 解释

    提出了一种称为 LIMASE 的局部可解释模型无关 Shap 说明法，该方法使用 Shapley 值来解释任何模型的预测，提供局部和全局可解释的解释，解决子模块优化问题，为地区解释带来见解，并在与内核解释器相比计算更快。

    Oct, 2022

  • MaNtLE：无需模型的自然语言解释器

    本文介绍了 MaNtLE，一个模型无关的自然语言解释器，在结构化分类任务中分析多个分类器预测，并生成忠实的自然语言解释器，模拟的用户研究表明，MaNtLE 生成的解释器平均比 LIME 和 Anchors 解释器忠实度高至少 11％。

    May, 2023

  • 机器学习分类器的自动可信度测试

    提出了 TOWER 技术，它是第一个自动创建可靠性判断器的技术，该技术可以根据解释技术的输出自动评估与模型无关的文本分类器的可靠性。通过使用噪声数据获得的不可靠模型进行无监督学习，找到 TOWER 的最佳配置。在人工标记的可靠性数据集上评估 TOWER，结果显示 TOWER 能够检测到可靠性的降低，但在与人工标记的数据集对比时效果不佳。初步实验结果表明我们的假设是有效和有前景的，但还需要进一步研究以更好地了解解释和可靠性问题之间的关系。

    Jun, 2024

  • OptiLIME: 优化的 LIME 算法解释 —— 针对诊断计算算法

    本文介绍了一种用于解释任何类型的机器学习模型的流行方法：局部可解释的模型无关解释（LIME）。该方法通过学习围绕预测的简单线性模型来解释一个预测，但其主要缺点是不稳定性。论文提出了一个称为 OptiLIME 的框架，以最大化稳定性，同时保留预定义水平的粘附性，并且对所得到的解释的数学属性进行了明确的突出显示。

    Jun, 2020

  • 机器学习解释的艺术与科学

    本文讨论超越传统误差测量和图形评估机器学习模型的几种通用的解释方法，包括决策树模型、个体条件期望、局部可解释模型无关解释、偏置度量图和 Shapley 解释；并提供现实应用建议和公共软件示例以复现性检验。

    Oct, 2018