Mar, 2024

利用分层抽样提升 LIME 图像解释

PDF
TL;DR我们研究了一种分层抽样方法，用于减少 LIME Image 中典型 Monte Carlo 抽样生成的人工现象。通过在解释图像周围的合成邻域中对依赖变量进行欠采样，从而导致采样数据无法用线性回归器拟合，因此无法得到充分的解释。我们还强调了与 Shapley 理论的关系，该理论过去也提出了关于欠采样和样本相关性的相似观点。我们推导了所有所需的公式和调整因子，以得到无偏的分层抽样估计器。实验证明了所提方法的有效性。
stratified samplinglime imageexplainable aimonte carlo samplingshapley theory
发现论文，激发创造
  • 基于自然图像统计的采样改进了本地代理解释器

    本文提出了对生成解释性数据的 surrogate explainers 的限制进行修正的方法，基于深度神经网络中的解释性模型，通过使用感知度量并将采样的局部邻域与原始培训数据分布对齐，训练一个局部可解释的模型，以了解模型是如何得出特定预测结果的。

    Aug, 2022

  • GLIME: 通用、稳定和本地的 LIME 解释

    解释黑盒机器学习模型的预测的方法 LIME 存在随机种子不稳定和局部准确率低的问题，通过引入增强框架 GLIME 解决了这些挑战，提供了相对稳定且拥有更高局部准确率的解释。

    Nov, 2023

  • 超越 LIME 的替代预测解释

    本文提出一种算法框架 bLIMEy，用于构建定制的本地替代解释器，其中包括 LIME，该框架独立且可互操作，并讨论了组件选择对结果解释器功能能力的影响。

    Oct, 2019

  • 基于局部不变学习的本地不变解释：实现稳定单向解释

    提出了一种基于不变风险最小化 (IRM) 原则的模型无关局部解释方法，该方法能够稳定、直观地生成高保真度解释，该方法通过消除黑盒函数梯度在附近范围内突然变化的特征，实现了与实际邻居方法相当甚至更好的解释质量，同时没有必要花费过多时间来学习邻居结构。

    Jan, 2022

  • OptiLIME: 优化的 LIME 算法解释 —— 针对诊断计算算法

    本文介绍了一种用于解释任何类型的机器学习模型的流行方法：局部可解释的模型无关解释（LIME）。该方法通过学习围绕预测的简单线性模型来解释一个预测，但其主要缺点是不稳定性。论文提出了一个称为 OptiLIME 的框架，以最大化稳定性，同时保留预定义水平的粘附性，并且对所得到的解释的数学属性进行了明确的突出显示。

    Jun, 2020

  • S-LIME: 模型解释的稳定化 LIME

    研究黑盒机器学习模型的解释方法，提出一种基于中心极限定理的假设测试框架方法，名为 S-LIME，以保证解释结果的稳定性，实验结果在模拟和真实数据集上表明该方法的有效性。

    Jun, 2021

  • LIME 在图像中看到了什么？

    该论文研究了 LIME 作为解释方法之一在理论上的局限性和与另一解释方法 integrated gradients 的联系，探讨了其在计算机视觉和目标识别领域的应用。

    Feb, 2021

  • 可解释人工智能方法评论：SHAP 和 LIME

    这篇论文探讨解释的可解释人工智能（XAI）方法，特别是 SHapley 加性解释和局部可解释模型无关解释等两种使用广泛的方法，提出一个框架来解释它们的输出，强调它们的优缺点。

    May, 2023

  • LIME 模型在文本分类中解释结果的稳定性分析：对抗扰动的探究

    本文验证了先前文献指出的 LIME 对于无序数据稳定性较低的趋势，并在文本数据上探索了 LIME 的稳定性。

    May, 2023

  • 解释解释器：LIME 的首个理论分析

    该文提供了 LIME 算法的首个理论分析，当函数为线性函数时，我们为可解释模型的系数导出了闭式表达式，其中这些系数与被解释函数的梯度成正比，但分析也揭示了 LIME 在选择参数不当时可能会错过重要的特征。

    Jan, 2020