文本数据中 LIME 的分析

Oct, 2020

An Analysis of LIME for Text Data

Dina Mardaoui, Damien Garreau

TL;DR本文对 LIME 在文本数据上的使用进行了首次理论分析，发现 LIME 能够对简单模型（决策树和线性模型）提供有意义的解释。

Abstract

text data are increasingly handled in an automated fashion by machine learning algorithms. But the models handling these data are not always well-understood due to their complexity and are more and more often referred to as "black-boxes." →

text data machine learning black-box models interpretability methods lime

发现论文，激发创造

解释解释器：LIME 的首个理论分析

该文提供了 LIME 算法的首个理论分析，当函数为线性函数时，我们为可解释模型的系数导出了闭式表达式，其中这些系数与被解释函数的梯度成正比，但分析也揭示了 LIME 在选择参数不当时可能会错过重要的特征。

Jan, 2020

OptiLIME: 优化的 LIME 算法解释 —— 针对诊断计算算法

本文介绍了一种用于解释任何类型的机器学习模型的流行方法：局部可解释的模型无关解释（LIME）。该方法通过学习围绕预测的简单线性模型来解释一个预测，但其主要缺点是不稳定性。论文提出了一个称为 OptiLIME 的框架，以最大化稳定性，同时保留预定义水平的粘附性，并且对所得到的解释的数学属性进行了明确的突出显示。

Jun, 2020

LIME 模型在文本分类中解释结果的稳定性分析：对抗扰动的探究

本文验证了先前文献指出的 LIME 对于无序数据稳定性较低的趋势，并在文本数据上探索了 LIME 的稳定性。

May, 2023

S-LIME: 模型解释的稳定化 LIME

研究黑盒机器学习模型的解释方法，提出一种基于中心极限定理的假设测试框架方法，名为 S-LIME，以保证解释结果的稳定性，实验结果在模拟和真实数据集上表明该方法的有效性。

Jun, 2021

LIME 在图像中看到了什么？

该论文研究了 LIME 作为解释方法之一在理论上的局限性和与另一解释方法 integrated gradients 的联系，探讨了其在计算机视觉和目标识别领域的应用。

Feb, 2021

黑匣子 NLP 模型的解释：一项调查

本文提出了一种基于中心极限定理的假设检验框架以确定所需扰动点的数量，从而保障解释稳定性的方法 S-LIME，以解决黑箱模型的可解释性问题。对模拟数据集和实际数据集进行的实验表明了该方法的有效性。

Mar, 2022

超越 LIME 的替代预测解释

本文提出一种算法框架 bLIMEy，用于构建定制的本地替代解释器，其中包括 LIME，该框架独立且可互操作，并讨论了组件选择对结果解释器功能能力的影响。

Oct, 2019

LIME 的统计稳定性指数：为机器学习模型获取可靠解释

本研究介绍了使用 LIME 方法来提高机器学习算法的可解释性，在 Credit Risk 数据案例中测试了 LIME 方法的稳定性和解释效果。

Jan, 2020

DLIME：基于确定性的本地可解释模型无关解释方法应用于计算机辅助诊断系统

提出了确定性局部可解释的模型无关解释技术 (DLIME) 来解决 LIME 技术中由于随机扰动和特征选择方法导致的解释生成不稳定的问题，在三个不同的医疗数据集上实验表明 DLIME 相比 LIME 具有更好的稳定性，这对于在医学 CAD 系统中的部署非常重要。

Jun, 2019

GLIME: 通用、稳定和本地的 LIME 解释

解释黑盒机器学习模型的预测的方法 LIME 存在随机种子不稳定和局部准确率低的问题，通过引入增强框架 GLIME 解决了这些挑战，提供了相对稳定且拥有更高局部准确率的解释。

Nov, 2023