Mar, 2022

黑匣子 NLP 模型的解释：一项调查

PDF
TL;DR本文提出了一种基于中心极限定理的假设检验框架以确定所需扰动点的数量，从而保障解释稳定性的方法 S-LIME，以解决黑箱模型的可解释性问题。对模拟数据集和实际数据集进行的实验表明了该方法的有效性。
machine learninginterpretabilityblack-box modelss-limestability
发现论文，激发创造
  • S-LIME: 模型解释的稳定化 LIME

    研究黑盒机器学习模型的解释方法，提出一种基于中心极限定理的假设测试框架方法，名为 S-LIME，以保证解释结果的稳定性，实验结果在模拟和真实数据集上表明该方法的有效性。

    Jun, 2021

  • 模型无关 NLP 可解释性中解释的粒度

    通过对复杂的基于 BERT 的分类器使用基于段落的方法，本文改进了当前基于单词采样的黑盒 NLP 可解释性方法的局限性，大大提高了基准分类任务的解释保真度。

    Dec, 2020

  • 文本数据中 LIME 的分析

    本文对 LIME 在文本数据上的使用进行了首次理论分析，发现 LIME 能够对简单模型（决策树和线性模型）提供有意义的解释。

    Oct, 2020

  • 超越 LIME 的替代预测解释

    本文提出一种算法框架 bLIMEy，用于构建定制的本地替代解释器，其中包括 LIME，该框架独立且可互操作，并讨论了组件选择对结果解释器功能能力的影响。

    Oct, 2019

  • LIME 模型在文本分类中解释结果的稳定性分析：对抗扰动的探究

    本文验证了先前文献指出的 LIME 对于无序数据稳定性较低的趋势，并在文本数据上探索了 LIME 的稳定性。

    May, 2023

  • 基于 LIME 的黑盒模型性能研究：以脓毒症检测为例

    本论文提出借助 LIME 方法识别黑盒分类模型中导致次优性能的显著特征，在高风险败血症检测中展示该方法的有效性，并鼓励机器学习模型在临床实践中的应用。

    Jun, 2023

  • 可靠的事后解释：解释性中的不确定性建模

    本文提出了基于贝叶斯框架的黑盒模型解释方法，能够生成可靠的局部解释和其关联的不确定性，并且具有稳定性和高度一致性，可以快速地解决几个重要问题。通过实证研究，证明了该方法的有效性，并提高了解释的可靠性。

    Aug, 2020

  • 为什么我应该信任你？": 解释任何分类器的预测

    本文提出了一种可解释性的机器学习算法解释技术 ——LIME，基于该技术可以在一个可解释且可靠的小规模模型内对任何分类器的预测进行解释，从而提高了可信度和可理解性，实现了对于信任度的估计及诸多信任场景的适用性。

    Feb, 2016

  • 解释解释器：LIME 的首个理论分析

    该文提供了 LIME 算法的首个理论分析，当函数为线性函数时，我们为可解释模型的系数导出了闭式表达式，其中这些系数与被解释函数的梯度成正比，但分析也揭示了 LIME 在选择参数不当时可能会错过重要的特征。

    Jan, 2020

  • 用 SMILE 解释黑盒子：局部解释的统计模型无关可解释性

    机器学习的可信度与解释性是当前发展的重点，提升可信度的关键在于解释性，我们提出了 SMILE 方法，利用统计距离度量来提高解释性，并适用于各种数据领域。

    Nov, 2023