Oct, 2019

结合 LIME 与 Aleph 丰富关系概念的视觉解释

PDF
TL;DR本文提出了一种能够利用归纳逻辑程序系统 ALEPH 所得到的逻辑规则来解释分类器决策的方法，并利用图像生成方法 LIME 进行实例和背景知识的学习，通过图像展示了该方法的应用，证明了该方法能够识别图像中的关系，并生成更丰富的解释。
发现论文，激发创造
  • LIME 在图像中看到了什么？

    该论文研究了 LIME 作为解释方法之一在理论上的局限性和与另一解释方法 integrated gradients 的联系，探讨了其在计算机视觉和目标识别领域的应用。

    Feb, 2021

  • 解释解释器：LIME 的首个理论分析

    该文提供了 LIME 算法的首个理论分析，当函数为线性函数时，我们为可解释模型的系数导出了闭式表达式，其中这些系数与被解释函数的梯度成正比，但分析也揭示了 LIME 在选择参数不当时可能会错过重要的特征。

    Jan, 2020

  • 利用互补示例学习解释技巧

    本研究提出了一种新框架来生成互补的解释，其中由三个不同的神经网络来参数化需要解释和被解释的变量的联合分布，即预测器，语言解释器和示例选择器，结果表明该方法是有效的。

    Dec, 2018

  • 文本数据中 LIME 的分析

    本文对 LIME 在文本数据上的使用进行了首次理论分析，发现 LIME 能够对简单模型（决策树和线性模型）提供有意义的解释。

    Oct, 2020

  • ALICE: 用对比自然语言解释的主动学习

    提出了一种专家循环训练框架 ALICE，它利用对比的自然语言解释来提高学习的数据效率，通过提取和动态更改学习模型的结构来应用于鸟类物种分类和社会关系分类两个视觉识别任务中，验证结果表明，相较于使用 40-100% 更多的训练数据的基线模型，应用对比解释后的模型效果更加出色，而添加一个解释获得的性能增益与添加 13-30 个标记训练数据点的性能增益相当。

    Sep, 2020

  • OptiLIME: 优化的 LIME 算法解释 —— 针对诊断计算算法

    本文介绍了一种用于解释任何类型的机器学习模型的流行方法：局部可解释的模型无关解释（LIME）。该方法通过学习围绕预测的简单线性模型来解释一个预测，但其主要缺点是不稳定性。论文提出了一个称为 OptiLIME 的框架，以最大化稳定性，同时保留预定义水平的粘附性，并且对所得到的解释的数学属性进行了明确的突出显示。

    Jun, 2020

  • 基于分块对齐和词汇限制的自然语言解释视觉蕴涵

    本文提出了一种名为 CALeC 的方法，旨在解决语言和图像理解中，以前的方法在语义和各种特征之间的对齐上存在问题，其包括一个基于块意识和词汇约束的生成器和一个基于关系的推理网络，用于提高视觉语言理解的精确度和生成的解释的质量。在三个数据集的广泛实验中，CALeC 明显优于其他竞争模型，可以准确推断出 text-image 对之间的关系并生成解释。

    Jul, 2022

  • DSEG-LIME -- 提升图像解释的分层数据驱动分割

    DSEG-LIME 通过数据驱动的分割方式，以及分层分割程序，提高了解释性，大部分的 XAI 评估指标都表现出了 DSEG 的优势，与人工识别的概念更加契合。

    Mar, 2024

  • 基于局部不变学习的本地不变解释：实现稳定单向解释

    提出了一种基于不变风险最小化 (IRM) 原则的模型无关局部解释方法，该方法能够稳定、直观地生成高保真度解释，该方法通过消除黑盒函数梯度在附近范围内突然变化的特征，实现了与实际邻居方法相当甚至更好的解释质量，同时没有必要花费过多时间来学习邻居结构。

    Jan, 2022

  • 将逻辑解释网络扩展到文本分类

    该研究提出了一种名为 LENp 的模型，通过扰动输入单词来改进文本分类中的本地解释，其提供的逻辑解释在灵敏度和忠实度方面比 LIME 更好，并且在人员调查中被证明逻辑解释比 LIME 提供的特征评分更有用和用户友好。

    Nov, 2022