Jul, 2023

基于卷积神经网络的生物特征验证的可解释模型无关算法

PDF
TL;DR本文采用 Local Interpretable Model-Agnostic Explanations（LIME）人工智能方法，在生物识别验证环境下进行了适应性改进，通过余弦相似度来实现可解释性，并且展示了针对移动网络和 ResNet50 的人脸生物识别的两种 CNN 模型。
发现论文，激发创造
  • DLIME：基于确定性的本地可解释模型无关解释方法应用于计算机辅助诊断系统

    提出了确定性局部可解释的模型无关解释技术 (DLIME) 来解决 LIME 技术中由于随机扰动和特征选择方法导致的解释生成不稳定的问题，在三个不同的医疗数据集上实验表明 DLIME 相比 LIME 具有更好的稳定性，这对于在医学 CAD 系统中的部署非常重要。

    Jun, 2019

  • 基于局部不变学习的本地不变解释：实现稳定单向解释

    提出了一种基于不变风险最小化 (IRM) 原则的模型无关局部解释方法，该方法能够稳定、直观地生成高保真度解释，该方法通过消除黑盒函数梯度在附近范围内突然变化的特征，实现了与实际邻居方法相当甚至更好的解释质量，同时没有必要花费过多时间来学习邻居结构。

    Jan, 2022

  • 超越 LIME 的替代预测解释

    本文提出一种算法框架 bLIMEy，用于构建定制的本地替代解释器，其中包括 LIME，该框架独立且可互操作，并讨论了组件选择对结果解释器功能能力的影响。

    Oct, 2019

  • 基于 Kullback-Leibler 投影的贝叶斯预测模型的本地可解释性模型无关解释

    该研究提出了一种名为 KL-LIME 的新方法，将 Bayesian 预测模型的信息局部投影到一个简单的解释模型中，以解释 MNIST 手写数字分类结果。该方法结合了 LIME 和贝叶斯预测变量选择方法的思想，并在解释的保真度和复杂度之间找到了平衡。

    Oct, 2018

  • 解释解释器：LIME 的首个理论分析

    该文提供了 LIME 算法的首个理论分析，当函数为线性函数时，我们为可解释模型的系数导出了闭式表达式，其中这些系数与被解释函数的梯度成正比，但分析也揭示了 LIME 在选择参数不当时可能会错过重要的特征。

    Jan, 2020

  • OptiLIME: 优化的 LIME 算法解释 —— 针对诊断计算算法

    本文介绍了一种用于解释任何类型的机器学习模型的流行方法：局部可解释的模型无关解释（LIME）。该方法通过学习围绕预测的简单线性模型来解释一个预测，但其主要缺点是不稳定性。论文提出了一个称为 OptiLIME 的框架，以最大化稳定性，同时保留预定义水平的粘附性，并且对所得到的解释的数学属性进行了明确的突出显示。

    Jun, 2020

  • audioLIME: 采用声音分离实现可听解释

    本文提出一种名为 audioLIME 的方法，采用了基于局部可解释的模型的解释扩展方法（LIME）并扩展了局部性的音乐定义，使用源分离提取的组件开关产生扰动，是解释方法具有可听性。并且，我们在两个不同的音乐标记系统上验证了 audioLIME，并证明其在一些情况下能够产生合理的解释，而其他竞争方法则无法产生。

    Aug, 2020

  • 一种新颖的可解释人工智能模型解决图像分类问题

    最近几年，人工智能在许多不同领域得到广泛应用，对人类生活产生了深远而直接的影响。本文提出了一个名为 “分割 - 类激活映射（SeCAM）” 的新方法，结合了现有算法的优势，并克服了它们的不足之处，用来解释人工智能模型，特别是图像分类领域的问题。通过在 ImageNet Large Scale Visual Recognition Challenge（ILSVRC）数据集上使用 ResNet50，Inception-v3，VGG16 等模型进行测试，证明了这种算法在极短的时间内可以满足特定解释的所有要求，取得了出色的结果。

    Jul, 2023

  • ALIME: 基于自编码器的局部可解释性方法

    本文提出了一种改进的可解释深度学习模型的方法，通过使用自动编码器来加权，从而提高了 LIME 的稳定性和本地保真度。

    Sep, 2019

  • LIME 在图像中看到了什么？

    该论文研究了 LIME 作为解释方法之一在理论上的局限性和与另一解释方法 integrated gradients 的联系，探讨了其在计算机视觉和目标识别领域的应用。

    Feb, 2021