XAI-Increment: 一种利用 LIME 解释来改进增量学习的新方法

Nov, 2022

XAI-Increment: 一种利用 LIME 解释来改进增量学习的新方法

XAI-Increment: A Novel Approach Leveraging LIME Explanations for Improved Incremental Learning

Arnab Neelim Mazumder, Niall Lyons, Anand Dubey, Ashutosh Pandey, Avik Santra

TL;DR本文提出了一种自定义加权损失函数，其中考虑了真实 LIME 解释和模型预测 LIME 解释之间的欧几里得距离，用于提高模型的泛化能力，并通过增量学习设置来验证其有效性。与传统损失函数相比，使用自定义加权损失函数的训练程序对于 Google 语音命令数据集上的关键字识别任务表现出 1％的准确率提高，并在与 EWC 相结合的增量学习设置中表现出低信息损失。

Abstract

Explainability of neural network prediction is essential to understand feature importance and gain interpretable insight into neural network performance. In this work, →

neural network prediction feature importance model explanations custom weighted loss incremental learning

发现论文，激发创造

增量式可解释性人工智能：逐步解释的可记忆理解

通过利用人类认知能力渐进地接收更多细节来提供更详细的解释，通过提供基础 + 递增因素来帮助用户阅读和记住更准确的解释，从而改善可理解性和可记忆性，并评估 Incremental XAI 相较于基准解释方法在忠实度、可记忆性和可理解性方面的性能。

Apr, 2024

利用可解释的人工智能来提高神经网络的性能

本研究提出了一种重新训练流程，使用 SHapley Additive explanations 值，从 XAI 入手并利用最先进的技术来增加模型的透明度和可信度，在人数统计场景和图像分类数据集上进行了实验验证，结果表明使用 SHAP-based 重新训练方法比使用相等加权训练方法更有效，分别提高了 4% 和 3% 的准确率。

Oct, 2022

可解释人工智能方法评论：SHAP 和 LIME

这篇论文探讨解释的可解释人工智能（XAI）方法，特别是 SHapley 加性解释和局部可解释模型无关解释等两种使用广泛的方法，提出一个框架来解释它们的输出，强调它们的优缺点。

May, 2023

定量描述 XAI 方法中相关特征的贡献

提出了一种简单而有用的代理，修改任何 XAI 特征排序方法的结果，以便考虑预测变量之间的依赖关系。该方法是模型不可知的，而且在存在共线性时计算每个预测变量在模型中的影响非常简单。

Apr, 2023

解释解释器：LIME 的首个理论分析

该文提供了 LIME 算法的首个理论分析，当函数为线性函数时，我们为可解释模型的系数导出了闭式表达式，其中这些系数与被解释函数的梯度成正比，但分析也揭示了 LIME 在选择参数不当时可能会错过重要的特征。

Jan, 2020

如何选择一个解释器？一个基于应用的后续解释评估

提出了一种名为 XAI Test 的应用基准评估方法，旨在评估不同水平的信息提供对最终决策的影响，针对现实世界的欺诈检测任务进行了实验，并使用多种统计方法分析了三种热门解释器的影响。

Jan, 2021

本地通用基于规则的解释

本研究提出了一种基于规则的 Local Universal Explainer（LUX）模型，可以生成事实、反事实和视觉解释，通过修改决策树算法实现倾斜分割和与 SHAP 或 LIME 等特征重要性 XAI 方法的集成。该方法通过选择对解释模型的决策边界形成具有最高影响力的真实数据的高密度聚类的局部概念，而不使用数据生成，测试表明它在简单性、全局保真度和代表性等方面优于当前现有的 LORE、EXPLAN 和 Anchor 等基于规则的解释方法。

Oct, 2023

CALIME：基于因果关系的本地可解释模型无关解释

本篇论文提出一种新颖的扩展方法，将因果关系显式编码进生成输入实例的数据以解释增加信任度和帮助用户评估解释质量的 XAI 方法，并通过实验表明该方法对于拟合黑匣子和解释稳定性均达到了比初始方法更优越的表现。

Dec, 2022

机器学习模型中的统一解释：一种扰动方法

面向可解释人工智能（XAI）的高速范式转变已在近年来出现。高度复杂的机器学习（ML）模型在许多智能任务中蓬勃发展，而问题开始从传统的有效性度量转向更深层次的问题：该模型告诉我关于我的数据什么，它是如何得出这些结论的？XAI 和建模技术之间的不一致可能对这些解释性方法的效力产生质疑。为了解决这些问题，我们提出了一种针对流行的 XAI 的模型不可知方法 SHapley Additive exPlanations（Shap）进行系统的扰动分析。我们设计了一些算法，在动态推理的设置下生成相对特征重要性，这些设置针对一套流行的机器学习和深度学习方法，以及允许我们量化静态情况下生成解释的质量的度量指标。我们提出了特征重要性方法论的分类体系，度量了一致性，并观察了几个数据集中解释模型之间的可量化相似性。

May, 2024

可解释人工智能方法在语音识别中的可靠性评估 —— 以音素识别为例

本文介绍了从图像分类领域中最新的可解释 AI 技术 “局部可解释模型 - 对抗性解释（LIME）”，应用于 TIMIT 语音数据集的语音识别任务中。将时间分割的音频片段作为解释器，本文提出的改进版本可以在其前三个音频片段中包含 96% 的真值，从而产生最可靠的解释。

May, 2023