Dec, 2023

任意时刻的近似正式特征归因

PDF
TL;DR人工智能和机器学习模型的广泛应用与一系列相关问题需要可解释的人工智能。形式特征归属是一种新的方法，定义了特征重要性作为包含给定特征的正式反演解释的比例。本文提出了一种高效的启发式算法以适应性地近似形式特征归属，在多个常用数据集上的实验结果表明了所提方法的有效性。
explainable artificial intelligencexaimachine learning modelsformal feature attributionadaptive explanation enumeration algorithm
发现论文，激发创造
  • 论形式特征归属及其近似

    借鉴形式推理解释，提出了正式特征归因（FFA）方法，通过近似 FFA 技术证明了其在特征重要性和顺序方面相对于现有特征归因算法的有效性。

    Jul, 2023

  • 从 SHAP 得分到特征重要性得分

    本文介绍了可解释人工智能（XAI）的核心目标，即根据预测结果赋予机器学习模型特征的相对重要性。通过对功能归属的精确计算，研究表明该任务是非常重要的，并且之前提出的一些公理化聚合代表了过去研究中探讨的多个权力指数示例。此外，本文探讨了如何将一些广泛使用的权力指数用作特征重要性评分，并提出了满足可解释人工智能的新颖特征重要性评分。最后，文章对最知名的权力指数在提出的指标方面进行了深入分析。

    May, 2024

  • T-Explainer: 基於梯度的模型无关解释性框架

    可解释人工智能（Explainable Artificial Intelligence）通过提供准确、一致且稳定的解释，解决机器学习中黑盒模型的透明度问题，其中基于泰勒展开的 T-Explainer 成为了一种有效的特征归因方法。

    Apr, 2024

  • 挑战功能归因解释中的常见可解释性假设

    通过人类实验，我们发现属性解释法在某些情况下会导致决策者做出更糟糕的决策，这一结果挑战了应用这些方法的普遍好处的假定，在可解释的 AI 研究中人类评价的重要性下应该得到重视。

    Dec, 2020

  • 忠诚度度量中的不一致问题

    解释性人工智能（XAI）领域旨在解释黑盒机器学习模型的工作方式，而选择合适的方法以及衡量本地解释的忠实度的当前指标缺乏一致性，使得使用者在选择最忠实的解释时感到困惑。

    Nov, 2023

  • 游戏理论特征归属与反事实解释之间的联系

    本文探讨了可解释人工智能领域中的两种热门解释方式 —— 特征归因和反事实解释，并建立了它们之间的理论联系，证明了它们在一定条件下是等效的，同时进行了实验，验证了这一理论发现。

    Jul, 2023

  • 可解释性并非游戏

    这篇论文提出了一个简单的论点：Shapley 值可能会给出误导性的相对特征重要性量度，从而不仅会将更多的重要性分配给与预测无关的特征，而且会给与与预测相关的特征更少的重要性，这对于高风险应用领域中相对特征重要性的许多提议使用产生了挑战。

    Jun, 2023

  • 加法特征归因方法中的不确定性

    我们研究了后事解释型人工智能方法中的不确定性，并提出了一种修改基于 LIME 的算法中抽样密度的相对复杂度测量方法，以帮助不同的解释算法实现更紧密的置信水平。

    Nov, 2023

  • 使用 Feature Attribution 算法探究可控因素对医学案例的影响

    提出一个称为 Controllable fActor Feature Attribution (CAFA) 的方法，将特征划分为可控和不可控部分来计算相关特征的相对重要性，使用 CAFA 算法在现有数据集和 COVID-19 的非药物控制措施数据集中测试，得到的实验结果表明，使用 CAFA 算法的解释可以排除不可控特征的影响，同时保留完整的数据集进行预测。

    Mar, 2022

  • 机器学习模型中的统一解释：一种扰动方法

    面向可解释人工智能（XAI）的高速范式转变已在近年来出现。高度复杂的机器学习（ML）模型在许多智能任务中蓬勃发展，而问题开始从传统的有效性度量转向更深层次的问题：该模型告诉我关于我的数据什么，它是如何得出这些结论的？XAI 和建模技术之间的不一致可能对这些解释性方法的效力产生质疑。为了解决这些问题，我们提出了一种针对流行的 XAI 的模型不可知方法 SHapley Additive exPlanations（Shap）进行系统的扰动分析。我们设计了一些算法，在动态推理的设置下生成相对特征重要性，这些设置针对一套流行的机器学习和深度学习方法，以及允许我们量化静态情况下生成解释的质量的度量指标。我们提出了特征重要性方法论的分类体系，度量了一致性，并观察了几个数据集中解释模型之间的可量化相似性。

    May, 2024