Jun, 2023

夸张的解释传递

PDF
TL;DR本文提出了 inflated explanation 的概念，通过使用 set of features，在考虑到 feature 不同取值的情况下，能够更好地理解 each feature 在 decision-making 中的角色，同时证明可以用较低代价计算它。
explainable artificial intelligenceformal abductive explanationinflated explanationsfeatures, decision-makingai system
发现论文，激发创造
  • 校准解释：带不确定信息和反事实分析

    本文介绍了一种基于 Venn-Abers 的新型特征重要性解释方法 Calibrated Explanations，该方法能校准底层模型、生成特征重要性解释并对概率估计和特征重要性权重进行不确定性量化。此外，该方法对模型没有偏见、规则易于理解、可生成反事实解释和不确定性量化。

    May, 2023

  • 关于计算概率性还原解释

    探索实用于广泛使用的决策树、朴素贝叶斯分类器和命题语言的几个家族更好地计算超过给定阈值的目标类的相关集，证实了这些类别的相对简洁的相关特征集可以很容易地获得。

    Dec, 2022

  • 反事实解释 —— 无关因素对 AI 系统解释的相关性

    提出一种新型的 AI 决策解释方法，即 Alterfactual Explanations，与传统的 Counterfactual Thinking 方法相比，该方法更加关注决策过程中的无关因素。通过在展示输入数据的无关特征发生改变时决策结果不变的替换真实场景，大幅提升了用户理解 AI 决策过程的效果。

    Jul, 2022

  • 解释解释：机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • 剔除 XAI 中的 X：关于可理解人工智能的呼吁

    深度神经网络的可解释性问题可以通过采用不同的科学解释模型，避免当前解释模糊性而产生的困惑，更有助于用 “可理解的人工智能” 标签避免 XAI 的混淆。

    Mar, 2024

  • 机器学习模型中的统一解释：一种扰动方法

    面向可解释人工智能（XAI）的高速范式转变已在近年来出现。高度复杂的机器学习（ML）模型在许多智能任务中蓬勃发展，而问题开始从传统的有效性度量转向更深层次的问题：该模型告诉我关于我的数据什么，它是如何得出这些结论的？XAI 和建模技术之间的不一致可能对这些解释性方法的效力产生质疑。为了解决这些问题，我们提出了一种针对流行的 XAI 的模型不可知方法 SHapley Additive exPlanations（Shap）进行系统的扰动分析。我们设计了一些算法，在动态推理的设置下生成相对特征重要性，这些设置针对一套流行的机器学习和深度学习方法，以及允许我们量化静态情况下生成解释的质量的度量指标。我们提出了特征重要性方法论的分类体系，度量了一致性，并观察了几个数据集中解释模型之间的可量化相似性。

    May, 2024

  • 从鲁棒性到可解释性，再回到鲁棒性

    这篇论文提出了一种新的算法，通过回答一些鲁棒性问题来计算正式解释，从而消除了正式解释的可扩展性限制，并通过推理某些目标鲁棒度的术语来推广正式解释的定义。

    Jun, 2023

  • 解释并非技术术语：XAI 中的歧义问题

    本研究探讨了可解释性人工智能（XAI）中说明的特征和其效用评估，强调了说明的功能角色、用户知识状态以及生成说明所需的信息的要求，并定义了 XAI 领域的重要下一步：建立指导和基础系统生成说明效用的度量标准，以避免 XAI 可能带来的对系统的信任而没有建立其可靠性。

    Jun, 2022

  • 可解释化人工智能并未提供最终用户所要求的解释

    阐释可解释的人工智能（XAI）技术应用于复杂模型的机器学习系统中，以增强其透明度与验证，从而取得用户的信任。然而，XAI 在部署上存在局限性，因此透明度和严格验证更适合在获取人工智能系统信任时使用。

    Jan, 2023

  • 自动决策中人工解释的何为、何故、何如

    介绍了解释在人工智能和机器学习决策系统中所扮演的角色，提供了解释的替代概念，并评估了现有解释方法和所需的特点。

    Aug, 2018