Jul, 2022

反事实解释——无关因素对AI系统解释的相关性

HTML
PDF
TL;DR提出一种新型的AI决策解释方法，即Alterfactual Explanations，与传统的Counterfactual Thinking方法相比，该方法更加关注决策过程中的无关因素。通过在展示输入数据的无关特征发生改变时决策结果不变的替换真实场景，大幅提升了用户理解AI决策过程的效果。
发现论文，激发创造
  • 人工智能系统中的解释性：文献综述、主要观点和出版物概要，以及可解释性人工智能参考书目

    这篇综述论文回答了“什么是良好的解释”的问题，并涵盖了人工智能 (AI) 系统的历史、现代 AI 的解释问题和挑战、领先心理学理论的发展。鉴于 XAI 系统的特殊性，建议 AI/XAI 研究人员在其研究报告中包含更多有关其经验或实验方法的详细信息，类似于实验心理学研究报告，包括参与者、说明、程序、任务、被试变量 （度量和指标的操作定义）、自变量 （条件）和控制条件。

    Feb, 2019

  • 如果我们有更好的反事实解释：修正反事实XAI技术评估中的五个主要不足

    该论文通过调查100种不同的反事实解释方法，评估这些方法在心理和计算上的不足，并列出了五个关键的评估缺陷，并提出了标准化基准评估的路线图来解决这些影响该领域科学进展的问题。

    Feb, 2021

  • 可解释人工智能中的反事实和因果：理论、算法和应用

    本研究对可解释人工智能中反事实和因果关系的分类算法进行了系统考察，发现当前的模型无法促进因果性，提出了新的方向和挑战。

    Mar, 2021

  • 可解释性特征：用户如何理解XAI中分类型和连续特征的因果和反事实解释

    通过对127名志愿者进行对照实验，本研究探讨了因果和反事实解释对于用户预测简单AI系统决策的效果及其对解释的满意程度和信任度。发现反事实解释相对于没有说明的控制描述，但没有比因果解释更高的准确性；但反事实解释比因果解释更能满足用户的需要和信任，而且用户更容易理解涉及分类特征的解释。

    Apr, 2022

  • 面向人类认知水平的反事实解释实验设计（XAI）

    使用 Bloom's 分类法作为用户的认知能力测量模型，在讲解生成的过程中采用反事实解释为媒介，结合用户反馈，验证讲解在每个认知层次上的理解水平，并据此改进讲解的生成方法。

    Oct, 2022

  • 半真实 XAI 的先前工作、需求和基准

    该论文调查了历史和最近在可解释人工智能(XAI)和半事实(semi-factuals)领域的突破，定义了半事实XAI的主要要求，并报告了历史算法的基准测试（以及一种新颖的，朴素的方法），为未来的算法发展提供了坚实的基础。

    Jan, 2023

  • 寻求可验证性：解释很少能够在AI辅助的决策判断中提供补充性的表现

    本文聚焦AI辅助决策，在AI解释人类决策过程中频繁失败的背景下，提出了一个简单的理论，即解释只有在允许决策者验证其正确性时才有用，我们讨论了更有效的AI决策解释方法和人工智能-人类决策的协作。

    May, 2023

  • 使人工智能更易解释的不同方法学综述

    人们对越来越多的决策由机器完成的需求增加，但黑盒模型的决策推理令人不解，因此需要关注决策推理的清晰度与可解释性，以及如何扩展到反事实思考。

    Nov, 2023

  • 超越一刀切：将反事实解释适应用户目标

    解释性人工智能(XAI)是一项关键研究领域，旨在增强人工智能系统的透明度和解释性。反事实解释(CFEs)通过探索某些因素不同的替代情景，为机器学习算法的决策过程提供有价值的洞察。本文主张细致理解CFEs，了解用户目标和目标应用的多样化需求，以设计更有效且量身定制的解释，以满足用户的特定需求，从而提高与人工智能系统的协作。

    Apr, 2024

  • 相关无关性：为图像分类器生成对抗性解释

    本文介绍了一种基于生成对抗网络(GAN)的方法，用于生成可以解释神经网络黑盒模型的替代性解释，进一步通过用户研究验证了替代性解释与反事实解释相辅相成。

    May, 2024