Feb, 2021

如果我们有更好的反事实解释：修正反事实XAI技术评估中的五个主要不足

HTML
PDF
TL;DR该论文通过调查100种不同的反事实解释方法，评估这些方法在心理和计算上的不足，并列出了五个关键的评估缺陷，并提出了标准化基准评估的路线图来解决这些影响该领域科学进展的问题。
发现论文，激发创造
  • 好的反事实和它们的来源：基于案例技术生成可解释人工智能的反事实

    本文研究使用反事实解释作为可解释的人工智能(XAI)问题的一种解决方案，并提出一种基于案例的方法来生成反事实，以提高其解释能力和覆盖范围。

    May, 2020

  • 可解释人工智能中的反事实和因果：理论、算法和应用

    本研究对可解释人工智能中反事实和因果关系的分类算法进行了系统考察，发现当前的模型无法促进因果性，提出了新的方向和挑战。

    Mar, 2021

  • 基准测试可解释性人工智能的反事实算法：从白盒到黑盒

    该研究通过在三种不同类型的机器学习模型上进行基准评估来调查机器学习模型对反事实解释生成的影响，发现不同的机器学习模型对反事实解释生成没有影响，强烈建议进行定性分析来确保反事实解释的稳健分析和潜在偏差的识别。

    Mar, 2022

  • 可解释性特征：用户如何理解XAI中分类型和连续特征的因果和反事实解释

    通过对127名志愿者进行对照实验，本研究探讨了因果和反事实解释对于用户预测简单AI系统决策的效果及其对解释的满意程度和信任度。发现反事实解释相对于没有说明的控制描述，但没有比因果解释更高的准确性；但反事实解释比因果解释更能满足用户的需要和信任，而且用户更容易理解涉及分类特征的解释。

    Apr, 2022

  • 反事实解释——无关因素对AI系统解释的相关性

    提出一种新型的AI决策解释方法，即Alterfactual Explanations，与传统的Counterfactual Thinking方法相比，该方法更加关注决策过程中的无关因素。通过在展示输入数据的无关特征发生改变时决策结果不变的替换真实场景，大幅提升了用户理解AI决策过程的效果。

    Jul, 2022

  • 面向人类认知水平的反事实解释实验设计（XAI）

    使用 Bloom's 分类法作为用户的认知能力测量模型，在讲解生成的过程中采用反事实解释为媒介，结合用户反馈，验证讲解在每个认知层次上的理解水平，并据此改进讲解的生成方法。

    Oct, 2022

  • 半真实 XAI 的先前工作、需求和基准

    该论文调查了历史和最近在可解释人工智能(XAI)和半事实(semi-factuals)领域的突破，定义了半事实XAI的主要要求，并报告了历史算法的基准测试（以及一种新颖的，朴素的方法），为未来的算法发展提供了坚实的基础。

    Jan, 2023

  • 因果解释的分歧：透明度如何具有欺骗性

    本文针对可解释人工智能中的对策解释方法（Counterfactual explanations）中存在的异议问题（the disagreement problem）进行了大规模实证研究，发现不同算法生成的解释之间存在高度异议，从而呼吁更多关于算法决策透明度的讨论和实验研究。

    Apr, 2023

  • 反事实解释的多样性实现：综述和讨论

    本文综述了可解释人工智能（XAI）领域中的对抗事实例，这些例子通过指示对实例进行的修改来解释训练决策模型的预测，以改变其相关预测。同时，本文探讨了可解释人工智能中多元对抗事实例的概念定义，讨论了它们的基本原理以及它们依赖的用户需求的假设，并提出了这方面的进一步研究挑战。

    May, 2023

  • 超越一刀切：将反事实解释适应用户目标

    解释性人工智能(XAI)是一项关键研究领域，旨在增强人工智能系统的透明度和解释性。反事实解释(CFEs)通过探索某些因素不同的替代情景，为机器学习算法的决策过程提供有价值的洞察。本文主张细致理解CFEs，了解用户目标和目标应用的多样化需求，以设计更有效且量身定制的解释，以满足用户的特定需求，从而提高与人工智能系统的协作。

    Apr, 2024