Apr, 2022

可解释性特征：用户如何理解XAI中分类型和连续特征的因果和反事实解释

HTML
PDF
TL;DR通过对127名志愿者进行对照实验，本研究探讨了因果和反事实解释对于用户预测简单AI系统决策的效果及其对解释的满意程度和信任度。发现反事实解释相对于没有说明的控制描述，但没有比因果解释更高的准确性；但反事实解释比因果解释更能满足用户的需要和信任，而且用户更容易理解涉及分类特征的解释。
发现论文，激发创造
  • 如果我们有更好的反事实解释：修正反事实XAI技术评估中的五个主要不足

    该论文通过调查100种不同的反事实解释方法，评估这些方法在心理和计算上的不足，并列出了五个关键的评估缺陷，并提出了标准化基准评估的路线图来解决这些影响该领域科学进展的问题。

    Feb, 2021

  • 可解释人工智能中的反事实和因果：理论、算法和应用

    本研究对可解释人工智能中反事实和因果关系的分类算法进行了系统考察，发现当前的模型无法促进因果性，提出了新的方向和挑战。

    Mar, 2021

  • 使用概率对比假设解释黑盒算法

    该研究提出一种基于因果关系的方法来解释黑盒决策系统，并使用概率对比反事实证明其有效性，能够为受算法决策影响的个体提供可行的补救措施。该方法不需要了解算法内部结构，能够计算全局、局部和情境层面的有效解释和补救措施。经实验证明，该方法较 XAI 的其他流行算法效果更好。

    Mar, 2021

  • 基准测试可解释性人工智能的反事实算法：从白盒到黑盒

    该研究通过在三种不同类型的机器学习模型上进行基准评估来调查机器学习模型对反事实解释生成的影响，发现不同的机器学习模型对反事实解释生成没有影响，强烈建议进行定性分析来确保反事实解释的稳健分析和潜在偏差的识别。

    Mar, 2022

  • AI系统的反事实解释是否会扭曲普通用户对世界因果直觉的理解？如果是，我们能纠正吗？

    本文探讨了AI系统中基于反事实进行的解释在实际应用中所带来的影响以及其引发的因果信念变化，通过实验证明了提供AI系统预测的反事实解释会影响人们对于该预测所关联的特征是否具有因果性的判断，其结果表明指出AI系统只能捕捉到相关关系而非因果关系可以减轻其影响。

    May, 2022

  • 反事实解释——无关因素对AI系统解释的相关性

    提出一种新型的AI决策解释方法，即Alterfactual Explanations，与传统的Counterfactual Thinking方法相比，该方法更加关注决策过程中的无关因素。通过在展示输入数据的无关特征发生改变时决策结果不变的替换真实场景，大幅提升了用户理解AI决策过程的效果。

    Jul, 2022

  • 反事实解释的多样性实现：综述和讨论

    本文综述了可解释人工智能（XAI）领域中的对抗事实例，这些例子通过指示对实例进行的修改来解释训练决策模型的预测，以改变其相关预测。同时，本文探讨了可解释人工智能中多元对抗事实例的概念定义，讨论了它们的基本原理以及它们依赖的用户需求的假设，并提出了这方面的进一步研究挑战。

    May, 2023

  • 反事实解释方向对xAI用户行为的影响

    用户研究表明，升向因果解释（upward CFE）可提高模型和用户的效率和知识水平，并强调了混合因果解释（mixed CFEs）相对于降向因果解释（downward CFEs）或无解释的潜在益处。

    Jun, 2023

  • 超越一刀切：将反事实解释适应用户目标

    解释性人工智能(XAI)是一项关键研究领域，旨在增强人工智能系统的透明度和解释性。反事实解释(CFEs)通过探索某些因素不同的替代情景，为机器学习算法的决策过程提供有价值的洞察。本文主张细致理解CFEs，了解用户目标和目标应用的多样化需求，以设计更有效且量身定制的解释，以满足用户的特定需求，从而提高与人工智能系统的协作。

    Apr, 2024

  • 利用大语言模型为最终用户解释反事实示例集合

    本文针对最终用户难以解读多重反事实示例的问题，提出了一种新颖的多步骤管道，利用反事实生成自然语言解释，帮助用户理解如何通过改变决策因素来改进分类器的输出。实验结果显示该方法在与反事实一致性和内容质量方面具有良好的表现，展示了其在可解释人工智能领域的潜在应用价值。

    Aug, 2024