May, 2022

AI 系统的反事实解释是否会扭曲普通用户对世界因果直觉的理解？如果是，我们能纠正吗？

PDF
TL;DR本文探讨了 AI 系统中基于反事实进行的解释在实际应用中所带来的影响以及其引发的因果信念变化，通过实验证明了提供 AI 系统预测的反事实解释会影响人们对于该预测所关联的特征是否具有因果性的判断，其结果表明指出 AI 系统只能捕捉到相关关系而非因果关系可以减轻其影响。
counterfactual explanationsexplainable aicausal beliefscorrelationsai system's predictions
发现论文，激发创造
  • 理解反事实解释对人工智能辅助临床决策中信任与依赖的影响

    通过使用显著特征解释和假设性解释来更加分析性地对待人工智能建议，可以降低对人工智能的过度依赖，提高医疗决策过程中的性能和一致性，尤其是在确保人工智能提供正确输出的情况下。

    Aug, 2023

  • 可解释性特征：用户如何理解 XAI 中分类型和连续特征的因果和反事实解释

    通过对 127 名志愿者进行对照实验，本研究探讨了因果和反事实解释对于用户预测简单 AI 系统决策的效果及其对解释的满意程度和信任度。发现反事实解释相对于没有说明的控制描述，但没有比因果解释更高的准确性；但反事实解释比因果解释更能满足用户的需要和信任，而且用户更容易理解涉及分类特征的解释。

    Apr, 2022

  • 超越一刀切：将反事实解释适应用户目标

    解释性人工智能 (XAI) 是一项关键研究领域，旨在增强人工智能系统的透明度和解释性。反事实解释 (CFEs) 通过探索某些因素不同的替代情景，为机器学习算法的决策过程提供有价值的洞察。本文主张细致理解 CFEs，了解用户目标和目标应用的多样化需求，以设计更有效且量身定制的解释，以满足用户的特定需求，从而提高与人工智能系统的协作。

    Apr, 2024

  • 揭示反事实解释在就业能力的潜力

    本研究提出反事实解释在复杂机器学习算法下的应用，以数据实例展示其在雇用相关问题中提高决策支持、遵守法律要求、引导受控变更和分析新颖洞见的作用。

    May, 2023

  • 反事实解释 —— 无关因素对 AI 系统解释的相关性

    提出一种新型的 AI 决策解释方法，即 Alterfactual Explanations，与传统的 Counterfactual Thinking 方法相比，该方法更加关注决策过程中的无关因素。通过在展示输入数据的无关特征发生改变时决策结果不变的替换真实场景，大幅提升了用户理解 AI 决策过程的效果。

    Jul, 2022

  • 可解释人工智能中的反事实和因果：理论、算法和应用

    本研究对可解释人工智能中反事实和因果关系的分类算法进行了系统考察，发现当前的模型无法促进因果性，提出了新的方向和挑战。

    Mar, 2021

  • 人工智能中的归因分数和因果反事实解释

    本文介绍了解释在人工智能中的重要性，特别是解释方法的新发展。通过讨论基于属性分数和因果关系的反事实解释法，强调了逻辑推理在处理反事实时的重要性和其对评分计算的作用。

    Mar, 2023

  • 反事实解释方向对 xAI 用户行为的影响

    用户研究表明，升向因果解释（upward CFE）可提高模型和用户的效率和知识水平，并强调了混合因果解释（mixed CFEs）相对于降向因果解释（downward CFEs）或无解释的潜在益处。

    Jun, 2023

  • 强化学习的反事实解释

    通过重新定义反事实解释方法，结合强化学习的特点，探索在强化学习领域实现反事实解释的方法和研究方向。

    Oct, 2022

  • 询问以了解更多：为虚假声明生成反事实解释

    本文提出了采用反事实解释的方法，通过三步：提问，寻找矛盾，合理推理，来让读者理解为什么一个特定新闻被认定为虚假，通过在 FEVER 数据集的实验评估表明，这种方法相比于现有成果更具有帮助性。

    Jun, 2022