使用概率对比假设解释黑盒算法

Mar, 2021

Explaining Black-Box Algorithms Using Probabilistic Contrastive Counterfactuals

Sainyam Galhotra, Romila Pradhan, Babak Salimi

TL;DR该研究提出一种基于因果关系的方法来解释黑盒决策系统，并使用概率对比反事实证明其有效性，能够为受算法决策影响的个体提供可行的补救措施。该方法不需要了解算法内部结构，能够计算全局、局部和情境层面的有效解释和补救措施。经实验证明，该方法较 XAI 的其他流行算法效果更好。

Abstract

There has been a recent resurgence of interest in explainable artificial intelligence (XAI) that aims to reduce the opaqueness of AI-based decision-making systems, allowing humans to scrutinize and trust them. Prior work in this context has focused on the attribution of responsibility

发现论文，激发创造

黑盒决策系统的本地基于规则的解释

本文提出了一种名为LORE的黑匣子探明方法，能够从逻辑和反事实规则两个层面解释黑匣子机器学习模型的决策原因，从而提高其在社会敏感和安全关键环境中的可用性和透明度。

May, 2018

对比解释：结构模型方法

本文提出了一种使用结构因果模型的对比解释模型，将其应用于分类和规划两个经典问题，以帮助人们更好地理解人工智能中的对比解释。

Nov, 2018

如果我们有更好的反事实解释：修正反事实XAI技术评估中的五个主要不足

该论文通过调查100种不同的反事实解释方法，评估这些方法在心理和计算上的不足，并列出了五个关键的评估缺陷，并提出了标准化基准评估的路线图来解决这些影响该领域科学进展的问题。

Feb, 2021

可解释人工智能中的反事实和因果：理论、算法和应用

本研究对可解释人工智能中反事实和因果关系的分类算法进行了系统考察，发现当前的模型无法促进因果性，提出了新的方向和挑战。

Mar, 2021

因果解释和可解释人工智能（XAI）

本文旨在通过正式定义充分解释和反事实解释的因果概念，为解释人工智能（XAI）提供可靠的行动指导解释，并阐述其在AI公平性中的意义。

Jan, 2022

可解释性特征：用户如何理解XAI中分类型和连续特征的因果和反事实解释

通过对127名志愿者进行对照实验，本研究探讨了因果和反事实解释对于用户预测简单AI系统决策的效果及其对解释的满意程度和信任度。发现反事实解释相对于没有说明的控制描述，但没有比因果解释更高的准确性；但反事实解释比因果解释更能满足用户的需要和信任，而且用户更容易理解涉及分类特征的解释。

Apr, 2022

反事实解释——无关因素对AI系统解释的相关性

提出一种新型的AI决策解释方法，即Alterfactual Explanations，与传统的Counterfactual Thinking方法相比，该方法更加关注决策过程中的无关因素。通过在展示输入数据的无关特征发生改变时决策结果不变的替换真实场景，大幅提升了用户理解AI决策过程的效果。

Jul, 2022

选择性解释：利用人类输入对可解释人工智能进行对齐

本文提出了一种基于人类交流行为启发的可选择性解释框架，通过选择性地展示大量模型原因的子集，根据受众的偏好来尝试解决解释型AI算法在如何生成和消耗解释方面存在重大差距的问题，并通过决策支持任务和实验研究证明了其减少依赖AI和提高决策结果和主观感知的潜力。

Jan, 2023

可解释人工智能中因果关系的作用

通过研究文献，我们发现因果关系和可解释人工智能(XAI)是紧密联系的，彼此之间存在三种关系视角：缺乏因果关系限制了当前人工智能与可解释人工智能方法的发展，理想的解释形式的探索，以及因果关系作为可解释人工智能的先导，并通过从因果关系中借用概念、利用反事实以及将因果模型作为自我解释等方式进行研究。通过提供相关软件解决方案，我们为自动化因果任务提供了补充分析，并强调了因果关系和可解释人工智能领域之间的潜在领域桥梁和可能的限制。

Sep, 2023

超越一刀切：将反事实解释适应用户目标

解释性人工智能(XAI)是一项关键研究领域，旨在增强人工智能系统的透明度和解释性。反事实解释(CFEs)通过探索某些因素不同的替代情景，为机器学习算法的决策过程提供有价值的洞察。本文主张细致理解CFEs，了解用户目标和目标应用的多样化需求，以设计更有效且量身定制的解释，以满足用户的特定需求，从而提高与人工智能系统的协作。

Apr, 2024