Mar, 2023

对实例组进行反事实解释以用于 XAI：针对组反事实的用例、算法和用户研究

PDF
TL;DR本研究提出了一种新颖的 “群组反事实” 算法，用于以集体方式解释类似实例的群体，通过控制的用户研究发现，相较于传统方式，此算法可以在一定程度上提高人们对人工智能系统的理解，可能对反事实方法和可解释性人工智能产生重要影响。
发现论文，激发创造
  • 一种高效的多实例反事实解释的两阶段算法

    该研究论文提出了一个灵活的两阶段算法，用于找到实例组以及具有成本效益的多实例反事实解释方法，以解决在黑盒系统中找到满足多个实例的单一反事实的问题。

    Mar, 2024

  • 通过数学优化在基于得分的分类中生成集体反事实解释

    利用数学优化模型，通过集体反事实解释为给定组内各实例提供一个反事实解释，以使扰动实例的总成本在一定约束下最小化，从而检测对整个数据集都至关重要的特征，验证了该方法的实用性。

    Oct, 2023

  • 以相同的方式来解释它！”-- 对于反事实解释的模型不可知的群体公平性

    该研究提出了一种模型不可知的方法，以计算相对复杂度在不同保护组之间没有显著差异的因果关系解释。

    Nov, 2022

  • 好的反事实和它们的来源：基于案例技术生成可解释人工智能的反事实

    本文研究使用反事实解释作为可解释的人工智能 (XAI) 问题的一种解决方案，并提出一种基于案例的方法来生成反事实，以提高其解释能力和覆盖范围。

    May, 2020

  • 计算反事实解释的方法 —— 一项调查研究

    机器学习模型日益广泛应用，因此解释其预测和行为变得越来越重要。本文综述了针对多种不同机器学习模型高效计算对抗性解释的模型特定方法，并提出了文献中尚未考虑的模型方法。

    Nov, 2019

  • 反事实解释的多样性实现：综述和讨论

    本文综述了可解释人工智能（XAI）领域中的对抗事实例，这些例子通过指示对实例进行的修改来解释训练决策模型的预测，以改变其相关预测。同时，本文探讨了可解释人工智能中多元对抗事实例的概念定义，讨论了它们的基本原理以及它们依赖的用户需求的假设，并提出了这方面的进一步研究挑战。

    May, 2023

  • 揭示反事实解释在就业能力的潜力

    本研究提出反事实解释在复杂机器学习算法下的应用，以数据实例展示其在雇用相关问题中提高决策支持、遵守法律要求、引导受控变更和分析新颖洞见的作用。

    May, 2023

  • 通过不同的反事实解释解释机器学习分类器

    本文提出了一种基于决定点过程的生成和评估多样性反事实解释的框架，旨在优化反事实行为的可行性和多样性，并提供了可比较的度量标准来评估反事实方法。通过实验，验证了该框架能生成多样性的反事实，并且能有效地近似本地决策边界。

    May, 2019

  • 可解释性特征：用户如何理解 XAI 中分类型和连续特征的因果和反事实解释

    通过对 127 名志愿者进行对照实验，本研究探讨了因果和反事实解释对于用户预测简单 AI 系统决策的效果及其对解释的满意程度和信任度。发现反事实解释相对于没有说明的控制描述，但没有比因果解释更高的准确性；但反事实解释比因果解释更能满足用户的需要和信任，而且用户更容易理解涉及分类特征的解释。

    Apr, 2022

  • GLANCE: 全球行动简述的反事实可解释性

    提供全局反事实解释问题的简洁表述并建立了比较解决方案的原则标准，使用聚类和决策树作为关键组件的创新算法解决全局反事实问题，并通过与其他方法的综合实验评估验证了算法的能力。

    May, 2024