May, 2024

GLANCE: 全球行动简述的反事实可解释性

PDF
TL;DR提供全局反事实解释问题的简洁表述并建立了比较解决方案的原则标准，使用聚类和决策树作为关键组件的创新算法解决全局反事实问题，并通过与其他方法的综合实验评估验证了算法的能力。
counterfactual explanationsglobal counterfactual explainabilitypareto dominanceclusteringdecision trees
发现论文，激发创造
  • 全局反事实解释：调查、实现、和改进

    该研究探讨了全局因果解释框架的现有方法，特别聚焦于实施和改进可操作补救摘要（AReS），这是唯一已知的适用于补救的全局因果解释框架。

    Apr, 2022

  • 统一视角：全球、群体和局部级别上的合理反事实解释

    通过梯度优化，引入了一种新的整合方法，为可区分分类模型生成本地、小组和全局反事实解释，以解决全局反事实解释所面临的挑战，并增强了可行性和可信度，从而提高了 AI 模型的可解释性和负责任性。

    May, 2024

  • 全局对抗性解释器用于图神经网络

    本研究提出了 GCFExplainer 算法来解释图神经网络的全局可解释性，通过全局反事实推理寻找一组代表性的反事实图形，实验结果表明与现有局部反事实解释器相比，GCFExplainer 算法能够提供更重要的高层次 Model 行为见解，并以 46.9% 的弥补覆盖率和 9.5% 的弥补成本降低取得更好的结果。

    Oct, 2022

  • 通过不同的反事实解释解释机器学习分类器

    本文提出了一种基于决定点过程的生成和评估多样性反事实解释的框架，旨在优化反事实行为的可行性和多样性，并提供了可比较的度量标准来评估反事实方法。通过实验，验证了该框架能生成多样性的反事实，并且能有效地近似本地决策边界。

    May, 2019

  • 计算反事实解释的方法 —— 一项调查研究

    机器学习模型日益广泛应用，因此解释其预测和行为变得越来越重要。本文综述了针对多种不同机器学习模型高效计算对抗性解释的模型特定方法，并提出了文献中尚未考虑的模型方法。

    Nov, 2019

  • 通过数学优化在基于得分的分类中生成集体反事实解释

    利用数学优化模型，通过集体反事实解释为给定组内各实例提供一个反事实解释，以使扰动实例的总成本在一定约束下最小化，从而检测对整个数据集都至关重要的特征，验证了该方法的实用性。

    Oct, 2023

  • GLOBE-CE: 全球反事实解释的基于翻译的方法

    提出了一种名为 GLOBE-CE 的灵活框架，旨在解决当前解释性方法中与可靠性和可扩展性有关的问题，并在针对高维数据集和连续特征存在的情况下提供全局和高效的反事实解释，通过公开可用的数据集和用户研究进行了评估，证明了该框架在速度、可靠性等多个指标上明显优于当前先进技术。

    May, 2023

  • 对实例组进行反事实解释以用于 XAI：针对组反事实的用例、算法和用户研究

    本研究提出了一种新颖的 “群组反事实” 算法，用于以集体方式解释类似实例的群体，通过控制的用户研究发现，相较于传统方式，此算法可以在一定程度上提高人们对人工智能系统的理解，可能对反事实方法和可解释性人工智能产生重要影响。

    Mar, 2023

  • 机器学习的反事实解释和算法补救措施综述

    本文综述分类了反事实解释的研究，包括如何评估和设计反事实解释算法，探讨了反事实解释在机器学习领域中的研究方向和发现的不足之处。

    Oct, 2020

  • 针对反事实解释的条件生成模型

    该论文提出了一种生成利用条件生成模型来生成稀疏的、在分布中反事实模型解释的通用框架，可适用于不同模态的数据，并说明了该方法在图像、时间序列和混合类型表格数据上的有效性。

    Jan, 2021