Jan, 2024

即使解释：正式基础、优先级和复杂性

PDF
TL;DR对于可解释人工智能的半事实即使思考的局部事后解释性查询进行了研究，比较了不同类别的模型的计算复杂度，发现线性模型和基于树的模型比神经网络更具可解释性。然后引入了一种基于偏好的框架，使用户能够根据其偏好进行个性化解释，无论是在半事实还是对事实进行优化，增强了可解释性和用户中心性。最后，探索了所提出的基于偏好的框架中几个可解释性问题的复杂性，并提供了多项式情况下的算法。
explainable aipost-hoc explainability queriessemifactual even-if thinkinglinear and tree-based modelspreference-based framework
发现论文，激发创造
  • 生成深度学习的可信反事实和半事实解释

    研究提出一种新方法 PlausIble Exceptionality-based Contrastive Explanations (PIECE)，用于生成黑匣子 CNN 分类器的可信反事实和半事实，称其比文献中的其他方法生成最可信的反事实和半事实。

    Sep, 2020

  • 半真实 XAI 的先前工作、需求和基准

    该论文调查了历史和最近在可解释人工智能 (XAI) 和半事实 (semi-factuals) 领域的突破，定义了半事实 XAI 的主要要求，并报告了历史算法的基准测试（以及一种新颖的，朴素的方法），为未来的算法发展提供了坚实的基础。

    Jan, 2023

  • 抽象论证中的对立假设和半事实解释：形式基础、复杂性与计算

    该论文探讨了可解释人工智能和形式论证在抽象论证框架中的反事实和半事实推理，研究了其计算复杂性，并提供了通过 ASP 求解器的计算策略。

    May, 2024

  • 使人工智能更易解释的不同方法学综述

    人们对越来越多的决策由机器完成的需求增加，但黑盒模型的决策推理令人不解，因此需要关注决策推理的清晰度与可解释性，以及如何扩展到反事实思考。

    Nov, 2023

  • 消除不可能，剩下的必然是真实的

    研究使用背景知识使得可解释的人工智能更简洁易懂，并使用现有的规则归纳技术从数据集中提取背景信息来做出预测并报告使用的背景信息，帮助人类检查解释的正确性。

    Jun, 2022

  • 即便是从仅有的条件中获得的：以反事实为指导的最佳半事实性解释能否找到？

    通过在 7 个数据集上使用 5 个关键指标对 8 种半事实方法进行全面测试，确定是否需要使用反事实指导来找到最佳的半事实解释，结果表明不需要，而是计算决策空间的其他方面能够得到更好的半事实可解释性。

    Mar, 2024

  • 使用概率对比假设解释黑盒算法

    该研究提出一种基于因果关系的方法来解释黑盒决策系统，并使用概率对比反事实证明其有效性，能够为受算法决策影响的个体提供可行的补救措施。该方法不需要了解算法内部结构，能够计算全局、局部和情境层面的有效解释和补救措施。经实验证明，该方法较 XAI 的其他流行算法效果更好。

    Mar, 2021

  • 拒绝的多元半事实性解释

    本文提出利用半事实解释拒绝选项的概念模型，以实现机器学习中的可解释性，并通过实验对拒绝选项进行了评估。

    Jul, 2022

  • AI 解释的解释

    该论文关注机器学习中可解释性问题，侧重于简化模型的构建及不同形式的解释与说明，并探讨了机器学习在处理该问题时的广义视角。

    Nov, 2018

  • 如何验证事后解释方法？你能信赖解释吗？

    为了让人工智能系统得到广泛的公众认可，我们必须开发能够解释黑匣子模型（如神经网络）决策的方法。

    Oct, 2019