Sep, 2023

可解释性不等于解释性：以教育推荐系统为重点的新型定量 XAI 方法

PDF
TL;DR本文提出了一个新的分类法，以解决解释性人工智能领域中缺乏广泛接受的分类法的问题，并在现有定义和框架的基础上系统分析，重点关注透明性、可解释性、完整性、复杂性和可理解性等核心概念和关系，旨在为未来的研究建立共享词汇。通过使用 SHAP 包，我们在我们新开发的分类法的背景下量化和增强了一个用于从 MERLOT 中策划和推荐最合适的在线资源的推荐系统的可解释性。
发现论文，激发创造
  • 基于线性代数的可解释人工智能分类

    该论文提出了一种基于线性代数的分类法，用于提供一个数学方法来区分和比较不同的可解释人工智能技术所产生的解释，特别是针对数据集属于 R^n 的情况下的局部解释。

    Jan, 2023

  • 用户中心 XAI 的系统方法分类学：一项调查

    本文提出一种基于系统论的统一、包容、用户中心分类法，旨在解决现有的以专家为中心的可解释人工智能方法的不足之处，以此评估适用于不同用户类型的解释方法的适当性和性能。

    Mar, 2023

  • 可解释人工智能 (XAI)：概念、分类、机遇和挑战，助力负责任的人工智能

    本文综述了可解释人工智能（XAI）领域内的现有文献，并对未来的研究前景进行了探讨。我们提出了一种新的可解释性定义，针对各种机器学习模型提出了分类。同时，我们讨论了 XAI 面临的一系列挑战，如数据融合和解释性之间的折衷等。最终，我们的观点指向了 “负责任人工智能” 的概念，在其中强调了 AI 方法在实际组织中的实施中必须保证公平性、模型可解释性和可追溯性。

    Oct, 2019

  • 解释性人工智能（XAI）评估方法的新视角

    要在可行性、领域特征和风险考虑等方面综合权衡，才能更好地协商可解释性和系统性能之间的平衡，并为未来研究和最佳实践提供基础。

    Jul, 2023

  • 解释解释：机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • 可解释人工智能：系统综述

    这篇论文从四个主要聚类方向：综述文章、理论和概念、方法及其评估，总结了可解释人工智能领域的最新技术水平并提出了未来研究方向。

    May, 2020

  • 关于调和可用性和实用性的可解释人工智能方法

    本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。

    Jan, 2023

  • 一个解释并不适用于所有情况：AI 可解释性技术工具包和分类法

    介绍了 AI Explainability 360，这是一个开源的工具包，其中包含八种不同的最先进的解释方法和两个评估指标。通过提供分类法来帮助需要解释的实体导航解释方法的空间，并讨论了提高研究创新性的增强版本以将其更接近解释的使用者。

    Sep, 2019

  • 标准化可解释性的必要性

    本研究的目的是对可解释性（Explainable AI，XAI）领域的现状提供一个视角，并提供解释性和可解释性的新定义，以开始标准化这个研究领域。研究提供了可解释性文献的概述和现有方法的概述，最后提供了不同可解释性方法的初步分类法，为未来的研究打开了大门。

    Oct, 2020

  • 基于概念的可解释人工智能综述

    通过对 C-XAI 方法进行 thorough review，本文提供了分类体系、选择指南和常见评估策略，旨在促进可解释人工智能领域的发展。

    Dec, 2023