Sep, 2019

一个解释并不适用于所有情况：AI 可解释性技术工具包和分类法

PDF
TL;DR介绍了 AI Explainability 360，这是一个开源的工具包，其中包含八种不同的最先进的解释方法和两个评估指标。通过提供分类法来帮助需要解释的实体导航解释方法的空间，并讨论了提高研究创新性的增强版本以将其更接近解释的使用者。
artificial intelligencemachine learningexplainability methodsevaluation metricstaxonomy
发现论文，激发创造
  • 关于 AI 解决方案的可解释性：跨领域调查

    该研究是对人工智能模型解释的广泛调查，发现解释决策和原因的不同方法和原因的异质性导致了个体解释框架。

    Oct, 2022

  • 以解释性设计为支持的解释分类

    该论文使用 “Explainability-by-Design” 方法，并构建了一个包含 9 个维度的分类学来生成解释以遵循各种监管框架或组织层面的政策需求，从而帮助制定辅助性的自动合规策略，并提供一个机器可读的轻本体论，以便从一系列实例中演示起始 “Explainability-by-Design” 之旅的好处。

    Jun, 2022

  • 基于线性代数的可解释人工智能分类

    该论文提出了一种基于线性代数的分类法，用于提供一个数学方法来区分和比较不同的可解释人工智能技术所产生的解释，特别是针对数据集属于 R^n 的情况下的局部解释。

    Jan, 2023

  • 解释解释：机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • 灵活和上下文特定的 AI 可解释性：一种多学科方法

    该论文提出了一个框架，结合了技术、法律和经济因素，以定义在特定情境下的 “适当” 的解释水平，包括观众、操作环境、系统可能造成的伤害级别和法律 / 监管框架等主要情境因素，并提出了与此相关的社会效益。同时，论文还探讨了可用的技术工具，选择全局和局部解释输出的正确水平，并强调了解释只有在总社会效益大于成本时才具有社会价值。

    Mar, 2020

  • 用户中心 XAI 的系统方法分类学：一项调查

    本文提出一种基于系统论的统一、包容、用户中心分类法，旨在解决现有的以专家为中心的可解释人工智能方法的不足之处，以此评估适用于不同用户类型的解释方法的适当性和性能。

    Mar, 2023

  • 关于调和可用性和实用性的可解释人工智能方法

    本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。

    Jan, 2023

  • 可解释性不等于解释性：以教育推荐系统为重点的新型定量 XAI 方法

    本文提出了一个新的分类法，以解决解释性人工智能领域中缺乏广泛接受的分类法的问题，并在现有定义和框架的基础上系统分析，重点关注透明性、可解释性、完整性、复杂性和可理解性等核心概念和关系，旨在为未来的研究建立共享词汇。通过使用 SHAP 包，我们在我们新开发的分类法的背景下量化和增强了一个用于从 MERLOT 中策划和推荐最合适的在线资源的推荐系统的可解释性。

    Sep, 2023

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021

  • 使人工智能更易解释的不同方法学综述

    人们对越来越多的决策由机器完成的需求增加，但黑盒模型的决策推理令人不解，因此需要关注决策推理的清晰度与可解释性，以及如何扩展到反事实思考。

    Nov, 2023