Dec, 2019

可解释性事实表：系统评估可解释方法的框架

HTML
PDF
TL;DR本文介绍一种可用于描述和评估可解释系统的分类法和一组描述符，该分类法包括五个关键维度：功能性、操作性、可用性、安全性和验证性。通过对机器学习的文献进行调研，提取作者们提出或隐含使用的标准和期望，在此基础上提出了五个关键维度，并将其制成可操作的解释事实表格形式，以便于快速掌握特定解释方法的能力和局限性。此分类法可指导新的解释方法的开发。
发现论文，激发创造
  • 一个解释并不适用于所有情况：AI可解释性技术工具包和分类法

    介绍了 AI Explainability 360，这是一个开源的工具包，其中包含八种不同的最先进的解释方法和两个评估指标。通过提供分类法来帮助需要解释的实体导航解释方法的空间，并讨论了提高研究创新性的增强版本以将其更接近解释的使用者。

    Sep, 2019

  • 可解释人工智能(XAI)：概念、分类、机遇和挑战，助力负责任的人工智能

    本文综述了可解释人工智能（XAI）领域内的现有文献，并对未来的研究前景进行了探讨。我们提出了一种新的可解释性定义，针对各种机器学习模型提出了分类。同时，我们讨论了XAI面临的一系列挑战，如数据融合和解释性之间的折衷等。最终，我们的观点指向了“负责任人工智能”的概念，在其中强调了AI方法在实际组织中的实施中必须保证公平性、模型可解释性和可追溯性。

    Oct, 2019

  • 可解释知识驱动系统基础

    本文对可解释人工智能系统进行了历史概述，重点介绍了知识驱动的系统，在专家系统、认知助手、语义应用和机器学习领域的应用，提出了新的解释和可解释知识驱动系统的定义，以填补现有方法的不足并使解释更加用户和上下文关注。

    Mar, 2020

  • 标准化可解释性的必要性

    本研究的目的是对可解释性（Explainable AI，XAI）领域的现状提供一个视角，并提供解释性和可解释性的新定义，以开始标准化这个研究领域。研究提供了可解释性文献的概述和现有方法的概述，最后提供了不同可解释性方法的初步分类法，为未来的研究打开了大门。

    Oct, 2020

  • 从个人经验到量化评估方法：评估可解释AI的系统综述

    文章讨论了机器学习模型解释性和可解释性的多方面问题，并提出了12个概念性属性，如紧凑性和正确性来全面评估解释的质量。文章还提供了定量XAI评估方法的广泛概述，以及提供了创新的库和方法帮助研究人员和从业者彻底验证、基准测试和比较新的和现有的XAI方法。

    Jan, 2022

  • 不要把机器学习算法按可解释性排序！以用户为中心的性能和可解释性研究

    通过两项用户实验，本研究旨在提供实证证据，以解决机器学习算法的性能和可解释性之间的权衡问题，并发现其在最终用户的感知中的权衡程度相对较低，其取决于数据复杂性等情况，并根据第二项实验的结果，也发现了可解释性人工智能的增强手段是提高解释性的一种途径，但解释的类型对最终用户的印象起着至关重要的作用。

    Jun, 2022

  • 机器学习中基于逻辑的可解释性

    本文概述了现有关于计算机生成机器学习模型正式解释的研究，旨在与之前基于非正式解释的方案进行比较，并讨论了各种问题，包括基于不同机器学习模型的最佳逻辑编码以及如何使解释具有可解释性。

    Oct, 2022

  • AI政策中的可解释性：欧盟、美国和英国的沟通、报告、法规和标准的关键回顾

    本文通过对欧盟、美国和英国政策文件的调查，针对可解释性人工智能的技术和社会影响进行了主题和缺口分析。发现政策通常基于对解释的粗略观念和要求。最终提出了一组关于如何解释AI系统的建议，其中包括定义、可行性、可用性以及分配解释提供者的责任。

    Apr, 2023

  • 基于概念的可解释人工智能综述

    通过对C-XAI方法进行 thorough review，本文提供了分类体系、选择指南和常见评估策略，旨在促进可解释人工智能领域的发展。

    Dec, 2023

  • 可解释的人工智能的数据科学原理

    社会对算法问题解决的能力前所未有地增强。人工智能如今应用于更多的领域，这是强大的抽象化、丰富的数据和易于使用的软件的结果。随着能力的扩展，风险也增加了，因为模型常常在没有完全理解其潜在影响的情况下部署。可解释且交互式的机器学习旨在使复杂模型更加透明和可控，增强用户机构。本综述从这一领域的不断增长的文献中综合了关键原则。

    May, 2024