Jul, 2024

线性回归模型是否是白盒且可解释的？

HTML
PDF
TL;DR可解释人工智能（XAI）是一系列应用于机器学习模型以理解和解释模型的工具和算法，尤其适用于包括深度神经网络在内的复杂或高级模型。然而，本文认为传统认为线性回归模型易于解释和理解的观点并不准确，同时提出了线性回归模型也存在解释困难，并探讨了一些可能面临的挑战和相关的XAI度量指标。因此，我们建议在解释性和可解释性方面，应当对所谓的简单模型与复杂模型一视同仁。
发现论文，激发创造
  • 解释解释: 机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • 可解释人工智能(XAI)：概念、分类、机遇和挑战，助力负责任的人工智能

    本文综述了可解释人工智能（XAI）领域内的现有文献，并对未来的研究前景进行了探讨。我们提出了一种新的可解释性定义，针对各种机器学习模型提出了分类。同时，我们讨论了XAI面临的一系列挑战，如数据融合和解释性之间的折衷等。最终，我们的观点指向了“负责任人工智能”的概念，在其中强调了AI方法在实际组织中的实施中必须保证公平性、模型可解释性和可追溯性。

    Oct, 2019

  • 可解释人工智能：系统综述

    这篇论文从四个主要聚类方向：综述文章、理论和概念、方法及其评估，总结了可解释人工智能领域的最新技术水平并提出了未来研究方向。

    May, 2020

  • 从个人经验到量化评估方法：评估可解释AI的系统综述

    文章讨论了机器学习模型解释性和可解释性的多方面问题，并提出了12个概念性属性，如紧凑性和正确性来全面评估解释的质量。文章还提供了定量XAI评估方法的广泛概述，以及提供了创新的库和方法帮助研究人员和从业者彻底验证、基准测试和比较新的和现有的XAI方法。

    Jan, 2022

  • 使用动态线性投影探索非线性模型的局部解释

    本文介绍了交互式线性插值方法及其在分类（企鹅物种，巧克力类型）和数量（足球薪资，房价）输出方面的应用，并试图通过提供局部解释来解释非线性模型的预测性能和线性特征的重要性。

    May, 2022

  • Greybox XAI: 一种神经符号学习框架，用于生成可解释的图像分类预测

    通过形式化说明解释是什么，提出一些公理和定义来澄清可解释的人工智能的数学角度。最后，我们提出了一个Greybox XAI框架，该框架通过使用符号知识库将DNN和透明模型组成。我们从数据集中提取知识库，并使用它来训练透明模型（即逻辑回归）。然后，我们在RGB图像上训练编码器-解码器架构，以产生类似于透明模型使用的知识库的输出。一旦两个模型独立地训练好后，它们就在组成的形式上用于形成可以解释的预测模型。我们展示了这种新的架构在几个数据集中是准确的和可以解释的。

    Sep, 2022

  • 在抑制变量存在时XAI方法的理论行为

    本研究在分析各种流行的可解释人工智能（XAI）方法在高斯条件下的分类问题上的表现后发现，大多数研究方法在存在相关噪声的情况下会将与预测目标无统计关系的抑制特征归因于特征重要性，从而证明了XAI方法存在的局限性。

    Jun, 2023

  • 人类中心的可解释人工智能（XAI）的未来不在于事后解释

    该论文呼吁从事人类中心的可解释人工智能研究，探究人类对于深度学习系统的理解和信任的关键作用，并提出设计可解释的神经网络体系结构的方案，以实现实时、准确、可操作、易于解释和一致的需求。

    Jul, 2023

  • 以解释为基础的决策：关于可解释人工智能在辅助决策中的角色的人类中心评估

    最近的实证研究调查了可解释人工智能对人工智能决策的影响，识别了挑战并提出未来的研究方向。

    Dec, 2023

  • 可解释AI中基于梯度的特征归因：技术综述

    对基于梯度的解释方法进行了系统的探索和分类，并介绍了技术细节的实质和算法的演化，同时提出了使用人工和定量评估来衡量算法性能的挑战，为研究人员提供了对最新进展和相关缺点的了解，并激发了未来解决这些问题的兴趣。

    Mar, 2024