Mar, 2024

高斯过程的可解释学习

PDF
TL;DR解释性人工智能的研究领域试图开发提供复杂机器学习方法如何进行预测的见解的方法。在这项工作中，我们探讨了高斯过程回归（GPR）背景下的特征归因问题，并在现有文献的基础上以原则性的方法定义了特征归因。我们展示了尽管 GPR 是一种高度灵活的非参数方法，但我们可以导出解释性的闭式表达式用于特征归因。使用 Integrated Gradients 作为归因方法时，我们表明 GPR 模型的归因也符合高斯过程分布，从而量化了由于模型的不确定性而产生的归因的不确定性。我们通过理论和实验证明了这种方法的多功能性和稳健性。我们还表明，在适用的情况下，GPR 归因的精确表达式比目前在实践中使用的近似方法更准确且计算成本更低。
explainable artificial intelligencefeature attributiongaussian process regressionuncertaintyinterpretability
发现论文，激发创造
  • T-Explainer: 基於梯度的模型无关解释性框架

    可解释人工智能（Explainable Artificial Intelligence）通过提供准确、一致且稳定的解释，解决机器学习中黑盒模型的透明度问题，其中基于泰勒展开的 T-Explainer 成为了一种有效的特征归因方法。

    Apr, 2024

  • 可解释 AI 中基于梯度的特征归因：技术综述

    对基于梯度的解释方法进行了系统的探索和分类，并介绍了技术细节的实质和算法的演化，同时提出了使用人工和定量评估来衡量算法性能的挑战，为研究人员提供了对最新进展和相关缺点的了解，并激发了未来解决这些问题的兴趣。

    Mar, 2024

  • 挑战功能归因解释中的常见可解释性假设

    通过人类实验，我们发现属性解释法在某些情况下会导致决策者做出更糟糕的决策，这一结果挑战了应用这些方法的普遍好处的假定，在可解释的 AI 研究中人类评价的重要性下应该得到重视。

    Dec, 2020

  • 基于梯度反向传播的特征归因，实现边缘智能可解释性

    本研究为了实现边缘设备上的实时可解释人工智能（XAI），利用可配置的 FPGA 设计和优化算法提高多种特征归因算法的灵活性和性能，并演示了通过分配硬件资源的有效重复使用的路径，以最小化部分准确性损失。

    Oct, 2022

  • 采用公理归因先验及期望梯度提升深度学习模型性能

    本研究提出基于期望梯度的新型特征归因方法，并以此为基础推导了新的可调控归因先验。实验结果表明，该方法在图像、基因表达和医疗数据集中均具有较好的性能，可以有效优化模型的解释性能。

    Jun, 2019

  • 一种用于异常检测的可解释性 AI 的通用应用方法

    文章提供了一个基于可解释性和解释性方法的误差检测通用方法，并使用集成梯度方法来减少 Attribution Error。

    Jul, 2022

  • 论形式特征归属及其近似

    借鉴形式推理解释，提出了正式特征归因（FFA）方法，通过近似 FFA 技术证明了其在特征重要性和顺序方面相对于现有特征归因算法的有效性。

    Jul, 2023

  • 解析 AI 归因方法的精确基准测试

    我们提出了一种新的评估方法，用于基准测试最先进的可解释 AI 归因方法，该方法由合成的分类模型及其衍生的地面实况解释组成，该方法提供了关于 XAI 方法输出的更深入的洞察。

    Aug, 2023

  • 利用方差特征归因识别预测不确定性的驱动因素

    解释性和不确定性量化是可信赖人工智能的两个基石，本研究提出了一种简单可扩展的方案来解释预测的不确定性，通过使神经网络配备带有高斯输出分布的方差输出神经元来预测方差，然后利用现成的解释器解释模型的不确定性估计。

    Dec, 2023

  • 计算机视觉中基于归因的可解释 AI 方法综述

    本文对计算机视觉中基于归因的 Explainable AI (XAI) 方法进行了全面概述，并回顾了梯度、扰动和对比方法，提供了开发和评估强健 XAI 方法的关键挑战的见解。

    Nov, 2022