Mar, 2024

XpertAI：揭示子流形的模型策略

PDF
TL;DR近年来，可解释性人工智能（Explainable AI，XAI）方法已经促进了机器学习模型的深入验证和知识提取。然而，尽管分类问题得到了广泛研究，但很少有 XAI 解决方案针对回归模型的特定挑战。本文介绍了 XpertAI，一个将预测策略分解为多个范围特定子策略的框架，允许通过这些子策略的线性组合对模型（被解释对象）进行精确查询。XpertAI 通常与基于遮挡、梯度积分或反向传播的流行 XAI 归因技术一起使用，并通过定性和定量结果展示了我们方法的优势。
发现论文，激发创造
  • 利用可解释人工智能提高分类系统的策略

    本研究探讨了一组通常与机器学习分类任务一起使用的著名可解释人工智能 (XAI) 方法，以验证它们是否能被利用，不仅提供解释，而且还可以改善模型本身的性能。研究结果表明，Integrated Gradients 方法构建的解释突出了可用于提高分类性能的输入特征。三个数据集上的实证评估支持了这一结论。

    Jun, 2023

  • XAI-TRIS: 量化机器学习解释能力的非线性基准测试

    本文探讨不同非线性分类场景下，解释性人工智能模型的表现，并通过一系列实验测试发现，当前流行的 XAI 方法往往无法显著提高准确性基线和边缘检测方法，甚至在不同模型结构下产生非常不同的解释，存在误解的风险。

    Jun, 2023

  • 机器学习模型中的统一解释：一种扰动方法

    面向可解释人工智能（XAI）的高速范式转变已在近年来出现。高度复杂的机器学习（ML）模型在许多智能任务中蓬勃发展，而问题开始从传统的有效性度量转向更深层次的问题：该模型告诉我关于我的数据什么，它是如何得出这些结论的？XAI 和建模技术之间的不一致可能对这些解释性方法的效力产生质疑。为了解决这些问题，我们提出了一种针对流行的 XAI 的模型不可知方法 SHapley Additive exPlanations（Shap）进行系统的扰动分析。我们设计了一些算法，在动态推理的设置下生成相对特征重要性，这些设置针对一套流行的机器学习和深度学习方法，以及允许我们量化静态情况下生成解释的质量的度量指标。我们提出了特征重要性方法论的分类体系，度量了一致性，并观察了几个数据集中解释模型之间的可量化相似性。

    May, 2024

  • 解决谜题：推导深度网络的最优解释

    通过整合不同的解释方法并利用非线性的 “解释优化器”，我们提出了一种新颖的框架，旨在增强深度神经网络的可解释性，并通过实验证实了其有效性。

    May, 2024

  • 可解释人工智能分析和设计的多组件框架

    这篇论文讨论了符合科学历史的可解释人工智能 (XAI) 的框架问题，其原因追溯至现代机器学习（尤其是深度和强化学习）和对创造值得信赖的 AI 系统的关注，它的五个级别框架是 XAI 的关键组成部分。

    May, 2020

  • 应用 XAI 和大型语言模型提取化学中人类可解释的结构 - 性质关系

    提出了 XpertAI 框架，将 XAI 方法与大型语言模型相结合，以访问科学文献，自动生成原始化学数据的易于理解的自然语言解释。通过进行 5 个案例研究来评估 XpertAI 的性能，结果表明 XpertAI 将大型语言模型和 XAI 工具的优势结合起来，生成具体、科学和可解释的解释。

    Nov, 2023

  • 透过终端用户启发式设计超越 XAI 算法边界

    本研究介绍了四个新的可解释人工智能技术问题，这些问题围绕设计和评估算法，并呼吁建立基于人类需求的可解释人工智能技术开发研究范式，以保证人工智能在关键任务中的负责任使用。

    Aug, 2022

  • 限距解释：理论基础与高效实施

    机器学习、可解释人工智能、基于逻辑的可解释性、距离限制解释和扩展性是该研究论文的主要关键词和研究领域，研究了用于计算和枚举大量输入的逻辑解释器性能扩展的新算法。

    May, 2024

  • 改进分类器性能的通用框架：基于可解释人工智能方法

    该论文提出了一个使用可解释人工智能技术方法来自动提升预训练深度学习分类器性能的通用框架，避免了重新训练复杂模型所带来的计算开销，通过两种不同的学习策略，自动编码器和编码器 - 解码器，来实现这一架构。

    Mar, 2024

  • 解析 AI 归因方法的精确基准测试

    我们提出了一种新的评估方法，用于基准测试最先进的可解释 AI 归因方法，该方法由合成的分类模型及其衍生的地面实况解释组成，该方法提供了关于 XAI 方法输出的更深入的洞察。

    Aug, 2023