Jan, 2024

NormEnsembleXAI: 揭示 XAI 集成技术的优势与劣势

PDF
TL;DR本文提供了一项对可解释人工智能（XAI）集成方法的综合比较分析。我们的研究做出了三个重要贡献：首先，我们引入了一种新的集成方法 NormEnsembleXAI，通过与正规化技术结合利用最小值、最大值和平均值函数来增强可解释性；其次，我们深入探讨了 XAI 集成方法的优点和局限性；最后，我们提供了一个库，方便实现 XAI 集成，从而促进透明和可解释的深度学习模型的采用。
explainable artificial intelligencexai ensemblingnormensemblexaiinterpretabilitydeep learning models
发现论文，激发创造
  • 反事实解释器集成

    通过自编码器的包装方法，我们提出了一个包含多个可解释性对抗性分析器的集合，通过利用多样性导向的选择函数，将这些弱分析器的结果结合起来，从而实现了针对可解释性具有各种重要属性的强大方法。

    Aug, 2023

  • 抽样 - 变分自编码器 - 集成：追求可解释人工智能的探索

    通过采样 - 变分自动编码器 (VAE) - 集成异常检测 (SVEAD) 的新框架，本文在可解释人工智能 (XAI) 的话题上做了实证评估，发现将集成叠加、VAE 和 SHAP 结合在一起不仅可以提高模型性能，而且能够提供一个易于解释的框架。

    Sep, 2023

  • 您能相信您的解释吗？特征归因方法的健壮性测试

    评估对非敌对扰动的稳健性并分析神经网络和表格数据集上应用的可解释 AI 方法的稳健性，展示如何利用流形假设和集成方法对稳健性进行深入分析。

    Jun, 2024

  • 我们需要另一种可解释的 AI 方法吗？将事后可解释性评估方法统一为一种交互式和多维基准

    提出了一种名为 Compare-xAI 的基准测试框架，该框架统一了 xAI 算法的所有排他性功能测试方法，帮助研究人员、从业人员和普通人解释模型结果，同时提供了可互动的用户界面。

    Jun, 2022

  • 改进分类器性能的通用框架：基于可解释人工智能方法

    该论文提出了一个使用可解释人工智能技术方法来自动提升预训练深度学习分类器性能的通用框架，避免了重新训练复杂模型所带来的计算开销，通过两种不同的学习策略，自动编码器和编码器 - 解码器，来实现这一架构。

    Mar, 2024

  • 弱学习器解释的组合以提高随机森林的解释和鲁棒性

    通过组合弱学习者解释的鉴别平均值，可以提高集成方法中解释的鲁棒性。该方法利用后续的 SHAP 方法和随机森林集成进行实施和测试，并取得了成功的结果。通过定量测量获得的改进，并提供了一些关于集成方法中可解释性鲁棒性的见解。

    Feb, 2024

  • 可解释性方法评估的实验研究

    本文比较了 14 个不同的评估指标在 9 种最先进的 XAI 方法和 3 种用作参考的虚拟方法（如随机显著性图）上的应用结果，结果表明其中一些指标会产生高度相关的结果，还展示了基准超参数变化对评估指标值的显著影响，最后使用虚拟方法评估指标的可靠性及其排名方面的限制。

    May, 2023

  • 解决谜题：推导深度网络的最优解释

    通过整合不同的解释方法并利用非线性的 “解释优化器”，我们提出了一种新颖的框架，旨在增强深度神经网络的可解释性，并通过实验证实了其有效性。

    May, 2024

  • 可解释人工智能：系统综述

    这篇论文从四个主要聚类方向：综述文章、理论和概念、方法及其评估，总结了可解释人工智能领域的最新技术水平并提出了未来研究方向。

    May, 2020

  • 可解释人工智能分析和设计的多组件框架

    这篇论文讨论了符合科学历史的可解释人工智能 (XAI) 的框架问题，其原因追溯至现代机器学习（尤其是深度和强化学习）和对创造值得信赖的 AI 系统的关注，它的五个级别框架是 XAI 的关键组成部分。

    May, 2020