通过网络规范化和超参数搜索优化解释

Nov, 2022

通过网络规范化和超参数搜索优化解释

Optimizing Explanations by Network Canonization and Hyperparameter Search

Frederik Pahde, Galip Ümit Yolcu, Alexander Binder, Wojciech Samek, Sebastian Lapuschkin

TL;DR该论文提出了针对流行的深度神经网络结构，包括 VGG、ResNet、EfficientNet、DenseNets 和 Relation Networks 的模型规范化方法，并建立了一个 XAI 评价框架，用于量化和比较模型规范化对各种 XAI 方法在图像分类任务和视觉问答中的影响，同时演示如何应用该评价框架进行超参数搜索，以优化解释质量。

Abstract

explainable ai (XAI) is slowly becoming a key component for many AI applications. Rule-based and modified backpropagation XAI approaches however often face challenges when being applied to modern model architectures including innovative layer building blocks, which is caused by two rea

explainable ai model canonization xai methods deep neural network architectures hyperparameter search

发现论文，激发创造

通过模型规范化实现可度量更强的解释性可靠性

本文从定量的角度验证了网络规范化对基于规则的说明在带有 BatchNorm 层的 VGG-16 和 ResNet18 模型上的益处，从而扩展了获得可靠神经网络说明的当前最佳实践。

Feb, 2022

解决谜题：推导深度网络的最优解释

通过整合不同的解释方法并利用非线性的 “解释优化器”，我们提出了一种新颖的框架，旨在增强深度神经网络的可解释性，并通过实验证实了其有效性。

May, 2024

深度神经网络的解释处理

本文发现了一个问题：通过微调输入图像，我们可以演示图像识别的解释方式可以通过进化策略对其进行任意操作。通过我们的 Adversarial XAI 算法 AttaXAI，我们能够在不使用梯度或其他模型内部的情况下，成功地在黑盒设置下操作解释方法，从而实现了对图像做微小改变却使 XAI 方法输出特定解释的目标。

Nov, 2022

利用可解释的人工智能来提高神经网络的性能

本研究提出了一种重新训练流程，使用 SHapley Additive explanations 值，从 XAI 入手并利用最先进的技术来增加模型的透明度和可信度，在人数统计场景和图像分类数据集上进行了实验验证，结果表明使用 SHAP-based 重新训练方法比使用相等加权训练方法更有效，分别提高了 4% 和 3% 的准确率。

Oct, 2022

改进分类器性能的通用框架：基于可解释人工智能方法

该论文提出了一个使用可解释人工智能技术方法来自动提升预训练深度学习分类器性能的通用框架，避免了重新训练复杂模型所带来的计算开销，通过两种不同的学习策略，自动编码器和编码器 - 解码器，来实现这一架构。

Mar, 2024

Greybox XAI: 一种神经符号学习框架，用于生成可解释的图像分类预测

通过形式化说明解释是什么，提出一些公理和定义来澄清可解释的人工智能的数学角度。最后，我们提出了一个 Greybox XAI 框架，该框架通过使用符号知识库将 DNN 和透明模型组成。我们从数据集中提取知识库，并使用它来训练透明模型（即逻辑回归）。然后，我们在 RGB 图像上训练编码器 - 解码器架构，以产生类似于透明模型使用的知识库的输出。一旦两个模型独立地训练好后，它们就在组成的形式上用于形成可以解释的预测模型。我们展示了这种新的架构在几个数据集中是准确的和可以解释的。

Sep, 2022

胶囊网络的改进可解释性：一致性相关路径

本文介绍了 Capsule 网络的架构和行为，并说明了该网络的潜在可解释性，通过在不同层中包含胶囊代替 CNN 的卷积层，我们展示了 Deep learning 结构转为透明网络的可能性。

Feb, 2018

在反应系统内正式解释神经网络

深度神经网络在反应式系统中作为控制器的应用越来越多。为了解释和证明其行为，可解释的人工智能（XAI）技术引起了人们的广泛兴趣。本文提出了一种形式化的 DNN 验证型 XAI 技术，用于推理多步骤的反应式系统，并通过利用系统的过渡约束来计算简洁的解释。在自动导航领域的两个广泛应用的基准测试中，我们的方法在计算最小和最小解释时表现出了高效的性能，同时比现有技术更可靠。

Jul, 2023

XAI-TRIS: 量化机器学习解释能力的非线性基准测试

本文探讨不同非线性分类场景下，解释性人工智能模型的表现，并通过一系列实验测试发现，当前流行的 XAI 方法往往无法显著提高准确性基线和边缘检测方法，甚至在不同模型结构下产生非常不同的解释，存在误解的风险。

Jun, 2023

解析 AI 归因方法的精确基准测试

我们提出了一种新的评估方法，用于基准测试最先进的可解释 AI 归因方法，该方法由合成的分类模型及其衍生的地面实况解释组成，该方法提供了关于 XAI 方法输出的更深入的洞察。

Aug, 2023