在潜在特征空间中通过学习图像示例实现黑匣子解释

Jan, 2020

在潜在特征空间中通过学习图像示例实现黑匣子解释

Black Box Explanation by Learning Image Exemplars in the Latent Feature Space

Riccardo Guidotti, Anna Monreale, Stan Matwin, Dino Pedreschi

TL;DR通过在黑盒模型中采用对抗性自动编码器学习到的潜在特征空间，生成实例图像并学习决策树分类器的方法，从而对黑盒模型进行解释，并提供了更好的解释性能。

Abstract

We present an approach to explain the decisions of black box models for image classification. While using the black box to label images, our explanation method exploits the latent feature space learned through an

black box models image classification latent feature space decision tree classifier explanation method

发现论文，激发创造

通过有意义的扰动提供黑匣子的可解释性解释

该研究提出了一种适用于任何黑盒机器学习算法的通用解释框架，并将其特化以找到对分类器决策最负责的图像部分。该方法是模型无关且可测试的，因为它基于明确且可解释的图像扰动。

Apr, 2017

你看到的就是你分类的：黑盒归因

在黑盒神经网络的基础上，通过训练第二个网络来预测对预备的黑盒分类器的贡献，并将这些贡献以只显示与分类器相关部分的蒙版的形式提供，我们的方法可以直接在单个前向传递中生成非常明显的类特定蒙版。

May, 2022

通过干预解释潜空间

本研究通过使用干预机制，利用离散变分自编码器来转移预测类别，进而可视化任何隐藏层的编码信息和对应的被干预表示来揭示深度神经网络的隐含概念，并通过评估原始表示与被干预表示之间的差异来确定可改变类别的概念，从而提高模型的可解释性。我们在 CelebA 数据集上展示了我们方法的有效性，并展示了有偏差数据的各种可视化并提供不同的干预方法来揭示和更正偏见。

Dec, 2021

平滑解释黑匣子 —— 反事实方法

该研究提出了一种黑盒对抗解释器来解释医学应用中的图像分类模型，并通过对诊断放射学居民进行实验，发现反事实解释是唯一能显着提高用户对分类器决策理解的解释方法。

Jan, 2021

针对皮肤病标注的图像分类器示例和反例解释

使用深度神经网络识别皮肤病变，并通过对抗自编码器生成的例子向医生提供诊断解释，以实现可解释的人工智能医疗决策系统。

Jan, 2023

黑匣子分类器生成因果解释

通过利用生成式模型和因果影响信息论度量，我们开发了一种方法，用于生成关于黑盒分类器的因果事后解释，方法可以学习低维度的数据表示。我们的方法学习全局和局部的解释，适用于任何具有类概率和梯度的分类器，并且不需要标记的属性或因果结构的知识。

Jun, 2020

无标签的无监督模型可解释性

该文介绍了两种关键的后处理解释技术扩展：无标签特征重要性和无标签示例重要性，用于黑盒模型在推断时构造表示，并通过定性和定量比较展示了这种无标签可解释性模式的效用。

Mar, 2022

利用潜在特征进行本地解释

本研究探讨了一种利用潜在特征产生对照解释的新方向，通过添加新特征改变分类结果的方法进行预测的解释，证明了该方法在样本丰富的数据集上产生的直观解释优于其他方法，并可作为目前最先进的解释性方法的补充。

May, 2019

渐进式夸张解释

本文提出了一种基于类的语义扩张的方法，该方法可以解释分类黑盒模型的结果，是模型无关的，并且只需要输出值和预测器相对于其输入的梯度。

Nov, 2019

黑盒决策系统的本地基于规则的解释

本文提出了一种名为 LORE 的黑匣子探明方法，能够从逻辑和反事实规则两个层面解释黑匣子机器学习模型的决策原因，从而提高其在社会敏感和安全关键环境中的可用性和透明度。

May, 2018