一种通用且与模型无关的生成样本框架，用于可解释人工智能

KDDJun, 2020

一种通用且与模型无关的生成样本框架，用于可解释人工智能

A Generic and Model-Agnostic Exemplar Synthetization Framework for Explainable AI

Antonio Barbalau, Adrian Cosma, Radu Tudor Ionescu, Marius Popescu

TL;DR提出了一种基于生成模型的，通用的和模型无关的框架，用于综合最大化机器学习模型的期望响应的输入样本，该框架不需要对黑盒模型的内部结构或训练数据的访问或知识。

Abstract

With the growing complexity of deep learning methods adopted in practical applications, there is an increasing and stringent need to explain and interpret the decisions of such methods. In this work, we focus on explainable AI and propose a novel generic and model-agnostic framework fo

explainable ai generative model zero-order optimization black-box model model-agnostic

发现论文，激发创造

通过合成样例实现广义零样本学习

针对非离散训练和测试类别的广义零样本学习，本文提出了一种基于变分自编码器的生成性框架，该框架包括概率编码器和概率条件解码器。通过一个反馈机制，研究者用一个发生器生成来自已知 / 未知类别的新样本，然后将这些样本用于训练任何现成的分类模型。本文的模型在广义零样本学习方案中，可以从未知类别生成样本来训练模型，从而减少对已知类别的偏见。在多个基准数据集上的实验结果表明，相比多个最先进方法，本文的模型表现更好。

Dec, 2017

通过生成对抗网络推进预先解释模型

该论文提出了一种新颖的概念学习框架，用于增强视觉分类任务中模型的可解释性和性能，通过将非监督解释生成器附加到主分类器网络中，并利用对抗训练的方式，使模型从潜在表征中提取视觉概念并与人可解释的视觉属性隐式对齐，该方法的实验结果验证了其稳健性和产生一致的概念激活，同时研究了对抗训练协议中的扰动对分类和概念获取的影响，从而实现了构建具有任务对齐概念表征的内在可解释深度视觉模型的显著进展，为开发可信任的用于真实感知任务的人工智能提供了关键支持。

Jan, 2024

抽样 - 变分自编码器 - 集成：追求可解释人工智能的探索

通过采样 - 变分自动编码器 (VAE) - 集成异常检测 (SVEAD) 的新框架，本文在可解释人工智能 (XAI) 的话题上做了实证评估，发现将集成叠加、VAE 和 SHAP 结合在一起不仅可以提高模型性能，而且能够提供一个易于解释的框架。

Sep, 2023

基于 GAN 的图像生成的系统化分析

本研究探讨和提出了这些框架的分类法及其在各种图像到图像合成和文本到图像合成应用中的使用。

Aug, 2019

基于生成模型的自然语言推理解释的交互式可解释人工智能框架

INTERACTION 是一个生成性 XAI 框架，提供两个步骤的术语解释生成方法，具有 better performance 和多样性。

Sep, 2022

面向可解释性自然语言处理：文本分类的生成式解释框架

本文提出了一个新的生成式解释框架，学习同时进行分类决策和生成细粒度解释，实验证明该方法可以生成简明的解释，超过所有基线系统。

Nov, 2018

潜在解释器：用多模态基础模型解释深度生成模型中的潜在表示

本文介绍了 LatentExplainer，这是一个自动化生成深度生成模型中潜变量语义有意义解释的框架，通过扰动潜变量和解释生成数据的变化，提供了一种系统的方法来理解和控制数据生成过程，增强了深度生成模型的透明度和可解释性。

Jun, 2024

通过概念学习先验可解释模型的框架

本文提出一种将解释生成模块附加在基础网络之上、共同训练整个模块的自我解释深度学习模型，适用于无监督概念学习，能够生成有关概念的有意义的解释，并且在概念监督方面有一定的可塑性，具有更好的性能表现。通过在多个数据集上的实验，证明该模型比最近提出的基于概念解释的模型表现更好。

Aug, 2021

GLANCE：全球到本地的、架构中立的基于概念的解释

本论文提出了一种新的双替代可解释性框架，用于解释任何基于 CNN 的图像分类器所做的决策，该框架不仅提取出潜在特征并把它们与已知 “上下文” 特征进行对齐，还形成了语义上有意义的概念，用于提取描述 “感知” 数据生成过程的因果图。

Jul, 2022

利用解释作为潜在变量实现可解释的自然语言理解

本文提出了一种可解释自然语言理解的框架，使用一小部分人类注释的解释进行训练，并采用变分 EM 方法进行优化，同时提出了基于解释的自训练方法，在两个自然语言理解任务上进行实验，证明了该框架不仅可以在监督和半监督设置下进行有效的预测，还可以生成良好的自然语言解释。

Oct, 2020