基于 GAN 的神经网络解释生成和自动选择

ICLRApr, 2019

基于 GAN 的神经网络解释生成和自动选择

GAN-based Generation and Automatic Selection of Explanations for Neural Networks

Saumitra Mishra, Daniel Stoller, Emmanouil Benetos, Bob L. Sturm, Simon Dixon

TL;DR通过引入一种新的度量标准来鼓励在真实数据和生成的数据之间的相似性，以及使用一种基于 GAN 的方法来生成解释，本文提出了一种方法来避免在深度神经网络模型中手动选择解释样本的问题，并且成功地通过使用这种方法来理解模型在预测音乐音频类型（有无歌唱声）方面的性能。

Abstract

One way to interpret trained deep neural networks (DNNs) is by inspecting characteristics that neurons in the model respond to, such as by iteratively optimising the model input (e.g., an image) to maximally activate specific neurons. However, this requires a careful selection of

deep neural networks interpretation hyper-parameters gan-based method explanations

发现论文，激发创造

生成对抗网络中 FID 和 SID 指标的评估

使用公共数据集对图像处理中的生成对抗网络（GAN）模型进行训练和评估，发现使用 SID 指标能够有效衡量模型的生成性能，超过或者与使用 FID 指标相当。

Feb, 2024

ImageNet 类别在 Fréchet Inception 距离中的作用

通过对 Fréchet Inception Distance 的调查，我们发现它容易受到人为或意外扭曲的影响。在一个意外的案例中，一个经过 ImageNet 预训练的 FastGAN 可以实现与 StyleGAN2 相当的 FID，但它在人类评估方面表现更差。

Mar, 2022

基于引导特征反演的深度神经网络预测解释方法

本文提出了一种基于指导特征反演框架的深度神经网络解释模型，可以确定神经网络中每个特征的贡献并提供决策过程的洞见，通过与 DNN 模型输出层目标类别的神经元进一步交互，我们强制解释结果具有类别区别能力，实验证明了我们提出的框架在提供 DNN 预测的类别判别性解释方面的有效性。

Mar, 2018

关于可证实解释性研究的探索

本文介绍了深度神经网络的可解释性研究及其方法，指出目前的方法存在的局限和风险，并提出了以可证伪性为核心的新的研究框架，目的是为了产生更具意义和可靠的可解释性方法。

Oct, 2020

使用高阶矩来评估 GAN 生成的图像特征质量

探索了基于图像特征数据的高斯分布的假设并通过定义新的测量方法，即偏度内插距离（SID），来扩展既定评估标准 Fréchet Inception Distance（FID）。数值实验结果表明，SID 在评估 ImageNet 数据的图像特征时要么与 FID 保持一致，要么更贴近人类感知。

Oct, 2023

可解释方法中的婴儿大脑注意力方式

该文提出了一种名为 “可解释的几何深度网络” 的端到端学习方法，用于在高维数据中实现精细的可解释性，例如神经成像和神经科学研究。该方法采用学习解释性因素来增强鉴别性表示提取，以实现可解释的预测和分类结果。

Jan, 2023

针对图神经网络可解释性评估的鲁棒保真度提升

通过引入一种信息理论的解释性定义，研究了图神经网络（GNN）的可解释性挑战，发现现有的忠实度量衡不符合这一定义，提出了一种稳健的忠实度量方法，通过广泛的实证分析验证了其与标准度量方法的一致性。

Oct, 2023

重新思考 FID：为图像生成提供更好的评估度量

FID 作为生成图像的主要质量度量标准存在一些问题，我们提出了一个基于更丰富的 CLIP 嵌入和最大均值差异距离的高斯 RBF 核的新的替代度量标准 CMMD，通过实验证明 FID 评估文本到图像模型的可靠性较低，而 CMMD 则提供了更强大和可靠的图像质量评估方法。

Nov, 2023

生成对抗网络质量度量的鲁棒性研究

本文评估了生成模型质量测量的强度，指出 Inception Score 和 Fréchet Inception Distance 可被插入的噪点影响。作者还测试了最先进的 StyleGANv2 网络及其体系结构，并提供了一种增强版本的 FID 来减轻网络极度震荡的效果。

Jan, 2022

关于理解深度特征空间在人脸生成评估中的作用

通过对人脸图像的深度特征空间进行研究，我们发现 Fréchet Inception Distance 指标明显受特征空间数据集和目标函数影响，建议在使用生成模型时考虑多个特征空间并使用经过调整的特征空间。

May, 2023