基于引导特征反演的深度神经网络预测解释方法

Mar, 2018

基于引导特征反演的深度神经网络预测解释方法

Towards Explanation of DNN-based Prediction with Guided Feature Inversion

Mengnan Du, Ninghao Liu, Qingquan Song, Xia Hu

TL;DR本文提出了一种基于指导特征反演框架的深度神经网络解释模型，可以确定神经网络中每个特征的贡献并提供决策过程的洞见，通过与 DNN 模型输出层目标类别的神经元进一步交互，我们强制解释结果具有类别区别能力，实验证明了我们提出的框架在提供 DNN 预测的类别判别性解释方面的有效性。

Abstract

While deep neural networks (DNN) have become an effective computational tool, the prediction results are often criticized by the lack of interpretability, which is essential in many real-world applications such a

deep neural networks interpretability guided feature inversion decision-making process cnn architectures

发现论文，激发创造

通过逆识别标记神经表示

我们提出了一种逆向识别方法 (INVERT)，通过利用学习表示与人可理解的概念之间的区分能力，实现了将学习表示与其对应解释相连接的可扩展方法。此方法具有较低的计算复杂度并且不依赖于分割掩码的可用性，还提供了一个可解释的度量来评估表示与其相应解释之间的一致性并提供统计显著性的度量值，强调其实用性和可信度。我们展示了 INVERT 在各种场景中的适用性，包括识别受偶然相关性影响的表示以及对模型中决策层次结构的解释。

Nov, 2023

通过引导概念学习实现可理解的卷积神经网络

该论文提出了一种带有附加概念层的 CNN 架构的引导学习方法，用于学习视觉特征和单词短语之间的关联，并通过优化预测准确性和特征表示的语义来学习与人类感知一致的概念，实验结果表明，所提出的模型可以在不牺牲准确性的情况下学习一致于人类感知的概念，并可将这些学习到的概念转移到具有相似概念的新对象类别中。

Jan, 2021

利用语义信息提高深度神经网络的可解释性

本文提出了一种新颖的技术，通过利用人类描述中蕴含的丰富语义信息来提高深度神经网络的可解释性，特别是在视频字幕任务中，通过一个可解释损失将人类描述中的一组语义相关主题集成到模型中，并提出了一种预测差异最大化算法来解释每个神经元的学习特征。实验结果表明这种方法在视频字幕和视频动作识别方面非常有效。

Mar, 2017

通过解释进行视觉说明：提高深度神经网络视觉反馈能力

本文提出了一种基于内部特征及可视化的方法，能够自动识别预先训练模型中与给定类相关的特征，以进行深度模型的解释和阐释，并且提出了一种针对 deconvNet 可视化操作引入的伪像问题的方法，同时还提出了一个专门用于视觉解释方法客观定量评估的数据集 an8Flower。实验证明，该方法在 MNIST、ILSVRC12、Fashion144k 和 an8Flower 数据集上能够产生具有良好主题相关特征覆盖的详细解释。

Dec, 2017

感知可视化：透过深度神经网络的视角看世界

该论文的研究内容主要涵盖了人工智能、深度神经网络、可解释 AI、视知觉技术以及深度模型的调试等领域。论文提出的 Perception Visualization 技术通过可视化深度模型对于输入图像的感知来解释模型预测结果，研究发现人类能够更好地理解和预测系统决策，从而使深度模型的调试和部署更加可靠。

Apr, 2022

FICNN：深度卷积神经网络解释框架

本文提出了一种卷积神经网络模型解释框架，指出了模型解释和解释任务的差异，定义了用于表征解释方法的六个因素，并讨论了现有解释方法和评估协议对它们的验证，以及提出了可能出现的研究问题。

May, 2023

基于 GAN 的神经网络解释生成和自动选择

通过引入一种新的度量标准来鼓励在真实数据和生成的数据之间的相似性，以及使用一种基于 GAN 的方法来生成解释，本文提出了一种方法来避免在深度神经网络模型中手动选择解释样本的问题，并且成功地通过使用这种方法来理解模型在预测音乐音频类型（有无歌唱声）方面的性能。

Apr, 2019

混合 CNN - 解释器：为基于 CNN 的模型解释局部和全局上下文

提出基于深度卷积神经网络的新型机器学习解释器，融合局部与全局解释框架，以实现对模型性能的更精确理解和监控。该方法可应用于各种卷积神经网络结构，并分析其输入输出关系、特征相关性和过滤器的重要性等关键参数。

Oct, 2022

深度神经网络在头颈癌预测中的特征梯度流解释

该研究介绍了一种名为特征梯度流的新技术，用于以人类可以理解的特征来解释深度学习模型。该技术通过测量可解释特征与模型的梯度流之间的一致性来评估特定特征对模型的重要性，并通过在损失函数中添加正则项来训练更易解释的神经网络。研究还在从癌症影像存档中的计算机断层扫描数据集中，对头颈癌远处转移的卷积神经网络预测进行了测试。

Jul, 2023

基于医学概念的图神经网络的认知解释器

本研究提出一种基于医学概念的可解释卷积神经网络框架，可用于识别超声标准平面，并构建关键医学概念之间的关系，从医生的认知角度解释，并在实验中取得了实质性的解释性能提升。

Jan, 2022