ICLRJun, 2018

神经网络预测的分层解释

PDF
TL;DR引入聚合上下文分解的方法来解释 DNN 预测结果。该方法通过产生输入特征的层次聚类以及每个聚类对于最终预测的贡献，实现了对 DNN 的预测结果进行解释，有效诊断不正确的预测和识别数据集的偏倚。同时人体实验也表明，ACD 能够使用户较好地识别两个 DNN 中更准确的那一个，并更加信任 DNN 的输出。
deep neural networksagglomerative contextual decompositioninterpretationspredictionhierarchical clustering
发现论文，激发创造
  • 神经网络中的可解释性部分 - 整体层次结构和概念 - 语义关系

    本文介绍了一种名为 Agglomerator 的框架，它可以通过视觉线索提供部分 - 整体层次结构的表示，并组织与类别之间的概念语义层次结构相匹配的输入分布，从而提高神经网络的可解释性。作者在 SmallNORB、MNIST、FashionMNIST、CIFAR-10 和 CIFAR-100 等常见数据集上进行了评估，并提供了比其他最先进方法更易解释的模型。

    Mar, 2022

  • 通过分层模块化表示解释分层神经网络

    提出了一种获得分层神经网络的分层模块化表示的方法，该方法使用层次聚类方法将训练网络应用于 Feature Vectors，以便根据它们与输入和输出维度值的相关性定义隐藏层单元之间的树状关系。

    Oct, 2018

  • Tree-CNN: 一种层次化的深度卷积神经网络用于增量学习

    本研究提出一种自适应分层网络结构，由 DCNN 组成，可以随着新数据的出现而不断增长和学习。该模型通过组织渐增的可用数据成特征驱动的超类，实现了分类能力的自我增长，并在 CIFAR-10 和 CIFAR-100 数据集上实现了较优的准确率，从而显著减少了训练时间。

    Feb, 2018

  • 层次语义树概念白化用于可解释的图像分类

    通过在深度模型中主动注入知识，使用语义概念的层次树规范化图像数据实例的表达方式，提高模型可解释性，改善语义概念的分离，并不会对模型的分类性能产生负面影响。

    Jul, 2023

  • 通过展开和征服的归因指导实现网络决策基础的更好可视化

    本文提出了一种新颖的事后框架 UCAG，通过对模型置信度进行空间审查，增强了神经网络决策的解释能力。该方法通过细致地分析输入特征，提供了丰富而清晰的解释，从而提高了解释的表达能力，并超越了现有方法的性能。

    Dec, 2023

  • 深层判别聚类分析

    本文提出一种利用深度神经网络来建模聚类任务中数据间关系从而提高聚类效果的算法，名称为 Deep Discriminative Clustering (DDC)。DDC 采用全局和局部约束对关系进行调整，通过迭代式训练得到高水平的表征，并将其作为聚类中心进行直接聚类。实验证明，DDC 在图像、文本和音频数据集上表现出比当前方法更佳的聚类效果。

    May, 2019

  • 交替方向神经网络实现深度成分分析

    本文介绍了一种表达能力强且带有层次结构约束的 Deep Component Analysis 模型，并提出了基于递归交替方向神经网络（ADNNs）的可微优化算法实现。通过将前馈神经网络解释为模型中推理的单次迭代近似，不仅提供了一种新的理论视角，还提供了一种利用先验知识约束预测的实用技术。在实验中，我们证明了该模型在许多任务上的性能改进，包括单图像深度预测与稀疏输出约束。

    Mar, 2018

  • 一个使用层次聚类的多尺度图卷积网络

    研究了利用多尺度分解通过层次拓扑信息的新型体系结构，并通过 Girvan-Newman 层次聚类算法生成了一棵树，使得架构可以学习从粗到细的多尺度潜在空间表示，并在基准引文网络上表现出竞争力。

    Jun, 2020

  • 通过逐层相关性传递解释复杂机器学习模型的预测

    本文介绍一种基于输入变量对深度神经网络分类决策进行分解的技术，以提高其透明度和可解释性。

    Nov, 2016

  • 使用深度泰勒分解解释非线性分类决策

    本文介绍了一种新的方法来解释深度学习模型的分类决策，特别是在图像分类方面，该方法利用了所提出的深度泰勒展开技术，可以提高模型的可解释性并从输入元素的贡献中得出解释。

    Dec, 2015