提出了一种新的基于网络分析的方法,通过检测具有相似连接模式的单元的社区或聚类,从分层神经网络中提取全局和简化的结构,并通过实验验证其有效性,从而实现了分解网络、训练评估和数据分析等目的。
Mar, 2017
引入聚合上下文分解的方法来解释 DNN 预测结果。该方法通过产生输入特征的层次聚类以及每个聚类对于最终预测的贡献,实现了对 DNN 的预测结果进行解释,有效诊断不正确的预测和识别数据集的偏倚。同时人体实验也表明,ACD 能够使用户较好地识别两个 DNN 中更准确的那一个,并更加信任 DNN 的输出。
Jun, 2018
本文介绍一种基于输入变量对深度神经网络分类决策进行分解的技术,以提高其透明度和可解释性。
Nov, 2016
通过具备多重尺度的完全描述网络层次结构的嵌套概率模型,可避免现有方法的局限性,在更高的分辨率下检测模块化结构并确保不产生伪模块,且具有一般性和可扩展性,适用于大型网络的高效算法
Oct, 2013
该论文探讨神经网络的组成特性以及地位,提出了一种基于模块化的网络结构,利用预定的角色将模块拆分,同时提供对模块崩溃问题的解决方案,提高了整个网络的鲁棒性和解析准确性。
Jun, 2023
研究了利用多尺度分解通过层次拓扑信息的新型体系结构,并通过 Girvan-Newman 层次聚类算法生成了一棵树,使得架构可以学习从粗到细的多尺度潜在空间表示,并在基准引文网络上表现出竞争力。
Jun, 2020
本文介绍了一种名为 Agglomerator 的框架,它可以通过视觉线索提供部分 - 整体层次结构的表示,并组织与类别之间的概念语义层次结构相匹配的输入分布,从而提高神经网络的可解释性。作者在 SmallNORB、MNIST、FashionMNIST、CIFAR-10 和 CIFAR-100 等常见数据集上进行了评估,并提供了比其他最先进方法更易解释的模型。
Mar, 2022
通过使用计算方法提出一种层次化模块分解大量高分辨率脑功能网络的方法,探讨人类大脑功能网络的层次化模块组织及模块内模块结构,揭示了模块间连接的关键作用,为研究大脑的适应性提供了基础。
Apr, 2010
本文提出了一个新的可解释性变换器模型,用于联合分层聚类识别和脑网络分类,以实现对脑区功能组织的可行洞察。
May, 2023
本文提出了一种新的 Hierarchical INTerpretable 神经文本分类器 Hint,它可以自动生成按标签关联的话题的模型预测解释,实验结果表明 Hint 方法在文本分类方面不仅与现有的最先进的文本分类器相当,而且生成的解释比其他可解释的神经文本分类器更符合模型预测,并且更易于被人类理解。
Feb, 2022