通过构建一个卷积语音识别模型，其滤波器被排列在二维网格中并且相邻滤波器之间很相似，我们证明这种拓扑滤波器图可更形象地可视化人造神经元的激活， 并检验这是否会使得对音素有响应的神经元分组在拓扑图的特定区域。

Dec, 2019

本文介绍了一种名为 ActiVis 的交互式可视化系统，可用于解释深度学习模型的大规模数据集，并通过 Facebook 的机器学习平台进行了部署和迭代改进。

Apr, 2017

本文提出一种名为 InterActive 的算法，通过计算神经元和网络连接的活跃度，在神经网络中向下传播高级上下文，提高低级和中级神经元的描述性能，从而实现了广泛的图像分类。

Apr, 2016

通过提取神经网络层中高维激活空间内相似的激活特点，我们找到了一些被对待相似的输入群体，这些输入群体代表神经激活模式 (NAPs)，并可用于可视化和解释学习层概念，从而实现了神经网络的分析方法的互补。

Jun, 2022

本文应用拓扑数据分析的前沿技术，通过量化内部表示之间的差异和绘制网络层次结构图等方法，探索了用于图像分类的深度神经网络的可解释性，并提供了实验证据证明这些方法能够捕捉到有关模型过程的可贵结构信息。

Dec, 2022

该研究介绍了两个工具，用于可视化和解释深度卷积神经网络的计算过程，加速深度学习领域的发展。这些工具包括可视化神经网络在图像或视频处理过程中每一层产生的激活，并通过映射到图像空间进行的规则优化来可视化每一层的特征。

Jun, 2015

通过对二元分类问题的数据集进行拓扑学分析，研究网络层数对于数据拓扑的影响，发现神经网络能够通过非同胚映射改变数据的拓扑结构，且 ReLU 激活函数能更有效地实现拓扑的转换。

Apr, 2020

该论文研究神经网络层内部如何保留拓扑特征。使用拓扑数据分析技术，计算了一个简单前馈神经网络的层表征在类克莱因瓶扭结构变化下的拓扑特征。在较早层，网络看起来近似于同胚，但在较深层时数据的拓扑结构被明显更改，导致持久同调无法计算这些特征。但在具有双射激活函数的网络中，类似的拓扑特征似乎可以更持久地存在。

Jul, 2022

深度神经网络的功能结构通过功能神经影像学的技术得到了探测。确定的功能网络可以用于模型对齐、模型输出的调节以及在微调中确定权重。

Nov, 2023

计算模型在理解灵长类视觉系统的拓扑结构和功能方面起着重要作用。本研究通过发展全拓扑神经网络（All-TNNs）克服了传统卷积神经网络在学习空间特征时忽略拓扑的限制。实验结果表明，All-TNNs 在视觉输入训练后呈现出灵长类拓扑的特征，包括平滑的方向映射、皮层放大以及类别选择性区域。此外，研究中引入了人类在目标识别中的空间偏倚性新数据集，能够将模型与行为直接联系起来。通过与先前最先进的卷积模型相比，实验结果显示 All-TNNs 更好地与人类行为一致，说明 All-TNNs 对于理解视觉大脑的空间结构及其在视觉行为中的作用是一个重要的步骤。

Aug, 2023