本文使用拓扑数据分析探究深度神经网络内部层的神经元激活，使用 TopoAct 可视化系统展示获取的激活向量的拓扑信息，为深度神经网络学习表示提供有价值的洞见和可视化工具。

Dec, 2019

计算模型在理解灵长类视觉系统的拓扑结构和功能方面起着重要作用。本研究通过发展全拓扑神经网络（All-TNNs）克服了传统卷积神经网络在学习空间特征时忽略拓扑的限制。实验结果表明，All-TNNs 在视觉输入训练后呈现出灵长类拓扑的特征，包括平滑的方向映射、皮层放大以及类别选择性区域。此外，研究中引入了人类在目标识别中的空间偏倚性新数据集，能够将模型与行为直接联系起来。通过与先前最先进的卷积模型相比，实验结果显示 All-TNNs 更好地与人类行为一致，说明 All-TNNs 对于理解视觉大脑的空间结构及其在视觉行为中的作用是一个重要的步骤。

Aug, 2023

该研究介绍了两个工具，用于可视化和解释深度卷积神经网络的计算过程，加速深度学习领域的发展。这些工具包括可视化神经网络在图像或视频处理过程中每一层产生的激活，并通过映射到图像空间进行的规则优化来可视化每一层的特征。

Jun, 2015

我们开发了一种工具，通过将大型预训练视觉模型映射到大脑上，从而揭示其隐藏在内部的信息。我们的创新提出了一种令人惊讶的使用大脑编码的方法：预测大脑在图像刺激下的功能磁共振成像测量。我们报告了两个发现：首先，对于空间、层级、尺度和通道的大脑和深度网络特征之间的显式映射至关重要。这种映射方法，FactorTopy，可应用于任何深度网络；通过它，我们可以将网络映射到大脑上（真实可视化）。其次，我们的可视化结果显示了不同的训练方法的重要性：它们导致了层次结构和缩放行为上显著的差异，随着更多的数据或网络容量增加而增长。它还提供了微调的见解：在适应小数据集时，预训练模型如何改变。我们的方法很实用：只需 3000 个图像就足以学习网络到大脑的映射。

Dec, 2023

深度神经网络的功能结构通过功能神经影像学的技术得到了探测。确定的功能网络可以用于模型对齐、模型输出的调节以及在微调中确定权重。

Nov, 2023

神经网络学习过程中，通过自组织映射可以视觉和计算地检测神经网络各层激活向量与抽象概念之间的对应关系，并且相对熵可以用作一种合适的方法来识别和定位概念的神经表示，实现概念的可视化并理解其在解决预测任务中的重要性。

Dec, 2023

我们提出了一个基于梯度的简单去噪方法，用于过滤噪声并生成高质量的类激活图，通过大量实验验证了该方法在弱监督语义分割任务中的有效性。

Aug, 2023

该论文研究神经网络层内部如何保留拓扑特征。使用拓扑数据分析技术，计算了一个简单前馈神经网络的层表征在类克莱因瓶扭结构变化下的拓扑特征。在较早层，网络看起来近似于同胚，但在较深层时数据的拓扑结构被明显更改，导致持久同调无法计算这些特征。但在具有双射激活函数的网络中，类似的拓扑特征似乎可以更持久地存在。

Jul, 2022

通过计算基于传统音频特征和卷积神经网络学到的表示之间的相似性，以及测量激活映射和音频特征之间的相似性，本研究旨在探索使用人工设计音频特征的方法来提高卷积神经网络的可解释性，以实现从用户生成的音乐录音中识别乐器的目标。

Jul, 2019

提出了一种卷积神经网络 (CNN) sparse 的架构，可扩展到数千个神经元和短期记录，可以端到端地训练，从而克服了 CNN 拟合神经数据中感受野位置估计的主要瓶颈，该模型的表现优于现有的小鼠初级视皮层系统识别模型。

Nov, 2017