该研究提出了一种名为 VisualBackProp 的新方法，用于实时可视化基于卷积神经网络（CNN）的系统中哪些输入像素集对预测结果产生最大影响，通过探索特征映射中趋于不重要的信息，该方法可以计算速度快于传统的正向传递方法，并可作为一种有价值的调试工具进行训练与推断。

Nov, 2016

通过深度可视化技术，可以更好地了解深度神经网络。本文介绍了一种算法，通过合成每种类型的图像来清晰地揭示神经元的多重特征，并引入正则化方法使可视化结果更具解释性和清晰性。

Feb, 2016

使用大脑 fMRI 响应预测作为训练目标，我们研究了视觉数据、深度网络和大脑之间的有趣联系，发现通过不同目标训练的深度网络共享通用的特征通道，将这些通道聚类成不同的大脑区域，产生语义相关的物体片段，同时通过通道聚类发现了不同网络层级处理视觉信息的过程，从而实现了网络之间的精确比较。

Jun, 2024

本文研究基于儿童视觉物体识别能力的发展轨迹和 Bar (2003) 的理论，提出一种深度卷积神经网络训练的优化策略，在基础级别物体分类的基础上训练亚目标级别分类，进而在小型数据集的迁移学习中取得了优秀的效果提升，证明本方法的可行性和有效性。

Nov, 2015

本文为了帮助理解 CNNs 的黑盒特性以及它们构建的表示和这些表示如何组织，提出了通过神经元功能可视化描述神经元的活动，并用两个特定的属性量化它们固有的选择性，探索特定选择性指标，并建立了一个通过选择性属性对神经元进行索引的框架，可帮助找到颜色选择性神经元和类选择性神经元，从而在神经元索引方面提供了一种方法。

Feb, 2017

通过 79 个实验和 7,810 个实验参与者的数据研究，揭示了同人类视觉选择性估计有显著重叠的被动关注技术，指出使用引导反向传播方法探测相对简单的神经网络架构产生的输入可视化是预测共享成分的最佳选择，这些结果帮助我们通过比较不同模型在图像信息选择性方面的相似性和差异性来评估领先的神经网络模型作为人类视觉模型的生物学和心理学的有效性。

Jul, 2021

在神经网络中，单个神经元往往是 “可解释的”，因为它们代表了个别直观有意义的特征。然而，许多神经元表现出混合选择性，即它们代表多个不相关的特征。最近的假设提出深度网络中的特征可能通过多个神经元以非正交的方式进行 “叠加”，因为自然数据中可解释的特征数量通常大于给定网络中的神经元数量。因此，我们应该能够在激活空间中找到与个别神经元不一致的有意义方向。在这里，我们提出了（1）一种自动化方法，用于量化视觉可解释性，并与人类心理物理学对神经元可解释性的大型数据库验证，以及（2）一种在网络激活空间中找到有意义方向的方法。我们利用这些方法在卷积神经网络中发现了比个别神经元更具直观意义的方向，通过一系列分析进行了确认和调查。此外，我们将相同的方法应用于大脑中两个最近的视觉神经响应数据集，并发现我们的结论在大部分转移到真实神经数据上，这表明大脑可能使用了叠加。这也与去纠缠有关，并在人工和生物神经系统中提出了关于稳健、高效和分解表示的基本问题。

Oct, 2023

基于视觉概念的神经元激活依赖和功能连接，我们提出了一种新的方法来提取深度视觉模型计算图的子图，从而防御大规模预训练模型的对抗攻击。

Apr, 2024

该论文提出了一种简单而有效的实例级特征表示法，解决了类非特定实例定位和独特特征表示的问题，并通过平均池化检测到的实例区域上的特征图来产生独特特征表示，进而提高了实例搜索和基于内容的图像搜索的性能。

Feb, 2020

本章介绍了一种神经科学方法 ——Activation Maximization（AM），利用机器学习技术综合推理神经元的首选刺激，以大力激发人造或生物大脑中的单个细胞或细胞组，并讨论了现有 AM 技术的概率解释和其在网络调试和解释方面的应用。

Apr, 2019