InterActive：跨层次活跃性传播
本文使用拓扑数据分析探究深度神经网络内部层的神经元激活，使用 TopoAct 可视化系统展示获取的激活向量的拓扑信息，为深度神经网络学习表示提供有价值的洞见和可视化工具。
Dec, 2019
本文介绍了一种名为 ActiVis 的交互式可视化系统，可用于解释深度学习模型的大规模数据集，并通过 Facebook 的机器学习平台进行了部署和迭代改进。
Apr, 2017
我们的研究比较了应用于图像分类的激活方法（ABM）中最先进的方法，并通过引入新技术 Feature CAM，得到了在可解释性方面比现有技术提高 3-4 倍的结果。
Mar, 2024
该研究介绍了两个工具，用于可视化和解释深度卷积神经网络的计算过程，加速深度学习领域的发展。这些工具包括可视化神经网络在图像或视频处理过程中每一层产生的激活，并通过映射到图像空间进行的规则优化来可视化每一层的特征。
Jun, 2015
在神经网络中，单个神经元往往是 “可解释的”，因为它们代表了个别直观有意义的特征。然而，许多神经元表现出混合选择性，即它们代表多个不相关的特征。最近的假设提出深度网络中的特征可能通过多个神经元以非正交的方式进行 “叠加”，因为自然数据中可解释的特征数量通常大于给定网络中的神经元数量。因此，我们应该能够在激活空间中找到与个别神经元不一致的有意义方向。在这里，我们提出了（1）一种自动化方法，用于量化视觉可解释性，并与人类心理物理学对神经元可解释性的大型数据库验证，以及（2）一种在网络激活空间中找到有意义方向的方法。我们利用这些方法在卷积神经网络中发现了比个别神经元更具直观意义的方向，通过一系列分析进行了确认和调查。此外，我们将相同的方法应用于大脑中两个最近的视觉神经响应数据集，并发现我们的结论在大部分转移到真实神经数据上，这表明大脑可能使用了叠加。这也与去纠缠有关，并在人工和生物神经系统中提出了关于稳健、高效和分解表示的基本问题。
Oct, 2023
该论文提出了一种基于卷积神经网络的主动学习目标检测方法，使用新的图像级评分过程对未标记图像进行排序以进行自动选择，并针对不同情境（如视频或静态图像集）提出适应技巧，在行人检测任务中经过广泛研究，我们在实验中表明所提出的方法比随机选择表现更好。
Nov, 2019
该研究论文提出了一种无需具体的监督数据集，从网络上嘈杂的图像文本数据中发现和分析视觉属性的自动化方法，其基于属性和深度神经网络中的神经激活之间的关系，该方法对于发现和学习分类器，以及利用高度激活的神经元找到语义相关地区是有用的。
Jul, 2016
该论文提出了一种基于卷积神经网络和 Class Activation Mapping 等方法的、自我检查图像中信息区域、并在迭代分类中关注对分类问题有用的区域的方法，可在多个数据集上实现有竞争力的甚至最先进的结果。
Mar, 2016