神经元标记是一种可视化特定神经元对激活模式的行为和响应方式的方法，以深度神经网络为基础，使用编码器 - 解码器图像字幕生成方法，通过改进注意机制和合并多种注意结果，以实现更好的神经元标题生成性能。

Jan, 2024

通过研究神经元来解释深度神经网络并生成语义解释，以解决目前在此方面的限制、缺乏可伸缩性和适用性的问题。

Oct, 2023

使用 BERT 为例，本文提出了一种新颖且可扩展的框架，将文本描述与神经元联系起来，并通过生成式语言模型发现数据特定的可解释描述符，用于解释编码这些描述符的神经元。实验证明，该方法在识别神经元方面达到了 75% 的 2 阶精度和 50% 的 2 阶回想率。

Jan, 2024

我们使用一种解释深度学习表征中神经元的程序，通过识别与神经元行为密切相关的组合逻辑概念来实现，以比先前使用原子标签的解释方法更精确地描述他们的行为，并回答了一些有关视觉和自然语言处理模型可解释性的问题。

Jun, 2020

利用多模态大型语言模型进行自动和无限的概念发现，既可以发现概念，又可以验证它们，为解释深度神经网络提供可信的自动化工具。

Jun, 2024

本文提出了一种描述和解析（DnD）的新方法，利用多模态深度学习的最新进展来产生复杂的自然语言描述，无需带标签的训练数据或预定义的概念选择集。通过广泛的定性和定量分析，我们展示了 DnD 在提供更高质量神经元描述方面的优越性，并且与最佳基线相比，我们的方法平均提供了最高质量的标签，并且更有可能被选为神经元的最佳解释。

Mar, 2024

自然语言是解释大型语言模型如何处理和存储信息的一种吸引人的媒介，然而评估这种解释的忠实度是具有挑战性的。我们开发了两种模式的自然语言解释评估方法，以评估声称单个神经元在文本输入中表示概念的解释的真实性。我们将此框架应用于 Bills 等人 (2023) 提出的 GPT-2 XL 神经元的 GPT-4 生成的解释，并显示即使最有信心的解释也存在高错误率和几乎没有因果效果。我们最后对自然语言是否是解释的良好选择以及神经元是否是最佳分析级别进行了批判性评估。

Sep, 2023

该研究利用 Linguistic Correlation Analysis 技术，定位和提取能够预测不同语言任务的少量神经元，研究表明深度 NLP 模型中神经元的学习特征高度分布和冗余，预训练模型的微调也会影响学习到的语言知识，同时还发现多语言变压器模型中的神经元分布具有相似性。

Jun, 2022

通过研究多模态大型语言模型的内部机制，我们在多语种研究的启发下，发现了多模态大型语言模型中的领域特定神经元，并研究了这些模型如何处理来自不同领域的特征。进一步地，我们提出了一个三阶段的语言模型模块框架，用于处理投影的图像特征，并使用逻辑镜头验证了这一假设。大量实验证明，虽然当前的多模态大型语言模型具备视觉问答的能力，但它们可能没有充分利用领域特定的信息。适当地操纵领域特定的神经元最多会导致 10% 的准确率变化，为未来跨领域、全方位的多模态大型语言模型的发展提供了启示。我们的代码将在论文通知后发布。

Jun, 2024

通过多模态的视觉 - 语言基础模型作为一种视角，本文提出了一种逻辑规范语言 Con_spec，用于在这些模型的高级人类可理解概念描述的基础上编写规范并进行形式验证，通过采用 VLM 实现自然语言性质的编码和高效检查，以 ResNet 为基础的分类器在 RIVAL-10 数据集上进行的实验验证了我们的技术。

Mar, 2024