interpretable concepts | BriefGPT

关键词interpretable concepts

搜索结果 - 7

基于 LLM 的概念发现：自动识别和解释神经元功能
利用多模态大型语言模型进行自动和无限的概念发现，既可以发现概念，又可以验证它们，为解释深度神经网络提供可信的自动化工具。
PDF24 days ago
增量残差概念瓶颈模型
我们提出了递增残差概念瓶颈模型（Res-CBM），以解决概念完整性的挑战。通过优化向量来完成缺失的概念，并将不明确含义的补充向量转化为候选概念库中的潜在概念，以增强任何 CBM 的性能。实验结果表明，Res-CBM 在准确性和效率方面优于当
PDF3 months ago
CVPR视觉概念连接图 (VCC): 深度模型中的开放世界概念发现与它们的层间连接
理解深度网络模型在其学习到的表示中捕捉到的内容是计算机视觉中的一个基本挑战。我们提出了一种新的方法来理解这样的视觉模型，即视觉概念连接图（VCC），它以完全无监督的方式发现人类可解释的概念及其在不同层之间的连接。我们的方法同时揭示了网络结构
PDF3 months ago
瓶颈模型中的跨模式概念化
通过跨模态学习方法，我们在训练中使用文本描述来指导概念的引入，以产生可解释的概念，提高模型的健壮性。
PDF8 months ago
IJCAI利用模型 knockoffs 实现基于概念的图像分类器显著性解释
本研究提出了一种利用深度学习模型学习图像概念，然后使用 Knockoff 样本选择重要概念进行预测的方法来控制误发现率，实验结果表明该方法可以控制 FDR 并选择高度可解释的概念来提高模型的可靠性。
PDFa year ago
可解释化多智能体强化学习的概念学习
本文介绍了一种将领域专家的可解释概念纳入到多智能体强化学习模型中的方法，以提高模型的解释性和稳定性，提高性能和样本效率。
PDFa year ago
ICLR事后概念瓶颈模型
本研究介绍后续概念瓶颈模型（PCBM），它可以将任何神经网络转换为具有解释性的概念瓶颈模型，无需在训练数据中密集注释概念，同时保持模型性能和解释性优势。PCBM 还可以从其他数据集或自然语言描述中通过多模式模型转移概念，从而实现全局模型编辑
PDF2 years ago