concept activation vectors | BriefGPT

关键词concept activation vectors

搜索结果 - 13

知识图谱用于实证概念检索
基于概念的可解释人工智能利用经验性定义的概念和通用知识图谱，为用户提供个性化的解释方式，并通过基于经验概念数据集的概念激活向量和概念激活区域方法来提供稳健准确的解释。
PDF3 months ago
交互推荐中的软属性偏好征求
基于软属性，利用概念激活向量开发了一种新颖的偏好征集方法，结合了物品和属性的偏好征集，以提高推荐系统的推荐质量。
PDF8 months ago
用振动概念解释轴承故障检测的深度神经网络
本研究探讨了如何在基于振动信号的深度神经网络所训练的轴承故障检测中利用已有的基于概念的解释技术，以确保人们对模型内部工作机制的理解，并通过验证底层假设的准确性来获得可信的结果。
PDF9 months ago
SurroCBM: 生成后处理解释的概念瓶颈替代模型
本文介绍了 Concept Bottleneck Surrogate Models (SurroCBM) 的新颖框架，旨在通过自动发现的概念来解释黑盒模型。通过自动生成的数据提供了有效的训练策略，不断提高解释质量，并通过广泛实验证明了 Su
PDF9 months ago
基于概念的脑电波变压器模型解释能力
应用概念激活向量（CAVs）方法，本研究旨在理解深度学习模型内部状态，进而解释大规模变压器模型中的脑电图（EEG）数据，通过定义解释性概念和选择相关数据集来建立概念在潜在空间中的基础。研究结果表明，外部标记的 EEG 数据集和解剖学定义的概
PDFa year ago
AAAIRIPPLE：面向教育的基于概念的原始时间序列模型解释
本文通过利用图神经网络的方法，对不规则多元时间序列进行建模，比较使用手工制作的特征和原始时间序列 clickstreams 能否在学生表现预测方面获得相同或更好的准确性，以及在原始时间序列模型的可解释性方面扩展概念活化向量，并在 23 个海
PDF2 years ago
神经网络的以人为本的概念解释
该研究论文介绍了基于概念的解释，比如概念激活向量可以有效地描述概念，并讨论了自动提取概念的方法，展示了它们在真实世界应用中的效用。
PDF2 years ago
PatClArC：使用模式概念激活向量进行噪声鲁棒性模型调试
本文介绍了一种名为 PCAV 的模式概念激活向量，用于在潜在空间中实现噪声鲁棒的概念表示，并证明了基于模式的人工建模对 CAVs 的应用具有有益的影响。
PDF2 years ago
利用概念激活向量在推荐系统中发现软属性的个性化语义
利用概念激活向量（CAVs）来学习用户语义意图，将其与用户喜好和行为联系起来，并能够通过互动评论来提高推荐准确性的交互式推荐系统。
PDF2 years ago
ICML使用概念性反事实解释有意义地调试模型错误
本研究提出了一种系统化方法 —— 概念反事实解释（CCE），旨在利用人类理解的概念（例如，由于条纹不清晰，这只斑马被错误地分类为狗）解释分类器在特定测试样本上出错的原因，并在多个已知的预置模型上验证了 CCE 的有效性及其对于缓解偏差的作用
PDF3 years ago
使用非负概念激活向量的卷积神经网络模型可逆基于概念的解释
本文通过提出 invertible concept-based explanation 框架，并进行矩阵分解的性能评估，使用非负矩阵分解提供卓越表现的非负概念激活向量来提供预训练 CNN 模型的局部和全局概念级解释。
PDF4 years ago
基于概念激活向量的深度学习皮肤病变分类器可解释性研究
该研究使用了一个经过训练的神经网络，通过激活向量概念来介绍了深度学习的医学图像分类器，以验证模型学习和利用类似于皮肤科医师所描述和使用的疾病相关概念，并且进一步开发 CAV 的神经网络。
PDF4 years ago
概念激活向量（Concept Activation Vectors）的数量化测试：超越特征归属的可解释性（Interpretability Beyond Feature Attribution）
通过引入概念激活向量 (CAVs) 来解释深度学习模型的内部状态，通过 TCAV 技术使用方向导数量化用户定义的概念对分类结果的重要程度，从而探索研究标准图像分类网络和医学应用。
PDF7 years ago