- 证据概念嵌入模型:面向皮肤疾病诊断的可靠概念解释
由于医疗决策的重要性,对于医学图像分析中的可解释深度学习方法有着强烈的需求。本文提出了一种基于证据学习的概念嵌入模型 (ev-CEM),用于建模概念的不确定性,并利用其来纠正在没有完全概念监督下使用视觉 - 语言模型训练概念瓶颈模型时出现的 - 半监督概念瓶颈模型
我们提出了一个名为 SSCBM 的新框架,通过在标记和未标记数据上进行联合训练,并在概念层面对未标记数据进行对齐,解决了现有 CBMs 训练中的限制。实验证明我们的 SSCBM 既有效又高效,在仅有 20% 标记数据的情况下,实现了 93. - 随机概念瓶颈模型
通过建模概念间的依赖关系并引入分布参数化,提出了一种基于概念瓶颈模型的新方法,通过影响相关概念来提高干预效果,并展示了其在合成表格和自然图像数据集上显著提高干预效果的经验证据,同时还通过对 CLIP 推导的概念进行检验来展示 SCBMs 的 - 通过嵌入逼近实现概念学习以加强可解释性与透明度
通过嵌入逼近进行概念学习的概念瓶颈模型(CBM)框架,用于构建图像分类的 CBM,优化决策过程,提供更全面的解释能力,并通过实验证明其在各类基准中的的最新性能。
- 概念瓶颈模型的可解释预测
通过提出基于概念解释的概念瓶颈模型(CBMs)来预测剩余寿命,改进了深度学习在工业资产预测中缺乏解释性的问题,并展示了 CBMs 在剩余寿命预测中的性能优势和可解释性。
- 可编辑的概念瓶颈模型
通过使用数学严谨的闭合形式近似和影响力函数,我们提出了可编辑的概念瓶颈模型(ECBMs),以解决从头重新训练的困境,实现高效率的数据删除和插入操作,从而适应大规模应用中的数据处理需求。
- 在视觉语言概念瓶颈模型中改善概念对齐
通过专家定义的概念而不是语言模型生成的概念构建可靠的 Concept Bottleneck Models(CBM),提出了一种使用少量标注的概念示例改善模型概念对齐的对比半监督学习方法,实验证明该方法显著提高了概念准确度和分类准确度。
- 通过概念重新对齐提高概念瓶颈模型中的干预效果
该研究论文通过引入可训练的概念干预调整模块,利用概念关系重定位干预后的概念分配,从而显著提高干预效果,并且能够降低人机协作成本。
- 增量残差概念瓶颈模型
我们提出了递增残差概念瓶颈模型(Res-CBM),以解决概念完整性的挑战。通过优化向量来完成缺失的概念,并将不明确含义的补充向量转化为候选概念库中的潜在概念,以增强任何 CBM 的性能。实验结果表明,Res-CBM 在准确性和效率方面优于当 - 透明且临床可解释的肺癌在胸部 X 光片中的 AI 检测
通过引入临床概念到分类过程中,我们提出了一种基于概念瓶颈模型的预处理方法,改善了肺癌检测的分类性能(F1>0.9),同时生成比现有技术更可靠、临床相关的解释,解决了现有后期 XAI 技术在医疗数据上解释能力较差的问题。
- 关于概念瓶颈模型中的概念可信度
在这项研究中,我们建立了一个评估概念的可信度的基准,提出了一种概念可信度评分指标,并引入了增强的 Concept Bottleneck Models(CBMs),通过 CLA、CIA 和 PA 模块进一步提高 CBMs 的概念可信度。在五个 - 使用监督、层次概念学习消除硬概念瓶颈模型中的信息泄漏
提供标签监督和层次化概念集概念预测模式,SupCBM 消除信息泄漏问题,实现准确预测和解释。
- 我们能约束概念瓶颈模型学习语义有意义的输入特征吗?
概念瓶颈模型是一种具有内在可解释性的模型,本文研究了如何通过细粒度概念注释的数据集学习概念,并通过移除问题概念相关性来实现概念与输入特征之间的语义映射,通过引入基于纸牌领域的合成图像数据集作为未来研究的基准,以及在胸部 X 光数据集上的实证 - ICLR基于能量的概念瓶颈模型:预测、概念干预和条件解释的统一
我们提出了基于能量的概念瓶颈模型(ECBMs),通过使用一组神经网络定义候选(输入、概念、类别)元组的联合能量,以解决现有概念瓶颈模型存在的限制,提供更高的准确性和更丰富的概念解释。
- 超越概念瓶颈模型:如何使黑箱可干预?
介绍了一种在已经训练好但不可解释的神经网络上进行基于概念的干预的方法,并将模型的可干预性定义为评估基于概念的干预效果的度量,通过对模型进行微调来改进干预效果并提高预测的校准性。实验结果表明,精调黑盒模型能够在干预效果上与概念瓶颈模型相媲美且 - 基于概念残差模型的分解性能测评和增强
通过对概念和残差进行分离的三种新方法来减轻信息泄露,研究和平衡模型性能和可解释性之间的关键平衡,以及如何干预概念对任务性能的影响。
- 学习可推广基于概念的模型的辅助损失
我们通过引入概念瓶颈模型(CBMs)和合作 - 概念瓶颈模型(coop-CBM)以及概念正交损失(COL),在各种分布转移设置下的实验中,提出了一种提高神经网络透明度和性能的方法。
- 驾驶穿越概念僵局:解开解释能力瓶颈
利用概念瓶颈模型为控制命令预测和用户与车辆行为的解释提出了一种新方法,通过学习人类可理解的概念层,来解释顺序驾驶场景并学习车辆控制命令。
- 瓶颈模型中的跨模式概念化
通过跨模态学习方法,我们在训练中使用文本描述来指导概念的引入,以产生可解释的概念,提高模型的健壮性。
- SurroCBM: 生成后处理解释的概念瓶颈替代模型
本文介绍了 Concept Bottleneck Surrogate Models (SurroCBM) 的新颖框架,旨在通过自动发现的概念来解释黑盒模型。通过自动生成的数据提供了有效的训练策略,不断提高解释质量,并通过广泛实验证明了 Su