我们提出了一个名为 SSCBM 的新框架,通过在标记和未标记数据上进行联合训练,并在概念层面对未标记数据进行对齐,解决了现有 CBMs 训练中的限制。实验证明我们的 SSCBM 既有效又高效,在仅有 20% 标记数据的情况下,实现了 93.19%(在完全监督设置下为 96.39%)的概念准确性和 75.51%(在完全监督设置下为 79.82%)的预测准确性。
Jun, 2024
提出了一种新的框架 Label-free CBM,能够将任何神经网络转换成可解释的 CBM,而无需标记的概念数据,且准确性高,并成功地将其扩展到 ImageNet 数据集上,整个创建过程只需要几个小时,未来能在实际的实际场景中大规模应用。
Apr, 2023
本研究介绍后续概念瓶颈模型(PCBM),它可以将任何神经网络转换为具有解释性的概念瓶颈模型,无需在训练数据中密集注释概念,同时保持模型性能和解释性优势。PCBM 还可以从其他数据集或自然语言描述中通过多模式模型转移概念,从而实现全局模型编辑。通过用户研究表明,通过概念层反馈编辑 PCBM 可以在不使用目标域或模型重新训练的数据的情况下,显著提高性能。
May, 2022
我们提出了递增残差概念瓶颈模型(Res-CBM),以解决概念完整性的挑战。通过优化向量来完成缺失的概念,并将不明确含义的补充向量转化为候选概念库中的潜在概念,以增强任何 CBM 的性能。实验结果表明,Res-CBM 在准确性和效率方面优于当前最先进的方法,并在多个数据集上实现了与黑盒模型相当的性能。
Apr, 2024
我们通过引入概念瓶颈模型(CBMs)和合作 - 概念瓶颈模型(coop-CBM)以及概念正交损失(COL),在各种分布转移设置下的实验中,提出了一种提高神经网络透明度和性能的方法。
Nov, 2023
本文介绍了 Concept Bottleneck Surrogate Models (SurroCBM) 的新颖框架,旨在通过自动发现的概念来解释黑盒模型。通过自动生成的数据提供了有效的训练策略,不断提高解释质量,并通过广泛实验证明了 SurroCBM 在概念发现和解释方面的有效性,突显了其在可解释 AI 领域的潜力。
Oct, 2023
本研究中,我们提出了一种基于概率概念瓶颈模型(Probabilistic Concept Bottleneck Models,ProbCBM)的解释性模型,它可以通过建模概念预测的不确定性来提高可靠性和解释性。我们的方法不仅可以提供高水平的概念推导,还可以推断类不确定性。
Jun, 2023
该研究提出一种交互式的 CBMs 模型,通过在预测过程中询问人类协作者对于某些概念的标签来提升最终预测准确率,并通过性能比较证明该模型相较于其他方法更为优越。
Dec, 2022
提供标签监督和层次化概念集概念预测模式,SupCBM 消除信息泄漏问题,实现准确预测和解释。
Feb, 2024
通过建模概念间的依赖关系并引入分布参数化,提出了一种基于概念瓶颈模型的新方法,通过影响相关概念来提高干预效果,并展示了其在合成表格和自然图像数据集上显著提高干预效果的经验证据,同时还通过对 CLIP 推导的概念进行检验来展示 SCBMs 的多功能性和可用性,减少了人工概念注释的需求。