本文提出了一种基于概念瓶颈模型的新型可解释模型,集成了监督和无监督概念,减少了计算量,同时取得了比 CBM 和 SENN 更优异的实验效果,并可视化每个概念的显著性图,符合语义意义。
Feb, 2022
通过对比性语言图像模型和单一稀疏线性层,我们提出了一个简单而直观的可解释框架,通过基于贝叶斯推理的数据驱动伯努利分布来实现框架中的稀疏性,相比相关方法,在准确性和每个样本概念稀疏性方面均表现出色,为新概念的个体研究提供便利。
Aug, 2023
本研究介绍后续概念瓶颈模型(PCBM),它可以将任何神经网络转换为具有解释性的概念瓶颈模型,无需在训练数据中密集注释概念,同时保持模型性能和解释性优势。PCBM 还可以从其他数据集或自然语言描述中通过多模式模型转移概念,从而实现全局模型编辑。通过用户研究表明,通过概念层反馈编辑 PCBM 可以在不使用目标域或模型重新训练的数据的情况下,显著提高性能。
May, 2022
该研究提出一种交互式的 CBMs 模型,通过在预测过程中询问人类协作者对于某些概念的标签来提升最终预测准确率,并通过性能比较证明该模型相较于其他方法更为优越。
Dec, 2022
通过使用数学严谨的闭合形式近似和影响力函数,我们提出了可编辑的概念瓶颈模型(ECBMs),以解决从头重新训练的困境,实现高效率的数据删除和插入操作,从而适应大规模应用中的数据处理需求。
May, 2024
我们通过引入概念瓶颈模型(CBMs)和合作 - 概念瓶颈模型(coop-CBM)以及概念正交损失(COL),在各种分布转移设置下的实验中,提出了一种提高神经网络透明度和性能的方法。
Nov, 2023
概念瓶颈模型是一种具有内在可解释性的模型,本文研究了如何通过细粒度概念注释的数据集学习概念,并通过移除问题概念相关性来实现概念与输入特征之间的语义映射,通过引入基于纸牌领域的合成图像数据集作为未来研究的基准,以及在胸部 X 光数据集上的实证研究来验证概念在实际应用中的可学习性。
Feb, 2024
我们提出了一个名为 SSCBM 的新框架,通过在标记和未标记数据上进行联合训练,并在概念层面对未标记数据进行对齐,解决了现有 CBMs 训练中的限制。实验证明我们的 SSCBM 既有效又高效,在仅有 20% 标记数据的情况下,实现了 93.19%(在完全监督设置下为 96.39%)的概念准确性和 75.51%(在完全监督设置下为 79.82%)的预测准确性。
Jun, 2024
通过跨模态学习方法,我们在训练中使用文本描述来指导概念的引入,以产生可解释的概念,提高模型的健壮性。
Oct, 2023
本研究中,我们提出了一种基于概率概念瓶颈模型(Probabilistic Concept Bottleneck Models,ProbCBM)的解释性模型,它可以通过建模概念预测的不确定性来提高可靠性和解释性。我们的方法不仅可以提供高水平的概念推导,还可以推断类不确定性。
Jun, 2023