本研究旨在研究基于概念模型的鲁棒性和输出一致性的表现，提出并分析了不同的恶意攻击方式，并提出了基于对抗训练的防御机制，探讨了它们对模型在系统性扰动下的鲁棒性，发现所提出的防御方法可以提高概念模型的鲁棒性。

Nov, 2022

本研究中，我们提出了一种基于概率概念瓶颈模型（Probabilistic Concept Bottleneck Models，ProbCBM）的解释性模型，它可以通过建模概念预测的不确定性来提高可靠性和解释性。我们的方法不仅可以提供高水平的概念推导，还可以推断类不确定性。

Jun, 2023

研究发现概念瓶颈模型很难满足解释性、可预测性和干预性三个目标，使用事后可解释性方法证明概念与输入空间中任何语义上有意义的东西都不对应，因此质疑概念瓶颈模型在目前形式下的实用性。

May, 2021

通过构建和解释高层概念的预测，概念瓶颈模型（CBMs）解决了神经架构的不透明性。我们提出了一种新的 CBM 基于架构和训练范式的模型，称为 Intervention-aware Concept Embedding models（IntCEMs），通过在训练时学习概念干预策略，有效地选择和接受概念干预，从而在测试时显著提高性能。我们的实验证明，当提供测试时概念干预时，IntCEMs 明显优于最先进的概念可解释模型，验证了我们方法的有效性。

Sep, 2023

我们提出了基于能量的概念瓶颈模型（ECBMs），通过使用一组神经网络定义候选（输入、概念、类别）元组的联合能量，以解决现有概念瓶颈模型存在的限制，提供更高的准确性和更丰富的概念解释。

Jan, 2024

由于医疗决策的重要性，对于医学图像分析中的可解释深度学习方法有着强烈的需求。本文提出了一种基于证据学习的概念嵌入模型 (ev-CEM)，用于建模概念的不确定性，并利用其来纠正在没有完全概念监督下使用视觉 - 语言模型训练概念瓶颈模型时出现的概念错位。通过使用所提出的方法，我们可以增强监督和高效标签设置下的概念解释的可靠性。此外，我们还引入了概念的不确定性以实现有效的测试时干预。我们的评估结果表明，ev-CEM 在概念预测方面具有出色的性能，并且所提出的概念纠正方法有效地减少了高效标签训练中的概念错位。我们的代码可在此 https URL 获取。

Jun, 2024

该研究提出一种交互式的 CBMs 模型，通过在预测过程中询问人类协作者对于某些概念的标签来提升最终预测准确率，并通过性能比较证明该模型相较于其他方法更为优越。

Dec, 2022

通过在训练时预测概念并使用这些概念预测标签，概念瓶颈模型提供了对医学影像等领域高级概念的解释与干预，并允许更丰富的人机交互操作，从而实现了与标准的端到端分类器相当的分类准确性。

Jul, 2020

该研究论文通过引入可训练的概念干预调整模块，利用概念关系重定位干预后的概念分配，从而显著提高干预效果，并且能够降低人机协作成本。

May, 2024

介绍了一种在已经训练好但不可解释的神经网络上进行基于概念的干预的方法，并将模型的可干预性定义为评估基于概念的干预效果的度量，通过对模型进行微调来改进干预效果并提高预测的校准性。实验结果表明，精调黑盒模型能够在干预效果上与概念瓶颈模型相媲美且更高性能。

Jan, 2024