该论文介绍了一种基于自监督学习和定制的正则化器来实现图像分类任务中深度神经网络解释性的 Bottleneck Concept Learner 方法。

Apr, 2023

本研究提出了一种基于 GPT-3 语言模型的 LaBo 方法来构建 Concept Bottleneck Models，LaBo 可以有效地搜索与给定问题领域相关的候选瓶颈概念，通过将 GPT-3 的句式概念与图像对齐形成瓶颈层，最终实验结果显示，LaBo 提高了 11.7% 的准确性，证明了解释性模型的广泛应用前景。

Nov, 2022

通过在训练时预测概念并使用这些概念预测标签，概念瓶颈模型提供了对医学影像等领域高级概念的解释与干预，并允许更丰富的人机交互操作，从而实现了与标准的端到端分类器相当的分类准确性。

Jul, 2020

解读性是构建可靠模型的关键因素，通过利用人类可理解的概念作为中间目标，概念瓶颈模型（CBMs）实现了可解释的图像分类。我们提出了一种可视化激活评分，用于衡量概念是否包含视觉线索，通过利用未标记的图像数据简单计算，该评分用于筛选出含有视觉含义的重要概念，并在实验中验证了该方法的有效性。

Aug, 2023

通过将现代图像描述器与预训练的语言模型相结合，语言瓶颈模型在灾害图像分类任务中能够超过黑盒模型的分类准确率，并且通过融合两者可以产生协同效应，进一步提高分类准确率。

Jun, 2024

应用于乳腺超声图像中的人工智能模型具有潜在的减轻癌症负担的应用前景。本研究提出了一种能够解释其预测结果的可解释人工智能模型，并通过预测具有特定临床意义的乳腺影像学术语来方便放射科医师审查和纠正错误，从而提高癌症分类的性能。

Jun, 2024

通过跨模态学习方法，我们在训练中使用文本描述来指导概念的引入，以产生可解释的概念，提高模型的健壮性。

Oct, 2023

提出一种名为 Text Bottleneck Models（TBMs）的可解释性文本分类框架，通过使用 Large Language Model（LLM）自动发现和测量一组显著概念，并利用线性层将这些概念值用于最终预测，从而在高风险领域中提供全局和局部解释，进而在广泛文本领域中提高解释性能。

Oct, 2023

本研究旨在研究基于概念模型的鲁棒性和输出一致性的表现，提出并分析了不同的恶意攻击方式，并提出了基于对抗训练的防御机制，探讨了它们对模型在系统性扰动下的鲁棒性，发现所提出的防御方法可以提高概念模型的鲁棒性。

Nov, 2022

介绍了一种在已经训练好但不可解释的神经网络上进行基于概念的干预的方法，并将模型的可干预性定义为评估基于概念的干预效果的度量，通过对模型进行微调来改进干预效果并提高预测的校准性。实验结果表明，精调黑盒模型能够在干预效果上与概念瓶颈模型相媲美且更高性能。

Jan, 2024