Jun, 2024

FI-CBL：一种基于专家规则的概率概念学习方法

PDF
TL;DR提出一种解决基于概念学习（CBL）问题的方法，该方法通过将每个概念标注图像划分为补丁，并使用自编码器将这些补丁转换为嵌入向量，然后假设每个聚类主要包含具有特定概念的补丁的嵌入向量，通过计算具有特定概念的图像的补丁比率，计算先验概率和后验概率以推断新图像的概念，从而结合专家规则以适应先验和条件概率，并且该方法透明，具有明确的概率计算序列和清晰的频率解释，数值实验表明在训练数据较少时，FI-CBL 的性能优于概念瓶颈模型。
concept-based learningautoencoderfrequentist inference cbllogic functionsconcept bottleneck model
发现论文，激发创造
  • 概率性概念瓶颈模型

    本研究中，我们提出了一种基于概率概念瓶颈模型（Probabilistic Concept Bottleneck Models，ProbCBM）的解释性模型，它可以通过建模概念预测的不确定性来提高可靠性和解释性。我们的方法不仅可以提供高水平的概念推导，还可以推断类不确定性。

    Jun, 2023

  • 稀疏概念瓶颈模型：对比学习中的 Gumbel 技巧

    提出了一种使用概念瓶颈模型 (CBMs) 进行可解释分类的新架构和方法，该方法能够提供解读结果，通过引入称为概念瓶颈层的新类型层，训练 CBMs 取得了显著的准确度提升，并且通过概念矩阵搜索算法改进了复杂数据集上的预测结果。

    Apr, 2024

  • 通过嵌入逼近实现概念学习以加强可解释性与透明度

    通过嵌入逼近进行概念学习的概念瓶颈模型（CBM）框架，用于构建图像分类的 CBM，优化决策过程，提供更全面的解释能力，并通过实验证明其在各类基准中的的最新性能。

    Jun, 2024

  • 概念瓶颈模型是否遵循局部性？

    CBMs 在局部和相似度方面无法准确捕捉概念的条件独立性，这对于 CBMs 学习的概念表示的质量以及基于概念的解释的鲁棒性产生了质疑。

    Jan, 2024

  • 随机概念瓶颈模型

    通过建模概念间的依赖关系并引入分布参数化，提出了一种基于概念瓶颈模型的新方法，通过影响相关概念来提高干预效果，并展示了其在合成表格和自然图像数据集上显著提高干预效果的经验证据，同时还通过对 CLIP 推导的概念进行检验来展示 SCBMs 的多功能性和可用性，减少了人工概念注释的需求。

    Jun, 2024

  • 在概念学习框架中将专家规则融入神经网络

    如何将专家规则与机器学习模型相结合以扩展基于概念的学习的问题得到了阐述。通过将逻辑规则和神经网络预测概念概率相结合来形成对概念值的组合的联合概率分布的约束来解决该问题，并提供了几种解决该问题和训练神经网络的方法，以确保概念的输出概率不会违反专家规则，其中专家规则指的是将概念与类标签或其他概念连接起来的任何逻辑函数。此论文的解决方案可以看作是归纳和演绎学习相结合的一种方式。

    Feb, 2024

  • CBCL-PR：一种在机器人领域实现逐类增量学习的认知启发模型

    通过受海马体和新皮质概念学习理论启发，我们提出了一种新颖的框架来解决小样本类递增学习的问题，在两个对象分类数据集上评估了框架的性能，结果显示其具有类递增学习和小样本类递增学习的最新技术水平，并通过在机器人上演示表明我们的框架在有限的人类辅助下能够持续学习对大量家居物品进行分类。

    Jul, 2023

  • 基于能量的概念瓶颈模型：预测、概念干预和条件解释的统一

    我们提出了基于能量的概念瓶颈模型（ECBMs），通过使用一组神经网络定义候选（输入、概念、类别）元组的联合能量，以解决现有概念瓶颈模型存在的限制，提供更高的准确性和更丰富的概念解释。

    Jan, 2024

  • 分层概念发现模型：一个概念金字塔方案

    利用深度学习算法设计了一种多层次概念发现框架，允许人类理解的概念在决策过程中高度解释性，通过图像 - 文本模型和基于数据驱动和稀疏的贝叶斯算法进行多层次概念选择，实验结果表明这种构建不仅胜过最近的 CBM 方法，而且为解释性提供了一个有原则的框架。

    Oct, 2023

  • 事后概念瓶颈模型

    本研究介绍后续概念瓶颈模型（PCBM），它可以将任何神经网络转换为具有解释性的概念瓶颈模型，无需在训练数据中密集注释概念，同时保持模型性能和解释性优势。PCBM 还可以从其他数据集或自然语言描述中通过多模式模型转移概念，从而实现全局模型编辑。通过用户研究表明，通过概念层反馈编辑 PCBM 可以在不使用目标域或模型重新训练的数据的情况下，显著提高性能。

    May, 2022