Aug, 2023

基于关系概念的模型

PDF
TL;DR我们提出了一种解决关系领域中可解释深度学习模型设计问题的方法：关系概念模型（Relational Concept-Based Models）。实验结果表明，关系概念模型与现有的关系黑匣子模型在泛化性能上相匹配，并支持生成定量概念解释，有效地响应测试时干预，并适应多种严苛环境，包括分布不均、训练数据有限和概念监督不足。
发现论文，激发创造
  • 概念模型中的概念关系理解

    使用人类可以理解的概念构建解释的基于概念的可解释性方法为深度学习系统提供了洞察力。通过分析基于概念模型学习的概念表示，我们发现现有的方法缺乏稳定性和鲁棒性，无法准确捕捉概念间的关系。因此，我们提出了一种新算法，利用概念间的关系来提高概念干预的准确性，并展示了正确捕捉概念间关系如何改善后续任务。

    May, 2024

  • 稀疏线性概念发现模型

    通过对比性语言图像模型和单一稀疏线性层，我们提出了一个简单而直观的可解释框架，通过基于贝叶斯推理的数据驱动伯努利分布来实现框架中的稀疏性，相比相关方法，在准确性和每个样本概念稀疏性方面均表现出色，为新概念的个体研究提供便利。

    Aug, 2023

  • 概念瓶颈模型的可解释预测

    通过提出基于概念解释的概念瓶颈模型（CBMs）来预测剩余寿命，改进了深度学习在工业资产预测中缺乏解释性的问题，并展示了 CBMs 在剩余寿命预测中的性能优势和可解释性。

    May, 2024

  • 理解和增强基于概念模型的鲁棒性

    本研究旨在研究基于概念模型的鲁棒性和输出一致性的表现，提出并分析了不同的恶意攻击方式，并提出了基于对抗训练的防御机制，探讨了它们对模型在系统性扰动下的鲁棒性，发现所提出的防御方法可以提高概念模型的鲁棒性。

    Nov, 2022

  • 概率性概念瓶颈模型

    本研究中，我们提出了一种基于概率概念瓶颈模型（Probabilistic Concept Bottleneck Models，ProbCBM）的解释性模型，它可以通过建模概念预测的不确定性来提高可靠性和解释性。我们的方法不仅可以提供高水平的概念推导，还可以推断类不确定性。

    Jun, 2023

  • 分层概念发现模型：一个概念金字塔方案

    利用深度学习算法设计了一种多层次概念发现框架，允许人类理解的概念在决策过程中高度解释性，通过图像 - 文本模型和基于数据驱动和稀疏的贝叶斯算法进行多层次概念选择，实验结果表明这种构建不仅胜过最近的 CBM 方法，而且为解释性提供了一个有原则的框架。

    Oct, 2023

  • 可解释的神经符号概念推理

    提出可解释的 Deep Concept Reasoner（DCR）模型，通过对概念嵌入的语义逻辑规则构建实现任务预测，从而在解释过程中提高了模型的可靠性和人类可信度。

    Apr, 2023

  • 通过嵌入逼近实现概念学习以加强可解释性与透明度

    通过嵌入逼近进行概念学习的概念瓶颈模型（CBM）框架，用于构建图像分类的 CBM，优化决策过程，提供更全面的解释能力，并通过实验证明其在各类基准中的的最新性能。

    Jun, 2024

  • 证据概念嵌入模型：面向皮肤疾病诊断的可靠概念解释

    由于医疗决策的重要性，对于医学图像分析中的可解释深度学习方法有着强烈的需求。本文提出了一种基于证据学习的概念嵌入模型 (ev-CEM)，用于建模概念的不确定性，并利用其来纠正在没有完全概念监督下使用视觉 - 语言模型训练概念瓶颈模型时出现的概念错位。通过使用所提出的方法，我们可以增强监督和高效标签设置下的概念解释的可靠性。此外，我们还引入了概念的不确定性以实现有效的测试时干预。我们的评估结果表明，ev-CEM 在概念预测方面具有出色的性能，并且所提出的概念纠正方法有效地减少了高效标签训练中的概念错位。我们的代码可在此 https URL 获取。

    Jun, 2024

  • 关系深度学习：关系数据库上的图表示学习

    关系数据库中的数据存储方式使得使用机器学习模型变得具有挑战性和耗时，通过引入关系深度学习（RDL）方法，我们可以直接学习跨多个表格布置的数据，而无需进行手动特征工程。关系深度学习通过自动学习图引导，从而提取利用所有输入数据的表示，从而构建更准确的模型且速度更快。

    Dec, 2023