选择性概念模型:允许利益相关者在测试时进行自定义
COMET 是一种元学习方法,通过学习沿着可解释的人类概念维度的模式知识,从而改进泛化能力,而不是学习一个联合的无结构度量空间。在各种领域中的少样本任务中,COMET 的表现优于强元学习基线,且提供模型预测背后的解释。
Jul, 2020
通过两阶段的概念选择模型(CSM),本研究在观察到概念的长尾分布的基础上,提出了一种无需引入人为先验的核心概念挖掘方法,实验表明该方法在解释性和理解性方面可与黑盒模型相媲美。
Apr, 2024
本篇论文提出了一种基于图像分类器的理解性决策支持系统 (DSS) -- 概念定位地图 (CLMs),它能够增强分类器的可靠性并提供合理的预测解释。通过在训练的图像分类器的潜在空间中定位相应的显著区域,CLMs 可以提供分类器学习和关注人类在图像识别过程中所注重的相似概念的定性和定量保证。研究人员通过一项新的合成数据集 SCDB 和一个现实世界数据集 CelebA 对其进行了评估,并获得了较高的定位召回率,证明了 CLMs 在实践中缓解 DSS 受重视度方面具有巨大的潜力。
May, 2020
通过建模概念间的依赖关系并引入分布参数化,提出了一种基于概念瓶颈模型的新方法,通过影响相关概念来提高干预效果,并展示了其在合成表格和自然图像数据集上显著提高干预效果的经验证据,同时还通过对 CLIP 推导的概念进行检验来展示 SCBMs 的多功能性和可用性,减少了人工概念注释的需求。
Jun, 2024
通过引入选择性集合来减轻模型的不一致性,使用随机选定的起始条件训练一组模型的预测上执行假设检验;在这些情况下,选择性集合可以放弃不一致预测结果并在指定的置信水平下达成一致结果,多个基准数据集上展示出零一致性预测点和低至 1.5%的放弃率。
Nov, 2021
本文介绍一种层次化概念瓶颈模型用于质量评估胎儿超声扫描图像,并在验证中得出了该模型在预测性能上的优势,并探讨了专家干预对提高预测性能的实际作用。
Nov, 2022
本文提出了一种基于样例理解的自选模型,使用原型概念的线性组合来解释自己的预测,以实现更好的可解释性,并通过多种限制条件进行优化。实验结果表明该方法具有良好的可解释性和竞争性的准确性。
Dec, 2022
本文介绍我们使用的方法,通过采访农业食品系统的利益相关者手动构建本体论,以适应两种互补系统分析模型(即 “Godet” 和 “MyChoice” 模型)的需求。
Jan, 2023
本文介绍了一种称为 Ascent 的方法,用于自动构建具有先进表达能力、高精度和高召回率的常识知识库,并且超越了之前的三元组限制,同时捕获了具有子组和方面的复合概念,并通过语义方面完善了断言。
Nov, 2020
本文着眼于深度神经网络内部表示的研究,并使用聚类算法提取了一组视觉概念,展示了这些概念可以用于语义部分检测的无监督方法,并将这些视觉概念组合成了一种简单的模式理论模型,名为 “构成投票”,相较于专门针对语义部分检测的支持向量机和深度网络,证明了这种方法的效果更好。
Nov, 2017