Aug, 2022

高风险领域中基于概念和论证的可解释模型

PDF
TL;DR本文提出了基于概念挖掘和基于量化论证的模型（CAM），通过获得人类可理解的概念及其关系，进行知识表征和推理，从而提供一种透明、可解释的模型，该模型具有与人类理解相一致的知识，能够与其他最先进的模型取得竞争结果。
interpretabilityartificial intelligenceconcept miningargumentation-based methodtransparency
发现论文，激发创造
  • 利用人类反馈学习可解释的基于概念的模型

    提出了一种透明的机器学习模型学习方法，使用用户的反馈来标记概念特征，从而生成透明的概念定义，以提高模型的可解释性和预测性能。

    Dec, 2020

  • 特征 CAM：解释性图像分类中的人工智能

    我们的研究比较了应用于图像分类的激活方法（ABM）中最先进的方法，并通过引入新技术 Feature CAM，得到了在可解释性方面比现有技术提高 3-4 倍的结果。

    Mar, 2024

  • 通过论证学习实现可解释性人工智能

    本文研究了从 ' 案例模型 ' 中学习参数，探究 Verheij 提出的案件模型是否可以用于从其他类型数据集中学习参数，并将其与 HeRO 算法和决策树进行比较。

    Feb, 2022

  • 面向制造环境的灵活且易理解知识表达方式，用于数据高效学习和可信人机协作

    利用 Gärdenfors 的概念空间框架，基于属性分解的方法提高了人工智能代理的知识表示，并设计了一种基于模糊逻辑的类别归属判定模型；此方法在制造领域的应用能够有效提高人工智能代理的可解释性和可信度。

    May, 2023

  • 有意义的模型：利用概念结构提高机器学习的可解释性

    本文探讨如何利用概念和意义的构建方式来创建更易理解的机器学习模型，通过提出分类概念的新方法，即 “形式” 和 “功能”，阐明了意义的本质，并提出了提高模型可理解性的建议。

    Jul, 2016

  • 解释性在旁观者的思维中：一种人类可解释表达学习的因果框架

    通过数学框架提出了一种获取可解释表示的方法，旨在建立人与算法方面之间的理解性桥梁，并为人类可解释性表示的新研究奠定基础。

    Sep, 2023

  • 基于关系概念的模型

    我们提出了一种解决关系领域中可解释深度学习模型设计问题的方法：关系概念模型（Relational Concept-Based Models）。实验结果表明，关系概念模型与现有的关系黑匣子模型在泛化性能上相匹配，并支持生成定量概念解释，有效地响应测试时干预，并适应多种严苛环境，包括分布不均、训练数据有限和概念监督不足。

    Aug, 2023

  • 机器学习中的模型无关解释框架：在 NBA 体育中的比较研究

    机器学习研究领域近年来取得巨大进展，深度学习模型在各种任务上表现出色。然而，这些模型往往在可解释性方面存在不足，因为它们作为不透明的 “黑盒子” 运行，使其决策背后的原理被遮蔽。为了解决这一挑战，我们的研究团队提出了一个创新框架，旨在权衡模型性能和可解释性之间的折衷。我们的方法以对高维数据的模块化操作为核心，可以进行端到端处理同时保持可解释性。通过融合多样化的解释技术和模块化数据处理，我们的框架可以揭示复杂模型的决策过程，而不损害其性能。我们广泛测试了我们的框架，并验证了其在实现计算效率和可解释性之间取得协调平衡方面的卓越成效。我们的方法通过在各个领域的部署中提供前所未有的对复杂模型内部工作原理的洞察，促进信任、透明度和问责制，满足当代机器学习应用的关键需求。

    Jan, 2024

  • 可解释的模型用于理解沉浸式模拟

    本文介绍了比较评估高维时间序列数据模型可解释性的方法，使用了常用的教育和医疗培训模拟中的日志数据，设计了两种解释性测试，评估模型输出与人们对模拟发生的期望或直觉的一致程度，发现完全贝叶斯方法在统计和人类可解释性测试的性能方面表现良好，是完全自动化模型选择的一个良好的选择。

    Sep, 2019

  • 模型可解释性的人类评估的挑战与机遇

    本文提出了 “描述性解释” 和 “说服性解释” 的区别，讨论了功能解释与认知功能和用户偏好可能相关的推理，并提出了两个研究方向来消除认知功能和解释模型之间的歧义，保持准确性和可解释性之间的权衡控制。

    Nov, 2017