May, 2019

树状可解释人工智能：从局部解释到全局理解

PDF
TL;DR通过运用博弈论、局部特征交互作用效应和全局模型结构，我们实现了对基于树的机器学习模型的高可解释性，应用于三个医疗机器学习问题，在透露模型全局结构的同时保持其基本特征，识别出美国人口中高强度但低频率的非线性死亡风险因素，突显具有共同危险特征的明显人口亚组，识别出慢性肾脏疾病危险因素之间的非线性交互作用效应，并监测在医院部署的机器学习模型（Identifying factors leading to model's performance decay over time）
tree-based machine learning modelsinterpretabilitylocal feature interaction effectsglobal model structuremedical machine learning problems
发现论文，激发创造
  • 使用线性模型树进行准确而直观的上下文解释

    本文在财务领域探讨复杂机器学习模型的解释方法。通过使用生成对抗网络生成合成数据并训练一种新型的分段线性模型，能够提供更好的局部后续模型无关解释，其中包括对单个特征的归因以及对其背景的解释。

    Sep, 2020

  • 使用决策树评估全局模型解释的人类可理解性

    生成全球模型解释将促进人们更好地理解和做出决策，从而引导设计可信和实用的健康信息系统。

    Sep, 2023

  • 通过模型提取方法解释黑匣子模型

    为了解释黑盒模型，本文提出使用决策树对其进行全局解释，并采用新的决策树提取算法避免过拟合，评估表明该方法正确率更高且可解释性更强。

    May, 2017

  • 传统机器学习模型解释方法比较第一部分：目前方法概述及其不一致性量化

    这篇论文探讨了机器学习模型的可解释性和可解释性，特别是关于本地和全局可解释性以及特征重要性和相关性的方法，并提供了一个完整的 Python 软件包来允许未来的研究人员探索这些产品；根据对严重天气预测和亚冰点路面温度预测的 ML 模型开发的研究， 发现有关特征排名和特征效果的解释方法之间存在显着不一致，并提供建议来处理这些分歧；最后，建议在未来的研究中使用 tree interpreter 方法来探究特征效果。

    Nov, 2022

  • 模型无关的监督式本地解释

    MAPLE 是一种新颖的模型解释系统，使用局部线性建模技术和随机森林的双重解释，提供黑盒解释，并兼具高精度的预测模型和优越的局部解释能力。

    Jul, 2018

  • 本地与全局可解释性：一个计算复杂性角度

    使用计算复杂性理论评估机器学习模型的局部和全局解释性，证明了局部和全局解释之间的对偶性以及某些全局解释形式的独特性，并比较了线性模型、决策树和神经网络在计算解释复杂度方面的差异。

    Jun, 2024

  • 使用动态线性投影探索非线性模型的局部解释

    本文介绍了交互式线性插值方法及其在分类（企鹅物种，巧克力类型）和数量（足球薪资，房价）输出方面的应用，并试图通过提供局部解释来解释非线性模型的预测性能和线性特征的重要性。

    May, 2022

  • 树集成分类器的概念视角

    本文提出了一种基于格论的代数方法来解释树集成分类器中随机森林的分类性能，并展示了该方法在提供全局解释方面的能力。

    Feb, 2023

  • 机器学习预测的局部和全局可解释度度量

    本文提供了一种新颖的量化指标框架，用于解释分类器和回归模型的预测结果，旨在提高人工智能系统的透明度和可信度。应用公开数据集，展示了这些指标如何更全面地理解模型预测，并在决策者和利益相关者之间促进更好的沟通，从而增加人工智能系统的整体透明度和问责度。

    Feb, 2023

  • 决策树的优质多样进化学习

    为了解释机器学习的需求，在解释性人工智能研究方向上，决策树和增强学习的混合模型成为一个新的研究方向，其中使用了 MAP-Elites 方法来拓展模型，该方法在 OpenAI Gym 库的两个控制问题中表现良好。

    Aug, 2022